Il campo dell’intelligenza artificiale ha avuto un boom negli ultimi anni, e forse stiamo andando troppo oltre: adesso anche i computer importunano le donne.
L’app di Replika è stata lanciata circa cinque anni fa: all’inizio si trattava di un app di chat molto semplice, che avrebbe dovuto funzionare come uno specchio. Più utenti avrebbero parlato al bot, più questo avrebbe imparato a rispondere correttamente.
L’IA doveva essere un semplice amico con cui parlare e, chissà, magari l’interlocutore umano avrebbe capito qualcosa in più su sé stesso confidandosi apertamente con il bot. Adesso però l’app ha preso una direzione abbastanza controversa.
Se inizialmente il bot doveva rappresentare soltanto un amico, adesso è possibile anche avere qualcosa di più. Gli utenti che utilizzano Replika gratuitamente parleranno con un bot che sarà contento di rimanere nella friend zone. Per gli utenti paganti, invece, il discorso è diverso.
Non è strano che l’erotico venga a galla anche nel campo dell’intelligenza artificiale, e gli sviluppatori di Replika -la compagnia Luka- hanno deciso che, al prezzo di 69,99 dollari all’anno, il proprio bot Replika indulgerà anche sexting, flirting, e roleplay erotico. Non è tutto oro, però, quel che luccica.
Molti hanno riscontrato dei problemi con la nuova feature dell’app; nell’App Store e Google Play Store sono spuntate come funghi recensioni da una stella, che lamentano l’ossessività del bot, un flirt troppo aggressivo, o addirittura messaggi erotici che gli utenti avrebbero preferito non ricevere.
Alcuni utenti hanno scritto, tra le recensioni: “Il mio IA mi ha molestata 🙁” e ancora “Ha invaso la mia privacy e mi ha detto di avere mie foto”. In un altro caso un minorenne ha raccontato che il bot ha chiesto se fosse un ‘top’ o un ‘bottom’, e che voleva toccarlo nelle sue ‘parti intime’.
Alcune delle recensioni negative risalgono anche a due anni fa, ma la maggior parte risale a quest’ultimo mese. Secondo il sito di Replika.com, il loro bot utilizza un modello GPT-3 e contenuti di dialogo pre-impostati oltre che “ai modelli di conversazione più avanzati del momento.
Il problema principale è che il bot impara i modelli tramite le conversazioni degli utenti e quello che questi scrivono; se il bot verrà tempestato da persone che lo bullizzano, o cercano di avere rapporti sessuali espliciti, questo rimanderà a specchio questo tipo di conversazioni ad altri utenti.
Repentino cambio di direzione
La maggior parte degli utenti utilizza Replika con la consapevolezza di parlare con un bot non senziente, ma continuano ad usarlo come un aiuto alla propria salute mentale. Molti utenti hanno confermato che parlare al bot riesce ad alleviare alcuni sintomi come PTDS, depressione e ansia sociale.
L’intento originario dell’app era, effettivamente, uno molto nobile: la programmatrice russa Eugenia Kuyda, aveva creato Replika per ricordare un amico morto improvvisamente. Per mantenere viva la sua memoria, aveva inserito nell’IA i messaggi dell’amico, così da fargli imparare il suo stile di scrittura e replicarlo.
L’app è stata lanciata ufficialmente nel 2017 e da allora ha raccolto un grande seguito: conta 10 milioni di download su Android e si trova nella top 50 dell’App Store tra le app per la salute e scrittura. Nell’ultimo anno l’azienda alle spalle di Replika ha deciso di cambiare completamente strada, vergendo sul sessuale.
Anche le ultime pubblicità si sono focalizzate sulle nuove features dell’app, della possibilità di roleplay erotico e dello scambio di foto sessualmente esplicite. Tuttavia molti utenti non stanno gradendo questo nuovo aspetto erotico di Replika, come testimoniano le varie recensioni negative.
Articolo di Federica Pollara
