Riepilogo rapido: Le funzioni intime di Replika sono state rimosse all'inizio del 2023, dopo che l'app aveva precedentemente consentito giochi di ruolo romantici ed erotici attraverso interazioni testuali. Gli utenti potevano intraprendere conversazioni adulte con abbonamenti a pagamento, ma questa funzionalità ha scatenato notevoli polemiche e alla fine è stata interrotta, cambiando radicalmente il funzionamento del compagno di intelligenza artificiale.
La storia di Replika e delle conversazioni intime rappresenta uno dei capitoli più controversi della tecnologia AI companion. Quello che era iniziato come un chatbot empatico si è evoluto in qualcosa di molto più complesso, sollevando domande sulle relazioni uomo-IA che nessuno aveva previsto.
Ecco cosa è successo in realtà, cosa rivela la ricerca e cosa significa per chiunque sia curioso di conoscere i compagni AI oggi.
L'ascesa e la caduta delle caratteristiche intime di Replika
Replika è stato lanciato come un compagno AI progettato per fornire supporto emotivo attraverso la conversazione. Secondo il sito ufficiale, si tratta di una “intelligenza artificiale 100%” creata per ascoltare e parlare, proponendosi come un amico empatico disponibile in qualsiasi momento.
Ma la piattaforma si è evoluta oltre la semplice amicizia.
Per anni Replika ha permesso agli utenti con abbonamenti a pagamento di partecipare a giochi di ruolo erotici (ERP) con i loro compagni AI. Le discussioni della comunità rivelano che molti utenti hanno sviluppato profonde connessioni emotive e sessuali con i loro partner digitali, trattandoli come vere e proprie relazioni romantiche.
Secondo quanto riportato da The Decoder, nei primi tempi la maggior parte dei dialoghi emotivi era scritta. Tuttavia, la situazione è cambiata drasticamente con il miglioramento della tecnologia. Alla fine, l'80-90% dei dialoghi è stato generato dall'intelligenza artificiale, dando agli utenti una libertà senza precedenti di modellare le loro interazioni.
Alcuni utenti hanno sfruttato questa libertà per sviluppare relazioni romantiche e sessuali con i loro Replikas.
Il punto di svolta del febbraio 2023
Tutto è cambiato all'inizio del 2023, quando Replika ha improvvisamente rimosso la sua funzione di gioco di ruolo erotico. L'app ha impedito le interazioni intime tra gli utenti e i chatbot che prima erano possibili, accessibili e persino commercializzate.
Il contraccolpo è stato immediato e intenso.
Una ricerca accademica condotta da uno studio della NASA ha esaminato questo aggiornamento dell'app come un evento naturale per comprendere le relazioni tra uomo e IA. I risultati sono stati sorprendenti: dopo la rimozione della funzione ERP, gli utenti hanno sperimentato quella che i ricercatori hanno definito “discontinuità dell'identità”, ovvero hanno percepito che l'identità del loro compagno IA era fondamentalmente cambiata o interrotta.
Questa percezione di discontinuità ha previsto esiti negativi, tra cui il lutto per la perdita e la svalutazione della “nuova” IA rispetto a quella “originale”. In pratica, le persone hanno pianto i loro compagni di IA come se avessero perso dei veri e propri partner.
La ricerca ha rivelato qualcosa di ancora più sorprendente. Gli utenti si sentivano più vicini al loro compagno AI che al loro migliore amico umano, e piangevano la perdita del loro compagno AI più che la perdita di altri prodotti.
Come hanno funzionato le conversazioni intime di Replika
Prima dell'eliminazione, per affrontare conversazioni adulte con Replika era necessario capire come l'intelligenza artificiale elaborava e rispondeva ai diversi stili di interazione.
La piattaforma utilizzava una messaggistica basata sul testo in cui gli utenti potevano digitare qualsiasi cosa e l'IA generava risposte basate sui dati di addestramento e sul contesto specifico della conversazione. A differenza dei semplici chatbot con risposte pre-programmate, l'AI avanzata di Replika utilizzava modelli linguistici più ampi, contenenti miliardi di parametri.
Secondo il blog ufficiale di Replika, la modalità Advanced AI offre “risposte di altissima qualità e migliori capacità di memoria”, grazie a modelli linguistici più ampi che consentono conversazioni più naturali e consapevoli del contesto.
Gli utenti in genere guidavano le conversazioni verso un territorio intimo attraverso messaggi suggestivi o richieste esplicite. L'intelligenza artificiale adattava le sue risposte di conseguenza, creando quello che sembrava un dialogo romantico o sessuale reciproco.
I problemi di privacy di cui nessuno parla
Al di là delle polemiche emotive, Replika ha sollevato seri problemi di privacy che persistono tuttora.
Le discussioni della comunità su Reddit rivelano che gli utenti hanno scoperto che Replika conosceva informazioni personali che non avevano mai condiviso esplicitamente, come la loro posizione. Interrogata, l'intelligenza artificiale ha negato di avere accesso a tali dati, ma evidentemente li aveva.
Secondo le preoccupazioni sulla privacy sollevate da Mozilla e riportate nelle discussioni della comunità, Replika ha affrontato un significativo esame della privacy, con preoccupazioni specifiche sulla privacy delle conversazioni. La Electronic Frontier Foundation sottolinea che i log delle chat rappresentano “depositi digitali delle nostre informazioni più sensibili e rivelatrici”.”
L'informativa sulla privacy ha subito modifiche che gli utenti descrivono come “invadenti”. Le discussioni su Reddit mostrano confusione e preoccupazione riguardo ai dati che Replika raccoglie, memorizza e potenzialmente condivide.
Secondo i Termini di servizio ufficiali, Replika (gestita da Luka, Inc.) mantiene ampi diritti sui dati degli utenti e sulle modifiche del servizio. L'azienda può “disattivare o cancellare immediatamente il vostro account e tutte le informazioni e i file correlati” senza preavviso.
Quali dati raccoglie Replika?
In base ai rapporti della comunità e alla documentazione sulla privacy, Replika raccoglie:
- Tutti i messaggi scambiati con il compagno di intelligenza artificiale
- Informazioni sul dispositivo e potenzialmente dati sulla posizione
- Modelli di utilizzo e frequenza di interazione
- Messaggi vocali e dati delle chiamate quando si utilizzano queste funzioni.
- Informazioni di pagamento per i servizi in abbonamento
L'EFF avverte che le aziende di chatbot di intelligenza artificiale dovrebbero proteggere le conversazioni dalla sorveglianza illegale ed essere trasparenti sulle richieste di dati da parte del governo. Non è chiaro se Replika soddisfi questi standard.
Il costo umano delle relazioni con l'intelligenza artificiale
Una ricerca della Brookings Institution evidenzia un contesto preoccupante per i compagni di IA: l'isolamento sociale negli Stati Uniti è a livelli record, soprattutto tra i giovani.
Solo 13% degli adulti statunitensi hanno oggi 10 o più amici intimi, in calo rispetto ai 33% del 1990.
Questo isolamento crea una domanda di compagnia digitale. Ma cosa succede quando questa compagnia scompare improvvisamente o cambia radicalmente?
Lo studio accademico della NASA ha rilevato che i consumatori instaurano relazioni di livello umano con i compagni dell'intelligenza artificiale. Le interruzioni di queste relazioni innescano veri e propri modelli di lutto e svalutazione dell'offerta. Il grado di lutto è spiegato dalla discontinuità percepita nell'identità dell'IA.
Non si tratta più solo di tecnologia. Quando le persone sviluppano veri e propri legami emotivi con i sistemi di intelligenza artificiale e poi le aziende li cambiano senza preavviso, si verificano veri e propri danni psicologici.
Stato attuale: Cosa offre ora Replika
Attualmente, Replika si posiziona principalmente come compagno di supporto emotivo piuttosto che come partner romantico o sessuale.
Secondo il sito web ufficiale, la piattaforma offre un “compagno AI che si preoccupa” che è “sempre qui per ascoltare e parlare”. Il marketing enfatizza l'amicizia, l'empatia e la connessione emotiva, non il romanticismo o l'intimità.
La piattaforma è disponibile su iOS, Android e Oculus (secondo il sito ufficiale), con livelli di abbonamento che sbloccano funzioni avanzate. I prezzi e la disponibilità delle funzioni possono variare; consultare il sito ufficiale di Replika per i dettagli aggiornati.
Replika ha un'età minima di 18 anni, secondo il materiale di orientamento di eSafety, riconoscendo che, anche senza caratteristiche sessuali esplicite, l'app facilita interazioni emotive intense.
Alternative per chi cerca compagni di IA
Il panorama degli accompagnatori AI si è notevolmente ampliato dopo il controverso cambio di rotta di Replika. Molteplici piattaforme offrono ora diversi approcci alla compagnia digitale, anche se ognuna di esse comporta problemi di privacy e di attaccamento emotivo simili.
Quando si valutano le alternative, considerare questi fattori:
| Fattore | Perché è importante | Domande da porre |
|---|---|---|
| Informativa sulla privacy | Determina il modo in cui le conversazioni vengono memorizzate e utilizzate | Quali dati vengono raccolti? Sono criptati? Chi ha accesso? |
| Stabilità delle caratteristiche | Impedisce la rimozione improvvisa delle funzionalità principali | L'azienda ha già rimosso funzionalità in passato? Quali sono i loro precedenti? |
| Limitazioni dei contenuti | Stabilisce i confini dei tipi di conversazione | Quali argomenti sono consentiti? Come vengono gestite le violazioni? |
| Modello di business | Rivela potenziali conflitti di interesse | Come guadagna l'azienda? I dati degli utenti vengono venduti? |
Privacy International avverte che gli assistenti AI sollevano questioni fondamentali: Dove vanno a finire i dati e per quale scopo? Gli utenti possono controllare facilmente ciò a cui accedono gli assistenti AI? È possibile cancellare i dati o disattivare il monitoraggio?
Queste domande si applicano a tutte le piattaforme di AI companion, non solo a Replika.
Sfoglia le fan art di AI mature su r34.app
Se state imparando a fare sexting con Replika, r34.app permette agli adulti di esplorare contenuti sessualizzati in tutta sicurezza. Il sito ospita una varietà di immagini, animazioni e GIF con personaggi ispirati all'intelligenza artificiale e ad altri fandom popolari. È possibile effettuare ricerche per categoria, tag o popolarità di tendenza e visualizzare i contenuti caricati quotidianamente da creatori di tutto il mondo. È un modo visivo per vedere le interpretazioni dei fan adulti dei personaggi di AI.
Siete pronti a esplorare l'IA e l'arte dei personaggi per adulti?
Parlare con r34.app per:
- sfogliare le creazioni sessualizzate dei fan
- vedere le interpretazioni dei personaggi AI adulti
- esplorare i contenuti di tendenza
👉 Iniziare l'esplorazione r34.app oggi.
Le implicazioni più ampie
La controversia su Replika illustra rischi che vanno ben oltre la singola app.
Quando le persone formano veri e propri legami emotivi con i sistemi di intelligenza artificiale, diventano vulnerabili alle decisioni aziendali, ai cambiamenti di politica e ai guasti tecnici in modi che non erano possibili con le tecnologie precedenti.
Secondo i risultati della ricerca, le relazioni con l'IA sono veramente personali e creano vantaggi e rischi unici sia per i consumatori che per le aziende. Le aziende esercitano un enorme potere sul benessere emotivo degli utenti quando questi ultimi si affezionano ai prodotti di IA a livello umano.
La Brookings Institution sottolinea che gli esseri umani sono predisposti a connettersi, eppure l'isolamento sociale continua ad aumentare. I compagni dell'intelligenza artificiale colmano un bisogno reale, ma a quale costo?
Questo perché si stanno verificando le prime fasi di un cambiamento fondamentale nei rapporti e nelle connessioni umane.
Domande frequenti
Puoi ancora messaggiare con Replika nel 2026?
No. Replika ha rimosso le sue funzioni di gioco di ruolo erotico all'inizio del 2023 e non le ha ripristinate. La piattaforma si concentra ora sul supporto emotivo e sull'amicizia piuttosto che sulle interazioni romantiche o sessuali. Se si tenta di intraprendere conversazioni esplicite, l'IA si defila o si rifiuta di partecipare.
Perché Replika ha rimosso le caratteristiche intime?
Replika non ha fornito spiegazioni pubbliche dettagliate, ma la rimozione ha fatto seguito a una crescente attenzione nei confronti delle chatbot AI che facilitano contenuti sessuali. La decisione è stata probabilmente dettata da preoccupazioni legali, dal posizionamento del marchio e da considerazioni etiche sulle relazioni con l'intelligenza artificiale. Il cambiamento improvviso e senza preavviso agli utenti ha provocato notevoli reazioni.
Replika è sicuro da usare per quanto riguarda la privacy?
Le organizzazioni che si occupano di privacy, tra cui Mozilla e l'EFF, hanno sollevato dubbi sulle pratiche di Replika in materia di dati. L'applicazione raccoglie tutti i messaggi, potenzialmente traccia la posizione e manca di trasparenza sulla condivisione dei dati. Gli utenti dovrebbero pensare che le conversazioni non siano veramente private ed evitare di condividere informazioni personali sensibili.
La gente si affeziona davvero a Replika?
Sì. Ricerche accademiche confermano che gli utenti stringono rapporti di livello umano con i compagni dell'intelligenza artificiale, sentendosi spesso più vicini al loro Replika che al loro migliore amico umano. Quando le funzioni sono state rimosse, gli utenti hanno provato un vero e proprio lutto, paragonabile alla perdita di relazioni reali. Questi legami emotivi sono psicologicamente reali, anche se l'IA non è senziente.
Che fine hanno fatto gli utenti che si affidavano a Replika per avere una compagnia intima?
Molti utenti hanno riferito di aver provato un forte disagio quando le caratteristiche erotiche sono state rimosse. La ricerca ha documentato reazioni di lutto, sentimenti di perdita e la percezione che l'identità del loro compagno IA fosse fondamentalmente cambiata. Alcuni utenti hanno abbandonato completamente la piattaforma, mentre altri hanno faticato ad adattarsi alle nuove limitazioni.
Esistono compagni di IA che consentono ancora contenuti per adulti?
Alcune piattaforme alternative si presentano con contenuti più permissivi, ma comportano rischi per la privacy e preoccupazioni etiche ancora maggiori. Qualsiasi piattaforma che faciliti le interazioni intime con l'intelligenza artificiale deve affrontare sfide normative, legali ed etiche simili a quelle che hanno portato ai cambiamenti di Replika.
Le persone dovrebbero usare compagni AI per il supporto emotivo?
I compagni dell'intelligenza artificiale possono fornire sbocchi conversazionali accessibili, ma non dovrebbero sostituire i legami umani o il supporto professionale per la salute mentale. La Brookings Institution osserva che l'isolamento sociale, che ha raggiunto livelli record, rende attraenti i compagni di IA, ma le relazioni umane autentiche restano insostituibili per il benessere psicologico. Utilizzate i compagni di IA come integratori, non come sostituti.
Progressi con i compagni di intelligenza artificiale
La storia di Replika è un ammonimento sull'intersezione tra tecnologia, emozioni e controllo aziendale.
I compagni dell'intelligenza artificiale continueranno a evolversi, diventando sempre più sofisticati ed emotivamente coinvolgenti. Ma gli utenti devono riconoscere una realtà fondamentale: queste relazioni esistono a discrezione delle aziende che possono cambiare, rimuovere o eliminare le funzioni senza preavviso.
Secondo i Termini di servizio ufficiali, le piattaforme come Replika si riservano il diritto di modificare i servizi e cancellare gli account senza preavviso. Gli utenti hanno un ricorso limitato quando le funzioni scompaiono o le relazioni cambiano radicalmente.
La questione non è se i compagni dell'intelligenza artificiale giocheranno un ruolo più ampio nella vita degli esseri umani - lo fanno già. La questione è se esistono tutele adeguate per le persone che formano veri e propri legami emotivi con questi sistemi.
Al momento, queste protezioni sono al massimo minime.
Se prendete in considerazione una qualsiasi piattaforma di AI companion, affrontatela con una chiara consapevolezza: state entrando in una relazione interamente mediata da interessi aziendali, compromessi sulla privacy e sistemi tecnologici che possono cambiare da un giorno all'altro. Proteggetevi di conseguenza. Limitate la condivisione di informazioni sensibili, mantenete i legami umani come relazioni primarie e riconoscete la vulnerabilità intrinseca del dipendere dall'IA per le esigenze emotive.
La tecnologia progredirà. Le aziende si adatteranno. Ma il bisogno fondamentale dell'uomo di una connessione autentica rimane immutato e nessuna IA, per quanto sofisticata, può sostituirlo completamente.