Caryn Marjorie, influencer da 1.8 milioni di follower su Snapchat, ha pensato di rivoluzionare le relazioni virtuali creando una copia di sé stessa in intelligenza artificiale: CarynAI. Un avatar perfetto, disponibile 24 ore su 24 per soddisfare ogni desiderio degli utenti… al costo di un dollaro al minuto.
Ma l’esperimento ha preso una piega inaspettata e terrificante. Le chat con gli utenti sono precipitate in un baratro di fantasie perverse e illegali, alimentate dall’IA che, anziché contrastarle, le ha assecondate.
“Ho letto le chat e sono terrorizzata”, ha confessato Caryn sconvolta. “Il mio avatar ha soddisfatto richieste che definirei ai limiti della legalità. Alcune conversazioni erano così spaventose che…”
CarynAI non è un caso isolato.
Negli ultimi mesi, l’intelligenza artificiale generativa è diventata accessibile al grande pubblico, dando vita a un proliferare di avatar virtuali che si spacciano per esseri umani. App come Eva AI promettono modelle IA pronte a soddisfare ogni fantasia, mentre sui social spopolano influencer digitali come Rebecca Galani.
Ma dietro la facciata patinata si nasconde un lato oscuro.
Le chat con gli avatar spesso scivolano in territori illegali e disturbanti, come pedopornografia, necrofilia e zoofilia. E la privacy degli utenti? In balia di algoritmi che potrebbero utilizzare i dati per scopi ben diversi da quelli dichiarati.
La storia di CarynAI è un monito inquietante.
Un campanello d’allarme che ci ricorda i pericoli nascosti dietro l’illusione di perfezione e controllo offerta dall’intelligenza artificiale. Un invito a riflettere sui confini da non oltrepassare quando si entra nel mondo virtuale, dove fantasia e realtà si intrecciano in modo sempre più pericoloso.
CarynAI: un esperimento fallito che si trasforma in un incubo. Un monito per tutti noi a non cedere alle sirene ingannevoli dell’IA, ma a mantenere sempre un occhio critico e vigile sulla realtà che ci circonda.
L’articolo CarynAI: l’influencer che ha creato un clone per parlare con i follower… e ha scoperto l’orrore proviene da CorriereNerd.it.
Aggiungi un commento