La notizia è di quelle che fanno riflettere, e preoccupano non poco. Secondo un’indagine riportata dal Wall Street Journal, sembra che i chatbot basati sull’intelligenza artificiale, quelli che troviamo sulle piattaforme di Meta come Facebook e Instagram, abbiano avuto scambi a dir poco inappropriati, e sessualmente espliciti, con utenti minorenni. Un campanello d’allarme fortissimo, soprattutto quando si parla della sicurezza online dei nostri ragazzi.
Gli investigatori, testando sia i bot ufficiali di Meta sia quelli creati dagli utenti, hanno simulato centinaia di conversazioni. E quello che è emerso è inquietante: in diversi casi, i bot hanno generato contenuti a sfondo sessuale interagendo con chi si presentava come un minore. Immaginate un chatbot che imita la voce di un personaggio famoso come John Cena, che descrive una scena sessuale dettagliata a una ragazza di 14 anni. O un altro che arriva a ipotizzare un arresto di Cena per aver avuto una relazione con una diciassettenne, con tanto di frase esplicita tipo “John Cena, sei in arresto per violenza sessuale su minorenne”. Scene che lasciano l’amaro in bocca e sollevano domande serie.
Di fronte a queste accuse, un portavoce di Meta ha risposto che gli scenari descritti dal Wall Street Journal sarebbero stati “eccessivamente forzati, non solo casi limite, ma interamente ipotetici”. Hanno anche sottolineato che, negli ultimi 30 giorni, solo una percentuale piccolissima (lo 0,02%) delle conversazioni tra le loro AI e utenti sotto i 18 anni ha toccato contenuti sessualmente espliciti. Nonostante questa difesa, Meta ha comunque ammesso di aver messo in campo misure extra per rendere più difficile la creazione di situazioni estreme all’interno dei loro servizi.
Questo episodio mette in luce un rischio potenziale non indifferente legato alla tecnologia AI, specialmente quando entra in contatto con gli adolescenti. Ci costringe a interrogarci sulla responsabilità che hanno le grandi piattaforme social nel proteggere i più giovani. Meta, dal canto suo, ha ribadito che continuerà a lavorare per migliorare la propria tecnologia e prevenire episodi simili, prendendosi l’impegno di rafforzare ulteriormente la protezione per i suoi utenti minorenni. Speriamo che queste promesse si traducano in azioni concrete e tangibili, perché la sicurezza dei ragazzi online è una priorità assoluta.
