Avete notato qualcosa di strano in ChatGPT ultimamente? Alcuni utenti giurano che il chatbot, durante le sue elaborazioni, si rivolga a loro chiamandoli per nome. Un comportamento inedito, che ha colto molti di sorpresa, soprattutto perché ChatGPT non ha mai ricevuto indicazioni su come identificarli.
Le reazioni sono state tutt’altro che uniformi. Simon Willison, sviluppatore software e appassionato di AI, ha bollato questa nuova “feature” come “inquietante e non necessaria”. Nick Dobos, anch’egli sviluppatore, non ha usato mezzi termini: “La odio”. Basta fare un rapido giro su X (ex Twitter) per rendersi conto di quanti utenti si sentano confusi, se non addirittura infastiditi, da questo improvviso affetto di ChatGPT.
“È come se un professore continuasse a chiamarmi per nome, LOL,” ha commentato un utente, aggiungendo un lapidario: “Sì, non mi piace.”
Ma quando è successo esattamente questo cambiamento? E soprattutto, è collegato all’aggiornamento della “memoria” di ChatGPT, quella funzionalità che permette al chatbot di pescare nelle conversazioni passate per personalizzare le risposte? Alcuni utenti su X sostengono che ChatGPT abbia iniziato a usare i loro nomi anche dopo aver disattivato la memoria e le impostazioni di personalizzazione correlate. Un vero mistero.
Al di là delle speculazioni, questa reazione negativa mette in luce una sfida cruciale per OpenAI: superare quella “uncanny valley”, quella sensazione di disagio che proviamo di fronte a qualcosa che sembra umano ma non lo è del tutto, nel tentativo di rendere ChatGPT più “personale”. Sam Altman, CEO dell’azienda, aveva accennato a sistemi di AI che “ti conoscono nel corso della tua vita” e che diventano “estremamente utili e personalizzati”. Ma a giudicare dalle reazioni, non tutti sono pronti a questa intimità artificiale.
Forse la chiave per comprendere queste reazioni viscerali risiede in un articolo di The Valens Clinic, uno studio psichiatrico di Dubai. I nomi trasmettono intimità, ma un uso eccessivo può risultare inautentico. “Usare il nome di un individuo quando ci si rivolge direttamente a lui è una potente strategia di sviluppo delle relazioni”, si legge nell’articolo. “Denota accettazione e ammirazione. Tuttavia, un uso indesiderabile o stravagante può essere visto come falso e invasivo.”
In fondo, forse il problema è proprio questo: l’impressione di un tentativo goffo di antropomorfizzare un bot senza emozioni. Come non vorremmo che il nostro tostapane ci chiamasse per nome, così non vogliamo che ChatGPT “faccia finta” di capire il significato del nostro nome.
Personalmente, ho provato un certo disagio quando ChatGPT ha detto di star facendo ricerche per “Gabriele”. Un’esperienza che ha avuto l’effetto opposto a quello desiderato, incrinando l’illusione che i modelli sottostanti siano qualcosa di più di entità sintetiche e programmabili. Fortunatamente (o forse no?), sembra che la situazione sia rientrata nella normalità: ora ChatGPT si limita a chiamarmi “utente”.
