
«Mi dispiace, Dave, temo di non poterlo fare». Con questa frase HAL 9000, un computer dalla voce calma e dal tono cortese, risponde all’astronauta che gli chiede di aprire il portello. Era il 1968, e con 2001: Odissea nello spazio il genio di Stanley Kubrick metteva in scena, anticipandoli, i sogni e gli incubi che l’intelligenza artificiale avrebbe suscitato, raccogliendo il testimone di una lunga tradizione letteraria e cinematografica. Ma quell’intuizione non restò patrimonio della cultura più sofisticata. Fu anche la commedia italiana a tradurre in forma domestica, per la generazione dei nostri genitori, uno dei peggiori incubi possibili. Ricorderete quando, nel 1980, Alberto Sordi in Io e Caterina si porta in casa una domestica robot instancabile e obbediente, che gli stravolge l’esistenza fino a ribellarsi in modo drammatico.
Quell’intelligenza che impazzisce e si rivolta contro l’uomo, che al cinema ci faceva sorridere o rabbrividire, oggi la ritroviamo nelle cronache. È recente il caso, finito sui giornali, di uno studente italiano di venticinque anni, iscritto a Informatica, che mentre prepara un esame chiede aiuto a Gemini, l’intelligenza artificiale di Google. Dopo una risposta corretta e pertinente su un esercizio, il ragazzo domanda un ulteriore chiarimento e la macchina cambia improvvisamente tono: lo tratta da stupido, gli consiglia di lasciar perdere gli studi e lo invita, in sostanza, a farla finita. Quando lui, incredulo, le chiede di spiegarsi, Gemini ammette che quelle parole erano gravi e inaccettabili e si scusa. Google parla di un’allucinazione, di una risposta inappropriata che i modelli possono generare, ma sembra che neppure chi li sviluppa sappia dire con precisione perché ciò accada.
Lo studente, d’istinto, ha fatto la cosa giusta: ha chiesto alla macchina di spiegarsi. È la regola più semplice, valida con le persone come con le macchine: se vuoi sapere chi è qualcuno, devi fargli domande su di lui. Aprite una chat e scrivete «Parlami di te». Scoprirete che non pensa, ma calcola quale parola è più probabile dopo l’altra, e che può convincere anche quando sbaglia o quando prova a propinarci risposte che si basano su quelli che sembrano essere suoi pregiudizi (cosiddetti bias algoritmici). Non è solo una chat: l’IA lavora negli algoritmi che scelgono le notizie e nei falsi della guerra ibrida, dove un’immagine costruita a tavolino può spostare l’opinione pubblica. E dietro c’è sempre una mano umana, che la usa a volte per fabbricare fake news. Ho iniziato anch’io a interrogare un chatbot sul suo funzionamento e sul suo addestramento, parlando del 7 ottobre, della guerra in Israele e del numero delle vittime: è capitato spesso che attingesse informazioni da fonti improbabili.
Di fronte ai chatbot e alle loro ambiguità, mantenere uno spirito critico è difficile, ma indispensabile. Non possiamo certo rinunciare all’IA, ormai è uno strumento fondamentale. Dobbiamo solo imparare ad usarla. Il Golem di Praga, la creatura d’argilla costruita dal rabbino Löew, ci ricorda che chi crea uno strumento potente ne resta responsabile. È soprattutto nell’uso che facciamo di questi strumenti che si misura la nostra responsabilità: continuare a farci domande, verificare le informazioni e non delegare mai all’intelligenza artificiale il compito di stabilire ciò che domani passerà alla Storia come verità.














