Dopo aver creato Eliza ed essere stato uno dei pionieri dell’intelligenza artificiale, ha trascorso tutta la vita a mettere in guardia sui rischi legati alla tecnologia
Andrea Daniele Signorelli – Il ritratto – 19.03.2024
“La dipendenza dai computer è soltanto il più recente – e più estremo – esempio di come l’essere umano si affidi alla tecnologia al fine di sfuggire al fardello di agire in maniera autonoma”. Queste affermazioni, fatte durante un’intervista alla rivista New Age, stupiscono non solo perché risalgono a quasi 40 anni fa (per la precisione, al 1985), ma soprattutto perché a pronunciarle fu uno dei pionieri dell’informatica e dell’intelligenza artificiale: Joseph Weizenbaum. Com’è possibile?
Nato a Berlino nel 1923 da una famiglia di origine ebrea, Weizenbaum fugge assieme ai genitori dalla Germania nazista verso la metà degli anni Trenta, arrivando negli Stati Uniti. Conclusi gli studi, inizia immediatamente a dedicarsi all’informatica: nei primi anni Cinquanta lavora sui calcolatori analogici, per poi contribuire alla progettazione e alla costruzione del computer digitale installato all’interno della Wayne University di Detroit.
In quegli stessi anni si trasferisce alla General Electric, dove progetta il primo sistema informatico dedicato alle operazioni bancarie, e inizia la carriera da ricercatore al MIT di Boston. Sotto ogni punto di vista, quindi, Joseph Weizenbaum è un ingegnere che ha contribuito attivamente allo sviluppo tecnologico del Novecento. A cambiare per sempre la sua vita, però, fu un’invenzione nata quasi per scherzo.
La nascita di Eliza
È infatti il 1966 quando Weizenbaum crea Eliza: un software in grado – nonostante fosse costituito da meno di duecento righe di codice e dotato di una potenza di calcolo ridottissima rispetto agli standard di oggi – di comunicare per via testuale con le persone, conversando con esse in maniera almeno parzialmente coerente.
VIDEOGrande Giove: perché per Federico Faggin l’intelligenza artificiale non potrà mai superare l’uomo
Per molti versi, Eliza è il primo chatbot della storia. Così battezzato in onore di Eliza Doolittle, personaggio del Pigmalione di George Bernard Shaw che vuole imparare a esprimersi in maniera forbita, questo software è progettato per imitare il comportamento di uno psicologo. O meglio, per fare la caricatura di uno psicologo della scuola rogersiana, che si limita quasi solo a rispondere alle nostre affermazioni rigirandole in forma di domanda.
Per Weizenbaum, come detto, Eliza è poco più di uno scherzo: uno “psicologo” che ad affermazioni del tipo “ho bisogno di aiuto”, risponde: “Perché hai bisogno di aiuto?”, riuscendo solo in pochissimi casi a replicare in maniera coerente (per chi fosse curioso, è ancora oggi possibile conversare con Eliza a questo link).
Il vero obiettivo di Weizenbaum, in effetti, era l’opposto di quello che si potrebbe immaginare. Non voleva esibire le potenzialità degli allora nascenti strumenti informatici, ma dimostrare quanto la comprensione del linguaggio da parte delle macchine fosse ancora assolutamente elementare e superficiale.
Effetti indesiderati
Le cose, però, non andarono secondo i suoi piani. Le persone che avevano la possibilità di usare Eliza (in un periodo in cui gli strumenti informatici erano accessibili solo a ricercatori universitari e addetti ai lavori) sviluppavano immediatamente con il software un legame empatico, conversando con esso per ore. Weizenbaum rimase stupefatto da tutto ciò. Proprio allo scopo di smontare l’effetto che Eliza era in grado di ingenerare in chi la provava, decise di scrivere un paper in cui spiegava per filo e per segno il suo funzionamento e perché in essa non c’era nemmeno la parvenza di una vera comprensione.
“Una volta che un particolare programma viene smascherato, una volta che il suo funzionamento interiore viene spiegato in un linguaggio sufficientemente chiaro da essere compreso da tutti, la sua magia si sbriciola”, spiegava proprio in quel testo. Ma anche questa si rivelò un’illusione: il testo di Weizenbaum suscitò molto meno interesse della possibilità di poter conversare con una macchina.
Per Weizenbaum, questa vicenda fu una sorta di epifania. Da allora e fino alla morte, avvenuta a Berlino nel 2008, trascorrerà tutto il suo tempo a mettere in guardia sui pericoli che la tecnologia e l’intelligenza artificiale (termine coniato nel 1956) ponevano nei confronti dell’essere umano. Il rischio, nella sua ottica, era quello di affidarsi eccessivamente a strumenti in realtà assolutamente inattendibili e ai quali cediamo una parte eccessiva di responsabilità e libertà.
Da questo punto di vista, il testo fondamentale di Weizenbaum è il saggio Computer Power and Human Reason del 1976, in cui – usando tesi che oggi sarebbero ancora di estrema attualità – spiegava come fosse impossibile attribuire qualità umane ai computer, quali fossero i limiti intrinseci e insuperabili di questi strumenti e come andasse assolutamente evitata l’equiparazione riduzionista tra essere umano e macchina.
In un’epoca di entusiasmo tecnologico probabilmente simile al nostro (la rivoluzione dei personal computer era appena iniziata), Weizenbaum divenne rapidamente un reietto della comunità informatica. Ruolo che non gli dispiacque. Anzi, nel quale si trovò perfettamente a suo agio, descrivendosi fieramente come un “eretico della tecnologia”. Una voce tecnicamente molto competente, ma fuori dal coro. E di cui oggi avremmo probabilmente più bisogno che mai.
https://www.wired.it/article/joseph-weizenbaum-chatbot-eliza