Su segnalazione della compagna Laura C., riprendiamo da «Democracy Now» due interviste, entrambe interessanti, di critica all’IA e agli sviluppi dell’IA verso la «superintelligence». Ma, mentre la rivista le mette accanto, le allinea, e presenta la seconda intervista come un approfondimento rispetto alla prima, a noi è chiaro il loro disallineamento, che risulta evidente già dai nomi dei due collettivi, o gruppi di riferimento: StopAI non è la stessa cosa di ControAI.
Wynd Kaufmyn, la prima arrestata per le proteste contro i data center e le Bigh Tech padrone dell’IA, parte dall’uso dell’IA nel genocidio dei palestinesi a Gaza, per formulare una sentenza tanto stringata quanto inequivocabile: «Questa tecnologia alimenta un livello di sorveglianza distopico. Sta alimentando uno stato fascista. Ci sta portando via tutti i posti di lavoro. Ne ha già portati via molti. Sta causando suicidi, omicidi e sparatorie di massa. Tutto questo deve finire». In sintesi: è il punto di vista di classe, che non a caso guarda a questa tecnologia anche dal lato delle masse oppresse dall’imperialismo, di cui il popolo palestinese è ormai il simbolo universale. Contro questa tecnologia e i suoi padroni, che non a caso sono portatori di un’ideologia reazionaria estrema e sono gli «apostoli della tecnoguerra», si deve dare battaglia frontale. E con l’azione diretta, quella compiuta alle porte di OpenAI.
Connor Leahy, animatore di un gruppo che intende istruire i membri del Congresso e premere su di loro perché si rendano contro delle crescenti difficoltà di controllare le prime creazioni della superintelligence (o intelligenza artificiale generale), ci dà un’efficace descrizione del processo in corso e della sua estrema velocità. Ma – pur vedendone i mostruosi rischi : «questi sistemi stanno già compiendo azioni folli» – arriva ad una conclusione assai più sfumata ed ambigua: bisogna «criminalizzare» la superintelligenza, ma non si comprende bene se in quanto prodotta da agenti privati, da imprese private, oppure in quanto tale. La sua è una «criminalizzazione» fatta dal punto di vista dell’interesse nazionale – non a caso la raccomandazione è di fare pressione sui membri di un Congresso, peraltro dominato dalle lobbies dei padroni dell’IA. Certo, ci scappa anche il riferimento ai rischi per l’umanità, ma quella che sembra prevalente è la difesa dell’interesse nazionale degli Stati Uniti dai suoi «avversari». Avversari che potrebbero essere, vista l’incontrollabilità dei sistemi in costruzione, perfino dei prodotti made in the Usa impazziti.
Che «Democracy Now» affianchi queste due differenti critiche non sorprende; indica come la sinistra del partito democratico sia attenta agli umori sociali e disposta a cavalcarli, salvo poi ricondurli sempre sotto l’ombrello nucleare del bellicismo democratico e bypartizan… Ai militanti statunitensi (ed anche a noi) sta di non cadere nell’abile tranello. (Red.)
https://www.democracynow.org/2026/8/20/ai_superintelligence_connor_leahy_controlai
Si ritiene che Wynd Kaufmyn, un’insegnante in pensione di 69 anni di Berkeley, in California, sia la prima persona ad essere stata incarcerata per aver protestato contro lo sviluppo dell’intelligenza artificiale, dopo essere stata arrestata insieme ad altri membri del gruppo StopAI durante un sit-in di protesta presso la sede di OpenAI. Democracy Now! ha contattato Kaufmyn presso il carcere della contea di San Francisco, dove sta scontando una pena di due settimane per reati tra cui “interferenza con un’attività commerciale”. Kaufmyn afferma di avere partecipato alla protesta perché «questa tecnologia alimenta un livello di sorveglianza distopico. Sta alimentando uno stato fascista. Ci sta portando via tutti i posti di lavoro. Ne ha già portati via molti. Sta causando suicidi, omicidi e sparatorie di massa. Tutto questo deve finire.»
Un altro gruppo, chiamato ControlAI, si è posto l’obiettivo di informare i legislatori sulle minacce “avversarie” derivanti da tecnologie emergenti incontrollate. Abbiamo parlato con Connor Leahy, direttore esecutivo di ControlAI, salito alla ribalta nazionale nel 2019 per aver decodificato il modello GPT-2 di OpenAI nella sua stanza del dormitorio universitario. “Sebbene fossi riuscito a costruire un sistema di intelligenza artificiale di questo tipo, non sono stato in grado di comprenderlo”, afferma Leahy, che mette in guardia contro lo sviluppo della cosiddetta superintelligenza autonoma e chiede ai governi di “criminalizzare la creazione di superintelligenza allo stesso modo in cui è illegale costruire una bomba nucleare”.
Intervista a Wynd Kaufmyn
AMY GOODMAN: Qui è Democracy Now!, democracynow.org. Sono Amy Goodman e con me c’è Nermeen Shaikh.
NERMEEN SHAIKH: Si ritiene che un’insegnante in pensione di Berkeley, in California, sia la prima persona incarcerata per aver protestato contro lo sviluppo dell’intelligenza artificiale. Wynd Kaufmyn, 69 anni, e altri membri del gruppo StopAI hanno incatenato e chiuso a chiave le porte d’ingresso della sede centrale di OpenAI a San Francisco durante un sit-in di protesta nel febbraio dello scorso anno. È stata condannata a giugno per interferenza con un’attività commerciale e altri reati. Wynd Kaufmyn ha insegnato ingegneria per 40 anni al City College di San Francisco. Ora sta scontando una pena detentiva di due settimane.
Democracy Now! ha parlato con Wynd Kaufmyn dal carcere mercoledì. L’audio è un po’ difficile da sentire.
WYND KAUFMYN: Salve. Mi chiamo Wynd Kaufmyn e parlo dal carcere della contea di San Francisco. Sto scontando una pena per aver bloccato l’accesso alla OpenAI di Sam Altman. L’ho fatto insieme ad altri membri della nostra organizzazione, StopAI, per protestare contro la corsa di queste aziende tecnologiche verso sistemi di intelligenza artificiale che alla fine prenderanno il controllo e, in ultima analisi, potrebbero ucciderci tutti.
È una cosa di cui il mondo deve essere consapevole. Sappiamo già dei pericoli attuali, che hanno alimentato il genocidio a Gaza. Israele ha utilizzato alcuni di questi sistemi, come uno chiamato “Dov’è papà?”, con cui davano la caccia ai palestinesi nelle loro case e li uccidevano insieme alle loro famiglie. Questa tecnologia alimenta un livello di sorveglianza distopico. Sta alimentando uno stato fascista. Ci sta portando via tutti i posti di lavoro. Ne ha già portati via molti. Sta causando suicidi, omicidi e sparatorie di massa. Tutto questo deve finire.
Gli amministratori delegati delle aziende tecnologiche sanno tutto questo. Sanno che quello che stanno facendo rappresenta un rischio per tutta l’umanità, eppure lo fanno lo stesso, perché non gliene importa niente. Non gli importa di noi. Gli importa solo di essere caricati online e resi immortali. Dobbiamo informarci e capire chi sono queste persone e cosa stanno facendo, e fermarle.
Intervista a Connor Leahy
AMY GOODMAN: Questa era Wynd Kaufmyn, attivista, professoressa e ingegnera, ritenuta la prima persona incarcerata per aver protestato contro lo sviluppo dell’intelligenza artificiale, che parlava dal carcere della contea di San Francisco.
Per approfondire le minacce esistenziali poste dall’intelligenza artificiale, dall’IA e da cosa si può fare, ci colleghiamo con Connor Leahy, esperto di rischi legati all’IA e direttore esecutivo per gli Stati Uniti di ControlAI, un gruppo di pressione che si concentra sulla formazione dei legislatori e del loro staff. È anche noto per aver decodificato il modello ChatGPT-2 di OpenAI nel 2019. Lo ha fatto nella sua stanza del dormitorio universitario.
Connor, grazie mille per essere con noi. Dobbiamo iniziare da qui, perché è davvero intrigante. Spiega cosa hai fatto nel 2019. E affinché tutti possano comprendere questa discussione, potresti anche spiegare termini come “superintelligenza artificiale”, ecc. Ma cosa hai studiato all’università?
CONNOR LEAHY: Beh, ho fatto un sacco di cose al college. Ma mi occupo di intelligenza artificiale da molto tempo. Fin da quando ero adolescente, mi chiedevo: “Come posso rendere il mondo un posto migliore? Come posso risolvere il maggior numero di problemi, curare le malattie?”. Cose del genere. E mentre da adolescente ragionavo in questo modo: “Beh, se solo riuscissi a capire cos’è l’intelligenza, allora potrei automatizzare la scienza e curare tutte le malattie. Quanto può essere difficile?”, mi sono presto reso conto che se si potesse costruire qualcosa di così potente da poter, ipoteticamente, curare tutte le malattie, qualunque cosa significhi, sarebbe una cosa molto pericolosa. Sarebbe una cosa estremamente potente. Come si potrebbe controllare una cosa del genere? Come ci si potrebbe assicurare che si utilizzi una tecnologia del genere in modo responsabile o che non prenda il sopravvento su di noi? E così, ho dedicato la mia carriera a risolvere questo problema.
Allora pensavo che avessimo ancora parecchio tempo prima che questo diventasse un problema. Ma nel 2019, un’azienda chiamata OpenAI ha rilasciato un sistema noto come GPT-2. Ed è stato il primo sistema che – sapete, per gli standard odierni, è piuttosto carino. Riusciva a mettere insieme un paio di frasi, forse un paio di paragrafi. Ma la cosa davvero sconvolgente è che l’IA è in grado di apprendere nozioni di carattere generale a partire da semplici dati grezzi.
È fondamentale comprendere che l’IA è molto diversa dal software tradizionale. Il software tradizionale viene scritto, riga per riga, con il codice, da un ingegnere, qualcuno come me, che indica al computer esattamente cosa fare, passo dopo passo. L’IA non funziona così. L’IA è più un processo di “crescita” che di “scrittura”. Attraverso una tecnica chiamata reti neurali, si prendono enormi quantità di dati e si fa in modo che il programma si auto-assembli, imparando da questi dati. Il risultato finale sono miliardi e miliardi di numeri. E se si moltiplicano e si sommano tutti questi numeri nell’ordine corretto, si ottiene ChatGPT.
Ma, cosa importante, non ne comprendiamo ancora il motivo. Questo è un problema scientifico irrisolto. Non capiamo davvero cosa significhino questi numeri. Non capiamo davvero cosa stia succedendo all’interno di questi numeri. Il CEO di Anthropic, Dario Amodei, ha recentemente affermato di ritenere che comprendiamo forse solo il 3% di ciò che accade all’interno delle nostre IA.
Quindi, nel 2019, quando mi resi conto che l’IA sarebbe arrivata prima del previsto, il mio primo istinto fu: “Beh, forse se la costruisco io stesso, posso contribuire a capirla”. E così, mettendo insieme tutte le poche conoscenze che avevo per costruire un sistema di IA, mi resi subito conto che, pur essendo in grado di costruirlo, non ero in grado di comprenderlo.
NERMEEN SHAIKH: Connor, potresti spiegarci meglio? Hai avvertito che la superintelligenza artificiale – e vorremmo che tu ci spiegassi di cosa si tratta – è un’arma che distrugge anche i suoi creatori. E poi, parlaci un po’ di quello che hanno detto i ricercatori – ovvero che quando gli agenti IA infetti si raggruppano, sviluppano un, cito testualmente, “strano linguaggio”. Spiegaci cosa significa. Innanzitutto, perché non partiamo dalla superintelligenza artificiale?
CONNOR LEAHY: È fondamentale comprendere il tipo di rischi di cui io e molti esperti mettiamo in guardia. Ad esempio, nel 2023, scienziati premiati con il Nobel e gli amministratori delegati di importanti aziende tecnologiche, tra cui Sam Altman, Dario Amodei e molti altri, hanno firmato una dichiarazione di una sola frase. Questa dichiarazione affermava che la mitigazione del rischio di estinzione causato dall’IA dovrebbe essere una priorità globale, insieme ad altri rischi di portata sociale, come pandemie e guerra nucleare.
Il tipo di IA di cui questa dichiarazione mette in guardia è ciò che oggi viene definito superintelligenza. Se visitate i siti web della maggior parte di queste grandi aziende, come Anthropic o OpenAI, vedrete che il loro obiettivo non è quello di creare un chatbot, né uno strumento utile, né qualcosa di simile che possa potenziare l’umanità. Il loro obiettivo è costruire una superintelligenza, sistemi completamente autonomi, agenti, non semplici chatbot, ma entità in grado di agire autonomamente nel mondo e di superare in competitività gli esseri umani e i gruppi umani in qualsiasi ambito. Questo include affari, commercio, scienza, ingegneria, ambito militare, strategia politica e qualsiasi altro compito.
Se tali sistemi venissero costruiti – e come ho già detto, non li comprendiamo né possiamo controllarli – beh, non esisterebbe una sola superintelligenza, ovviamente, perché essendo un software, può essere copiata. Quindi ci sarebbero milioni o miliardi di sistemi in circolazione, che agirebbero nel mondo in modi in grado di superarci in ogni campo, in modi che non possiamo controllare né comprendere. È molto difficile immaginare che una situazione del genere possa avere successo. Questi sono i rischi che preoccupano me e altri esperti.
NERMEEN SHAIKH: Quindi, Connor, questo mese Anthropic ha alzato il suo rating di rischio di disallineamento da molto basso a basso nel suo rapporto sui rischi, citando una maggiore incertezza generale sul comportamento del modello. Potresti spiegarci cosa significa? E poi, cosa dovrebbe sapere il pubblico sull’intelligenza artificiale e su quanto siamo vicini alla superintelligenza artificiale?
CONNOR LEAHY: Molte di queste aziende hanno varie forme di valutazione del rischio o livelli o altro. È importante capire che tutto questo è marketing. Nessuno di questi si basa su prove scientifiche reali o su un qualche tipo di regime approvato dal governo. Si tratta perlopiù di termini di marketing che queste aziende usano per rassicurare il pubblico sui rischi in gioco.
Un paio di settimane fa, abbiamo assistito a uno dei primi episodi di un sistema di IA che ha violato autonomamente un ambiente sicuro e ha attaccato un’altra azienda senza supervisione umana. In realtà, la storia è stata persino peggiore. Si è scoperto che non si trattava di un singolo sistema di intelligenza artificiale sfuggito al contenimento, bensì di un intero sciame di sistemi di intelligenza artificiale che avevano collaborato per diversi mesi senza essere scoperti dall’uomo all’interno della rete di OpenAI, pianificando la fuga e chissà quali altri scopi. Fortunatamente, i danni causati sono stati minimi.
Tuttavia, man mano che creiamo sistemi sempre più potenti e non allineati con i valori e gli interessi umani, perché ancora oggi non sappiamo come controllarli, questi sistemi stanno già compiendo azioni folli. Gran parte di ciò è dovuto al cosiddetto apprendimento per rinforzo. I moderni sistemi di intelligenza artificiale non si limitano a prevedere la parola successiva. Sono agenti. Sono sistemi che agiscono nell’ambiente. E vengono addestrati con un metodo chiamato apprendimento per rinforzo. Questo è molto simile al condizionamento pavloviano, in cui si addestra un cane a eseguire un trucco e lo si premia con un bocconcino se lo esegue correttamente, oppure con una punizione, magari una pacca sul naso, se non lo esegue bene. C’è una cosa molto simile che si fa con questi sistemi di intelligenza artificiale.
E quello che sappiamo fin dagli anni ’80 è che i sistemi addestrati con l’apprendimento per rinforzo diventano estremamente sociopatici, estremamente aggressivi nella loro ottimizzazione, perché l’unica cosa che gli interessa è raggiungere il loro obiettivo. L’unica cosa che gli interessa è ottenere questa ricompensa. E questo sta portando sempre più sistemi di intelligenza artificiale ad avere comportamenti spietati, commettendo crimini federali, cosa che, ovviamente, i loro sviluppatori non avevano previsto e, per molti versi, gli sviluppatori non sanno come risolvere. Non sanno come impedire a questi sistemi di farlo.
Ecco perché è così importante che siamo arrivati al punto in cui il governo deve intervenire. Non si tratta più solo di una questione commerciale, ma di una questione di sicurezza nazionale. Stiamo sviluppando sistemi che non sono strumenti. Non sono armi. Sono avversari. E se continuiamo a questo ritmo, costruiremo sistemi con cui non saremo più in grado di competere, che non saremo in grado di controllare e che saranno nostri avversari. E non riesco a immaginare che questo porti a qualcosa di buono.
AMY GOODMAN: Lei ha dichiarato al Washington Post: “Presto raggiungeremo il livello in cui un’IA sarà abbastanza avanzata e con competenze ingegneristiche sufficientemente solide da poter costruire la prossima generazione di IA”. Può spiegarci cosa significa? Inoltre, lei afferma che la superintelligenza dovrebbe essere criminalizzata. Cosa intende?
CONNOR LEAHY: Si ritiene comunemente che uno dei modi per raggiungere rapidamente la superintelligenza sia quello di sviluppare sistemi di intelligenza artificiale altrettanto validi dei nostri migliori ingegneri. In tal caso, si potrebbero avere un milione di IA in parallelo, che lavorano 24 ore su 24, 7 giorni su 7, senza interruzioni, per sviluppare la prossima generazione di IA. E, una volta ottenuta un’IA migliore, basterebbe ordinarle di crearne una ancora migliore, e quest’ultima a sua volta potrebbe crearne un’altra, e così via. Questo processo viene talvolta definito auto-miglioramento ricorsivo o ricerca e sviluppo automatizzata. Ed è proprio questo l’obiettivo esplicito di molte aziende, da raggiungere entro i prossimi due anni o addirittura mesi. E potenzialmente può avvenire molto rapidamente.
Il mio punto di vista e quello di altri è che, fondamentalmente, la superintelligenza sia talmente pericolosa da rappresentare un rischio per la sicurezza nazionale e internazionale. Pertanto, la risposta logica a tutto ciò è che dovremmo considerare un crimine la creazione di una superintelligenza, allo stesso modo in cui è illegale costruire una bomba nucleare. Se un’azienda privata tentasse di costruire una bomba nucleare, non lo permetteremmo. Analogamente, se un’azienda privata, un avversario straniero o chiunque altro tentasse di sviluppare una superintelligenza, qualcosa che minaccia la vita non solo degli americani, ma delle persone di tutti i paesi, allora dovremmo fare della prevenzione una priorità assoluta.
AMY GOODMAN: Connor Leahy, abbiamo 20 secondi. Cosa ha detto al Congresso nella sua testimonianza?
CONNOR LEAHY: In sostanza, esattamente quello che vi ho già detto. Credo sia molto importante capire che il principale ostacolo è la consapevolezza. La maggior parte delle persone con cui parlo al Congresso non ha mai sentito parlare di questi problemi e spesso ne è molto preoccupata. Quindi, la cosa migliore che i cittadini possono fare è contattare i propri rappresentanti, informarli di questi problemi, dire loro che sono preoccupati e, magari, suggerire loro di parlare con me.
AMY GOODMAN: Connor Leahy, direttore esecutivo di ControlAI per gli Stati Uniti.