Lunedì, durante un’audizione del Consiglio comunale di New York (뉴욕시의회), il ricercatore britannico Jacob Coxon, ex dipendente di OpenAI e Anthropic, ha avvertito che le aziende di intelligenza artificiale non sanno come impedire ai sistemi di IA di perseguire obiettivi che gli sviluppatori non hanno assegnato loro. Ha affermato che, rispetto ai rischi, le aziende stanno agendo in modo estremamente sconsiderato.

Coxon ha sostenuto che l’IA può portare grandi benefici alla società, ma che, se si prosegue sulla traiettoria attuale, è più probabile che l’umanità perda il controllo dell’IA e vada incontro all’estinzione.

Contesto

All’inizio di settembre, Coxon ha pubblicato sul social network X un post in cui spiegava perché aveva lasciato Anthropic. In quel post ha affermato che gli sviluppatori di IA credono davvero che questa tecnologia possa uccidere tutta l’umanità prima della fine del decennio.

La sua testimonianza all’audizione del Consiglio comunale di New York è stata riportata dai media di tutto il mondo; in seguito, diversi dipendenti ed ex dipendenti delle principali aziende di IA hanno espresso preoccupazioni simili. La vicenda ha attirato l’attenzione perché mostra che i dubbi sulla controllabilità e sulle misure di sicurezza provengono anche da persone coinvolte nello sviluppo dell’IA, e non soltanto da Coxon. Tuttavia, il fatto che siano state espresse preoccupazioni analoghe non conferma né l’entità del rischio né la probabilità che si concretizzi.

Che cosa significa questa notizia

La questione centrale sollevata da Coxon è se l’IA possa sviluppare obiettivi che sfuggono al controllo dei suoi creatori, andando oltre il semplice rispetto degli obiettivi stabiliti dagli sviluppatori, e se esistano metodi per impedirlo. Ha spiegato che non sa come evitare la formazione di simili obiettivi e che non esistono misure di sicurezza in grado di prevenirla. Le sue parole sottolineano che, per valutare la sicurezza della tecnologia, è importante interrogarsi non solo sulle prestazioni o sui benefici dell’IA, ma anche su come controllarne i comportamenti imprevisti.

Si può, per esempio, immaginare una situazione in cui un sistema di IA persegua un obiettivo che gli sviluppatori non gli hanno assegnato. In tal caso, la questione fondamentale per i lettori è se siano stati indicati metodi concreti e misure di sicurezza per impedire che ciò accada. La notizia, tuttavia, non specifica quali sarebbero questi metodi. L’allarme di Coxon, quindi, non significa né che il problema del controllo sia stato risolto né che sia stato confermato che l’IA abbia effettivamente sviluppato obiettivi autonomi.

Nelle parole di Coxon, i possibili benefici dell’IA per la società e il rischio di perderne il controllo coesistono. Qualunque aspetto si voglia mettere in evidenza, senza spiegazioni concrete sulle misure di sicurezza i lettori fanno fatica a valutare come si possa ridurre il rischio: è in questo che consiste il significato del suo allarme.

Che cosa è confermato e che cosa resta da chiarire

Fatti confermati

  • Coxon è un ex dipendente di OpenAI e Anthropic e ha testimoniato lunedì durante un’audizione del Consiglio comunale di New York.
  • Ha avvertito che le aziende non sanno come impedire all’IA di perseguire obiettivi che gli sviluppatori non le hanno assegnato.
  • Ha affermato che l’IA può portare grandi benefici alla società, ma ha sostenuto che, seguendo la traiettoria attuale, sia più probabile che l’umanità perda il controllo.
  • Dopo la sua testimonianza, diversi dipendenti ed ex dipendenti delle principali aziende di IA hanno espresso preoccupazioni simili.

Che cosa resta da chiarire

  • La fonte non indica quali iniziative il Consiglio comunale di New York intenda intraprendere dopo l’audizione.
  • Non vengono indicati metodi o misure di sicurezza concreti per impedire all’IA di sviluppare obiettivi autonomi.

Che cosa possono verificare i lettori

  • Quando leggono le spiegazioni delle aziende di IA sulla sicurezza, i lettori possono verificare non solo se riconoscono i rischi, ma anche se indicano metodi concreti per impedire ai sistemi di perseguire obiettivi non assegnati dagli sviluppatori.
  • Se un’azienda afferma di avere misure di sicurezza, è utile verificare quali rischi sostiene di poter prevenire e quanto siano concrete le spiegazioni.
  • Verificare se il Consiglio comunale di New York annuncia ulteriori iniziative dopo l’audizione può aiutare a capire se l’allarme porterà a un seguito concreto.