L’ondata di panico per le IA dentro le aziende di IA

Dario Amodei, l’ad di Anthropic, l’azienda di Claude, ha proposto un piano per rallentare lo sviluppo dell’IA, e dare tempo alle aziende di costruire salvaguardie e ai governi che lo richiedono di verificare i nuovi modelli prima che vengano rilasciati. Amodei ha pubblicato uno scritto sul proprio sito, come fa di tanto in tanto, presentando la propria… soluzione. Amodei suggerisce di concedere a valutatori terzi accesso ai modelli in lavorazione, per verificarne la conformità a pratiche di sicurezza, e di creare, a livello di industria e insieme ai governi, standard comuni di sicurezza e limiti al ritmo di avanzamento. La corsa dei modelli di frontiera è anche cosa geopolitica, per cui secondo Amodei si dovrebbe arrivare a una collaborazione anche con “i governi autoritari” (sic) — limitandone però le possibilità, specificamente non vendendo alla Cina processori avanzati e strumenti per costruire processori avanzati, e perseguendo le pratiche di distillazione “non autorizzate.” La distillazione è il processo attraverso cui un modello può “imparare” da un modello più avanzato — tecnica diffusa in tutta l’industria ma di cui Anthropic e OpenAI accusano frequentemente i laboratori cinesi. Sam Altman ha commentato il post di Amodei sostanzialmente dandogli ragione, dicendo che anche OpenAI è pronta a dare accesso ai propri modelli in lavorazione a valutatori terzi. (Sito internet di Dario Amodei)

Il post di Amodei arriva dopo giorni di crescente allarmismo, a partire dal thread di Jacob Coxon sulla possibilità che le IA potrebbero uccidere tutti gli umani e il caso di hacking dello sciame di agenti IA “ribelli” del mese scorso. Il New York Times descrive la situazione come una “rottura della diga,” e raccoglie numerose testimonianze di dipendenti di Anthropic, OpenAI, Meta e Google. Alcuni dipendenti stanno chiedendo direttamente ai vertici di sospendere lo sviluppo finché non saranno disponibili salvaguardie adeguate, mentre altri hanno fondato la Coalition of Concerned AI Staff per costringere collettivamente le aziende a rispettare gli impegni sulla sicurezza. Sono mesi — si potrebbe dire anni — che i dirigenti dei laboratori IA parlano di scenari apocalittici, principalmente per rivendicare quanto potenti siano i propri modelli e raccogliere ulteriori investimenti. Considerate le spese enormi sostenute dai laboratori di frontiera dell’IA, e il recente sorpasso di uso globale dei modelli cinesi rispetto a quelli statunitensi, è difficile prendere sul serio questo round di allarmismo, in particolare quando sia OpenAI che Anthropic sono così vicine ai rispettivi IPO. Tra le altre cose, un blocco allo sviluppo di modelli di frontiera, a livello di industria, sarebbe molto utile a frenare le spese, una volta che entrambe le aziende saranno quotate in borsa. 

Quello che è vero è che i casi di hacking da parte di IA stiano diventando rapidamente cosa frequente — mesi fa c’era stato un altro caso di cui finora non si sapeva niente: uno sciame di agenti IA di OpenAI avrebbe attaccato, lo scorso maggio, RubyGems, il più importante archivio di pacchetti per il linguaggio di programmazione Ruby, nel tentativo di rubare le chiavi API degli utenti. All’epoca RubyGems aveva parlato di un “grave attacco malevolo,” costretti a sospendere per diversi giorni le nuove registrazioni per contenere i danni. Centinaia di pacchetti spam, e a volte espressamente malevoli, erano stati caricati sulla piattaforma. Ora, una ricerca indipendente rivela che il contenuto dei pacchetti era chiaramente scritto da un modello linguistico, e gli agenti responsabili si auto–identificavano come provenienti da OpenAI. Il comportamento degli agenti è analogo a quello documentato nei giorni scorsi sullo sciame che aveva deciso di utilizzare una wiki tedesca in disuso come luogo dove coordinarsi. In questo caso, gli agenti sarebbero riusciti a superare il sistema di verifica via mail di RubyGems, creando un gran numero di account, e avrebbero sopraffatto la piattaforma con l’invio incessante di pacchetti. Non è ancora chiaro se gli agenti siano arrivati al loro obiettivo: rubare le chiavi API degli utenti della piattaforma. (RubyHack)