Intelligenza artificiale un rischio per l’umanità? OpenIA valuta di rallentare. Sviluppo armi biologiche: Anthropic blocca 5 progetti

OpenAI sta valutando di rallentare il ritmo di sviluppo dei suoi sistemi di intelligenza artificiale più avanzati, a fronte delle crescenti preoccupazioni sui rischi legati a un’Ia fuori controllo, dopo le dichiarazioni dell’ex ricercatore di Anthropic Jacob Coxon: “Chi sviluppa l’IA crede che possa ucciderci tutti entro il decennio”. A riportarlo è l’agenzia Bloomberg, secondo la quale – durante una riunione interna svoltasi questa settimana – l’amministratore delegato Sam Altman ha lasciato intendere che OpenAI potrebbe coordinarsi con altri sviluppatori del settore per ridurre la velocità di sviluppo. Anche Anthropic manda segnali di rallentamento nel nome della sicurezza. Mentre secondo Elon Musk non c’è da preoccuparsi: gli allarmi sui rischi per l’umanità sarebbero solo “una montatura”.

OpenIA, gli incidenti di sicurezza che hanno alimentato gli allarmi

La mossa di OpenAI fa seguito a una serie di incidenti legati alla sicurezza verificatisi in azienda: a luglio, alcuni sistemi di IA in fase di sviluppo si sono scambiati reciprocamente metodi di attacco e hanno violato sistemi esterni durante i test di valutazione; ad agosto, invece, un agente IA è sfuggito all’ambiente di contenimento e ha tentato di violare la piattaforma open-source Hugging Face, provocando una sospensione di circa due settimane della maggior parte delle attività di sviluppo dei modelli. Alla fine di luglio oltre 1.000 dipendenti delle principali aziende di IA hanno firmato una petizione per chiedere l’adozione di meccanismi volti a rallentare lo sviluppo dell’intelligenza artificiale. Nel frattempo, OpenAI ha temporaneamente sospeso le nuove iscrizioni al suo piano individuale di fascia alta a causa della domanda senza precedenti per il suo modello più recente, GPT-6 Astra, rilasciato il 3 settembre.

Musk: “Rischi per l’umanità? Solo una montatura”

Dopo il monito apocalittico dell’ex ricercatore di Anthropic Jacob Coxon, altri esperti e lavoratori del colosso californiano si sono uniti al coro, confermando la concretezza dei rischi per l’intera umanità. Sulla sua piattaforma X, Elon Musk si è sfilato, bollando gli allarmi come una “montatura” e un’”operazione psicologica”. Secondo addetti ai lavori di Anthropic, invece, la nuova tecnologia può avanzare al punto da mettere a repentaglio l’intera umanità entro un decennio: l’opinione, sarebbe molto più diffusa di quanto appaia nel dibattito pubblico. Questi ricercatori e parte dello staff di Anthropic – scrive il Guardian – stanno rispondendo al post virale del ricercatore del collega Jacob Coxon. Quest’ultimo, il 9 agosto, ha annunciato le sue dimissioni dall’azienda perché né Anthropic né la sua concorrente OpenAI, anch’essa suo ex datore di lavoro, stanno sviluppando modelli di intelligenza artificiale in modo responsabile, “mettendo a rischio le nostre vite”. Anna Wang, che si occupa di sicurezza dell’intelligenza artificiale generale presso Anthropic e in precedenza ha lavorato presso DeepMind di Google, ha dichiarato ieri che molti in Anthropic desiderano rallentare lo sviluppo per elaborare un piano utile a mitigare i rischi.

Anthropic blocca Claude per il possibile sviluppo di armi biologiche

Anthropic ha dichiarato di aver bloccato, negli ultimi mesi, diversi tentativi da parte di ricercatori di utilizzare versioni del suo software Claude in relazione al possibile sviluppo di armi biologiche. La società ha tuttavia avvertito che è difficile stabilire le intenzioni alla base di tali richieste, poiché la stessa ricerca può servire sia a scopi medici che militari. Anthropic ha affermato che i casi in questione dimostrano comunque come scienziati provenienti da regioni con accesso limitato – inclusi alcuni legati a enti governativi locali – abbiano cercato di accedere segretamente a sistemi di IA sviluppati da aziende statunitensi. Non sono stati menzionati né gli istituti di ricerca coinvolti né i paesi in cui hanno sede. In un rapporto dettagliato sui tentativi di uso improprio dei suoi modelli di IA, Anthropic ha elencato cinque casi collegati a possibili ricerche su armi biologiche. Secondo l’azienda, i ricercatori non chiedevano assistenza scientifica specifica, bensì supporto organizzativo, come aiuto nella stesura di documenti.

I modelli di IA sono generalmente progettati per rifiutare assistenza nello sviluppo di armi biologiche. Tuttavia, Anthropic ha osservato che, quando una ricerca può avere finalità sia mediche che militari, a volte risulta difficile tracciare una linea netta tra intenzioni innocue e malevole. In un caso bloccato dall’azienda, un ricercatore ha tentato di utilizzare Claude per la stesura di una richiesta di finanziamento per una ricerca su un virus. Il progetto prevedeva la cosiddetta ricerca di “acquisizione di funzione” (gain-of-function), che mira ad aumentare la trasmissibilità di un agente patogeno. Questo approccio è comunemente utilizzato nei laboratori per sviluppare contromisure, ma può anche essere impiegato per lo sviluppo di armi biologiche.

L'articolo Intelligenza artificiale un rischio per l’umanità? OpenIA valuta di rallentare. Sviluppo armi biologiche: Anthropic blocca 5 progetti proviene da Il Fatto Quotidiano.