Anthropic chiede una pausa nell’IA. Ecco il motivo

Una pausa di riflessione per evitare l’irreparabile. A chiederla è Anthropic, la startup di Dario Amodei, che si rivolge a tutto il settore. “Riteniamo che sarebbe positivo per il mondo avere la possibilità di rallentare o sospendere temporaneamente lo sviluppo dell’intelligenza artificiale di frontiera per consentire alle strutture sociali e alla ricerca di allineamento di stare al passo con il progresso della tecnologia”, scrive l’azienda. L’appello arriva nel momento peggiore, sotto l’aspetto della produzione. La competizione ormai si è spostata su livelli sempre più alti, spostati man mano che qualcuno annunci un nuovo modello sul mercato. Per Anthropic però sono talmente potenti che presto potrebbero scappare al controllo umano. Ormai sono capaci di automigliorarsi, capendo dove si trovano le proprie vulnerabilità per superarle da soli. “Le prove suggeriscono che il ruolo umano si sta riducendo a ogni fase del processo di sviluppo dell’intelligenza artificiale”, sottolinea Anthropic specificando che questo momento potrebbe arrivare prima di quanto si immagini.

Sul fronte dei rischi antropici, la società ha paragonato il problema ai trattati sul controllo degli armamenti nucleari, ma ha affermato che sarebbe ancora più difficile da gestire, poichè l’addestramento dell’IA è molto più facile da nascondere rispetto a un silo missilistico, e la tentazione di continuare silenziosamente sarebbe enorme. L’azienda ha dichiarato di voler riunire nei prossimi mesi funzionari governativi, scienziati, gruppi di difesa dei diritti e aziende concorrenti nel settore dell’intelligenza artificiale per capire come un sistema del genere potrebbe funzionare.
La richiesta di coordinamento giunge in concomitanza con dati interni che dimostrano come l’IA stia già accelerando in modo significativo lo sviluppo dell’IA stessa, creando un ciclo di feedback che potrebbe alla fine portare a quello che i ricercatori definiscono “auto-miglioramento ricorsivo”, ovvero l’idea di un sistema capace di imparare da solo per diventare più intelligente, senza un grande aiuto umano.”Non ci siamo ancora, e l’auto-miglioramento ricorsivo non è inevitabile”, afferma il rapporto, aggiungendo tuttavia che potrebbe verificarsi prima di quanto la maggior parte dei governi e delle istituzioni siano pronti ad accettare. “Le prove suggeriscono che il ruolo umano si sta riducendo a ogni fase del processo di sviluppo dell’intelligenza artificiale”, ha concluso l’azienda.

Bisogna però vedere se c’è la volontà di fermarsi. La proposta di Anthropic parte da un assunto: che tutti accettino di rallentare. Non sarebbe infatti valida se, ad esempio, le aziende americane sospendessero le loro attività mentre quelle cinesi continuassero come nulla fosse. “Senza un meccanismo di coordinamento globale”, spiega la startup da 1 trilione di dollari, “aziende e governi dovranno prendere decisioni difficili in materia di sicurezza, operando sotto la pressione competitiva e geopolitica”. Motivo per cui Anthropic vorrebbe riunione quanti più stakeholder possibile – funzionari del governo, esperti del settore, organizzazioni a difesa dei diritti – così da capire come muoversi.

La speranza di essere ascoltati è viva. Nonostante un approccio iniziale basato sul lassismo per favorire il progresso, la Casa Bianca sembra aver raddrizzato il tiro. Durante la visita in Cina, Donald Trump ha accettato di coordinarsi con Xi Jinping in materia di intelligenza artificiale. Qualche giorno dopo, il presidente americano ha firmato un disegno di legge con cui le aziende – su base volontaria – dovranno condividere con le agenzie gli effetti dei loro modelli prima di rilasciarli.

Tuttavia, la diffidenza rimane. Sia a Washington, sia soprattutto nella Silicon Valley, la preoccupazione è che rallentando si perda terreno. Fermare il progresso potrebbe essere esiziale nella competizione con la Cina.

Anthropic è perfettamente consapevole delle difficoltà. Non per questo però intende darsi per vinta senza averci provato. Se il suo appello dovesse venire inascoltato, ha già una soluzione alternativa. Tempo fa, aveva mandato qualche suo dipendente alla National Security Agency (Nsa) affinché aiutassero i funzionari dell’agenzia a utilizzare Mythos, il modello più potente di Claude. Gli ingegneri avevano il compito di istruirli e adattare lo strumento per funzioni specifiche. Questo nonostante la controversia in corso con il Pentagono, di cui la Nsa fa parte. Siccome il Dipartimento della Difesa vuole utilizzare gli strumenti di Anthropic a tutti i costi, tanto vale insegnargli bene a usarli.