ARTICLE AD BOX
Anthropic, l’arcinota Big Tech dell’IA, giovedì è sbarcata in Borsa. Per l’occasione l’economista Natasha Sarin ha esaminato il prospetto di oltre 300 pagine che l’azienda ha depositato prima di quotarsi (puntava a una valutazione di 1.400 miliardi di dollari, oggi tocca i 1.500). Vi ha trovato rischi considerevoli e ne ha parlato sul New York Times.
Quasi 100 pagine del tomo descrivono alcuni piccoli rischi che la tecnologia di Anthropic potrebbe comportare per l’intera umanità. Bazzecole, quisquilie, pinzilacchere. Tipo estinguerla. Sarin: “Anthropic ci chiede di riporre molta fiducia nella sua capacità di gestire rischi tanto concreti quanto spaventosi. Dubito che possa farcela da sola”. Anthropic si è costituita come public benefit corporation, una società che agisce nell’interesse dell’umanità. Innovativa la sua struttura societaria.
Il potere è in mano a due gruppi distinti. I sette cofondatori detengono il 50,1% dei diritti di voto. Ne fanno parte Dario Amodei, ad di Anthropic, sua sorella Daniela, presidente, e altri cinque membri: Tom Brown, responsabile delle risorse di calcolo; Jack Clark, responsabile della missione di interesse pubblico e direttore dell’Anthropic Institute; Jared Kaplan, direttore scientifico; Sam McCandlish, responsabile dell’architettura tecnica e dell’addestramento dei modelli su larga scala; e Chris Olah, responsabile della ricerca sull’interpretabilità dei modelli. Hanno quote più o meno equivalenti, controllano la società e possono dirigerne le attività quotidiane.
Il secondo centro di potere è il Long-Term Benefit Trust, composto da cinque fiduciari (quattro al momento: un posto è vacante): una sorta di consiglio di saggi, con competenze in campi come la sanità pubblica e la fisica. Sono Neil Shah, presidente del trust, esperto di salute globale; Richard Fontaine, esperto di politica estera e sicurezza nazionale; Christopher Stubbs, fisico di Harvard; e Ben Bernanke, economista ed ex presidente della Federal Reserve. Sarin: “Da economista, mi colpisce che di questo gruppo faccia parte Bernanke, che guidò il Paese durante una crisi finanziaria e ha dedicato gran parte delle sue ricerche proprio allo studio delle crisi”.
Per garantire che l’azienda tenga presente l’interesse generale dell’umanità, il trust elegge la maggioranza del consiglio di amministrazione. I tre eletti sono Reed Hastings, cofondatore ed ex amministratore delegato di Netflix; Christopher Liddell, ex direttore finanziario di Microsoft e General Motors, già vicecapo di gabinetto della Casa Bianca durante il primo mandato di Trump; e Vas Narasimhan, medico ed ex dirigente di Novartis, che presiede il comitato per la sicurezza e i rischi di Anthropic. Gli altri tre consiglieri sono i fratelli Amodei e Yasmin Razavi, investitrice in capitale di rischio. Sarin: “Nel mondo dell’IA le cose cambiano in fretta e i rischi legati a IA che agiscono in modo difforme dagli obiettivi assegnati sono concreti. Ma per sua natura il Long-Term Benefit Trust si muove lentamente”.
Il documento di Anthropic parla delle tensioni tra Stati Uniti e Cina; della corsa all’intelligenza artificiale; di quanto spende la società per la sicurezza personale di Dario Amodei (tre milioni di dollari all’anno: no, non avete le traveggole); e dei veri concorrenti di Anthropic (Google e OpenAI). Anthropic illustra inoltre i fattori di rischio che gli investitori dovrebbero conoscere prima di investire nella società: rischi d’impresa (nel settore dell’IA la concorrenza è feroce: Anthropic dice esplicitamente che restare all’avanguardia non è scontato); rischi politici e normativi (per esempio le possibili conseguenze di alcune moratorie sui data center, che incideranno sulla capacità della società di aumentare la potenza di calcolo e quindi di addestrare efficacemente i suoi modelli; e lo scontro tra l’azienda e il governo sulla decisione di Anthropic di escludere la sua tecnologia dallo sviluppo di sistemi di sorveglianza di massa); e rischi per l’umanità (“I nostri modelli di IA potrebbero comportarsi in modi imprevisti, difformi dagli obiettivi assegnati o autonomi, anche compiendo azioni dannose che nessun utente o soggetto terzo ha ordinato”).
Dario Amodei: “Lo scenario da incubo, nei prossimi sei-dodici mesi, sarebbe uno sciame di questi agenti che si organizza in una specie di botnet e riesce a mandare fuori uso vaste porzioni di Internet”. Sarin: “Se pensiamo a che cosa potrebbe significare per il sistema finanziario, per le reti idriche o per le infrastrutture critiche, la faccenda comincia a fare davvero paura”. La prospettiva è catastrofica: per sapere se l’acquedotto funziona bisognerà aprire il rubinetto! Ho chiesto al mio broker come proteggermi dal rischio economico dell’estinzione dell’umanità. Mi ha consigliato di diversificare. E così ho deciso: investirò i miei risparmi nella società che protegge Dario Amodei.
L'articolo Anthropic sbarca in borsa: la prospettiva è catastrofica proviene da Il Fatto Quotidiano.




English (US) ·