58 minute_ago
1
ARTICLE AD BOX
L’intelligenza artificiale promette di accelerare la scoperta di nuovi farmaci, progettare proteine, analizzare quantità di dati biologici prima ingestibili e rendere più veloce una parte crescente della ricerca biomedica. Ma proprio gli strumenti e i dati che rendono possibile questa accelerazione potrebbero avere un’altra faccia: nelle mani sbagliate, potrebbero abbassare alcune delle barriere che finora hanno reso estremamente complessa la progettazione di una minaccia biologica.
È da questo paradosso che parte il nuovo report della Rand Corporation, uno dei più influenti think tank statunitensi nel campo della sicurezza, della difesa e delle politiche pubbliche. Rand è un’organizzazione di ricerca indipendente, non profit e non partisan, nata nel secondo dopoguerra e oggi attiva in numerosi ambiti, dalla sicurezza nazionale alla salute, fino alle tecnologie emergenti.
Il rapporto, pubblicato il 18 agosto e intitolato “Building a Defense-in-Depth Biosecurity Strategy for the AI Era”, prova a rispondere a una domanda destinata a diventare sempre più importante per governi, aziende farmaceutiche, biotech e istituzioni di ricerca: come proteggersi dal possibile uso malevolo dell’Ia applicata alla biologia senza rallentare proprio quella ricerca che può produrre nuovi farmaci e terapie?
Una difesa a più livelli
La premessa degli autori è che non esista una singola misura capace di neutralizzare il rischio. Rand propone per questo una strategia di defense in depth: una difesa composta da più livelli, nella quale diversi strumenti di prevenzione, controllo e rilevamento si rafforzano reciprocamente.
Il rapporto individua nove misure di mitigazione distribuite lungo il percorso che potrebbe portare dall’ideazione di una minaccia biologica alla sua realizzazione. L’obiettivo è introdurre ostacoli nei diversi passaggi: limitare l’accesso alle informazioni più sensibili, rendere più difficile procurarsi materiali necessari, individuare precocemente comportamenti anomali e aumentare, infine, i costi e i rischi percepiti da chi volesse tentare un attacco.
La distinzione tra i possibili attori è fondamentale. Un individuo con poche risorse potrebbe essere fermato impedendogli l’accesso a determinate informazioni o materiali. Un’organizzazione tecnologicamente sofisticata, e ancor più un attore statale, potrebbe invece essere in grado di aggirare questi ostacoli. In quel caso, secondo Rand, entrano in gioco strumenti differenti: capacità di rilevamento, attribuzione e deterrenza.
La biosecurity dell’era dell’IA, insomma, non può affidarsi a un’unica linea di difesa.
Il nuovo valore strategico dei dati biologici
È probabilmente il punto più interessante del rapporto per il mondo della ricerca e delle life sciences. Gli stessi dataset biologici di alta qualità che possono contribuire allo sviluppo di nuovi farmaci possono infatti aumentare le capacità dei sistemi di Ia applicati alla biologia.
Finora il principio dominante nella ricerca è stato, comprensibilmente, quello dell’accessibilità. Condividere dati significa permettere ad altri ricercatori di verificarli, combinarli e utilizzarli per produrre nuova conoscenza. Ma l’arrivo di sistemi di Ia sempre più capaci introduce una domanda ulteriore: tutti i dati biologici devono continuare a essere accessibili nello stesso modo?
Steph Guerra, biologa molecolare ed esperta di biosecurity che guida il programma “AI x Bio del Rand Center on AI, Security, and Technology” e prima autrice del rapporto, ha sintetizzato il dilemma in modo efficace presentando il lavoro: la biologia mette tradizionalmente i propri dati a disposizione perché il suo obiettivo è la scoperta scientifica e salvare vite, non fare la guerra.
Il problema nasce quando uno stesso patrimonio informativo può avere entrambi gli usi.
Una possibile risposta non è chiudere i dati, ma introdurre sistemi di accesso differenziato. Guerra propone, per esempio, di continuare a costruire grandi infrastrutture e “biodata factories” capaci di produrre i dati necessari alla ricerca sulle malattie, prevedendo però livelli di accesso che consentano ai ricercatori legittimi di utilizzare anche i dataset più sensibili senza renderli indiscriminatamente disponibili.
È un cambio di prospettiva importante. Il dato biologico non è più soltanto materia prima della ricerca: in determinate condizioni può diventare anche un asset strategico da proteggere.
Quando l’Ia abbassa la soglia delle competenze
Il rischio, peraltro, non dipende soltanto dalla quantità di informazioni disponibili. Una delle questioni che Rand sta studiando riguarda la capacità dei sistemi di Ia, e in particolare degli agenti più autonomi, di ridurre il livello di competenza necessario per utilizzare strumenti biologici complessi.
Storicamente, possedere informazioni su un patogeno non è mai stato sufficiente per trasformarle in una minaccia reale. Servono competenze scientifiche, capacità sperimentali, infrastrutture e conoscenze pratiche di laboratorio. Proprio queste barriere hanno rappresentato una forma implicita di protezione.
L’Ia potrebbe progressivamente modificarle, assistendo un utilizzatore non soltanto nella ricerca delle informazioni, ma nella scelta degli strumenti, nella progettazione e nella risoluzione dei problemi che emergono durante il lavoro scientifico.
Non significa che oggi un chatbot sia in grado di consentire a chiunque di costruire un’arma biologica. La stessa Guerra sottolinea che le capacità dell’Ia in biologia stanno avanzando rapidamente, ma che le soglie considerate più pericolose non sono ancora state superate. È proprio questa, secondo Rand, la ragione per intervenire adesso.
Il confine mobile tra apertura e sicurezza
Qui emerge però il problema più delicato. Ogni barriera introdotta per rendere più difficile un utilizzo malevolo può produrre un costo per chi utilizza le stesse tecnologie con finalità legittime.
Limitare l’accesso ai dataset può rallentare la ricerca. Aumentare i controlli può rendere più complessa la collaborazione scientifica. Vincolare gli strumenti di progettazione biologica può ridurne l’accessibilità anche per laboratori e ricercatori che potrebbero utilizzarli per sviluppare nuove terapie.
Per questo le misure indicate da Rand poggiano su ipotesi che devono essere continuamente sottoposte alla prova delle evidenze. È un punto sul quale Guerra insiste: una strategia di mitigazione ha senso finché rimangono vere le condizioni che la rendono efficace.
Prendiamo proprio i dati biologici. Proteggere dataset specialistici e validati sperimentalmente è utile se quei dati consentono ai modelli di raggiungere capacità significativamente superiori rispetto a quelle ottenibili con informazioni già pubbliche. Ma cosa accadrebbe se i modelli diventassero abbastanza potenti da ottenere gli stessi risultati utilizzando soltanto dati liberamente disponibili? O se i dati sintetici riuscissero a sostituire quelli reali?
In quel caso, una politica costruita sulla restrizione dei dataset potrebbe diventare rapidamente meno efficace, mantenendo però intatti i suoi costi per la ricerca.
Non basta controllare i modelli
C’è un’altra conseguenza rilevante dell’approccio Rand: la responsabilità della biosecurity non può essere attribuita esclusivamente alle grandi aziende che sviluppano modelli di Ia.
Un potenziale attore malevolo potrebbe muoversi tra diversi punti dell’ecosistema: interrogare più modelli, rivolgersi a differenti fornitori di sintesi biologica, acquistare materiali da soggetti diversi. Presi singolarmente, questi comportamenti potrebbero non apparire sospetti; osservati insieme, potrebbero invece comporre un segnale riconoscibile.
Da qui la necessità, indicata dal rapporto, di infrastrutture capaci di condividere informazioni e mettere in relazione segnali provenienti dal mondo digitale e da quello fisico. Nessuna singola azienda, laboratorio o istituzione possiede infatti una visione completa della catena.
La governance diventa così necessariamente multilivello: coinvolge sviluppatori di Ia, aziende biotech e farmaceutiche, università, fornitori di servizi e materiali biologici, sistemi sanitari e istituzioni pubbliche.
Proteggere senza fermare
La sfida posta dalla convergenza tra Ia e biologia è quindi più complessa della scelta tra innovazione e sicurezza.
La stessa tecnologia può accelerare lo sviluppo di una terapia e ridurre alcune delle barriere all’utilizzo malevolo della biologia. Gli stessi dati possono servire a comprendere una malattia e, in circostanze diverse, fornire informazioni sensibili. E gli stessi strumenti di progettazione biologica possono aumentare enormemente la produttività di uno scienziato e rendere più accessibili competenze prima riservate a pochi specialisti.
Per questo Rand invita a investire nelle difese prima che le capacità più pericolose diventino evidenti. Aspettare di avere la dimostrazione definitiva della minaccia, avvertono gli autori, significherebbe probabilmente aspettare troppo.
Il punto non è chiudere la scienza per proteggerla ma costruire, mentre l’Ia trasforma le life sciences, un sistema nel quale l’apertura necessaria alla ricerca possa convivere con livelli di protezione proporzionati al rischio.
Per le politiche della salute e della ricerca significa cominciare a porsi una domanda che fino a pochi anni fa sarebbe sembrata quasi contraddittoria: non soltanto come utilizzare più dati per innovare, ma anche quali dati proteggere, da chi e a quali condizioni.
English (US) ·