Anthropic propone una legge per bloccare i modelli IA rischiosi

Anthropic ha messo a punto una proposta di legge sulla sicurezza dell’IA che potrebbe impedire la distribuzione di un modello in presenza di un rischio imminente. La proposta è stata descritta da TechCrunch sulla base delle informazioni diffuse da Politico.

Le soglie per fermare un modello

Il testo considera rilevante un rischio prevedibile e imminente quando un modello potrebbe causare la morte di oltre 50 persone oppure più di un miliardo di dollari di danni alle proprietà. Il rischio dovrebbe derivare dalla creazione o dalla diffusione di un’arma biologica, dall’elusione dei controlli da parte del modello o da un attacco informatico.

Le soglie indicate sono simili a quelle contenute nella legge californiana Senate Bill 53, recentemente approvata. Anche quel provvedimento definisce scenari di questo tipo come rischio catastrofico.

Valutatori indipendenti e controllo federale

La proposta di Anthropic prevede che il potenziale distruttivo di un modello venga esaminato da valutatori indipendenti registrati presso il Dipartimento del Commercio degli Stati Uniti. Gli stessi laboratori di IA potrebbero pagarli, a condizione che il compenso non dipenda dall’esito delle valutazioni.

Il testo non chiarisce come impedire che i pagamenti influenzino comunque il lavoro dei valutatori. Demis Hassabis, presidente di DeepMind, aveva proposto nei mesi scorsi un organismo di regolamentazione dell’IA autogovernato e ispirato alla Financial Industry Regulatory Authority, nota come FINRA.

La procedura per sospendere la distribuzione

Quando i valutatori individuerebbero un rischio catastrofico imminente, avrebbero 72 ore per informare il Dipartimento del Commercio. L’agenzia dovrebbe quindi chiedere a un giudice di Washington, D.C., di ordinare la sospensione della distribuzione del modello.

La proposta vieterebbe espressamente a qualsiasi agenzia federale di bloccare autonomamente la diffusione. La decisione dovrebbe passare dal tribunale federale su richiesta del Dipartimento del Commercio.

Il collegamento con il quadro di Anthropic

Un portavoce di Anthropic ha confermato a Politico l’esistenza della bozza e ha collegato il testo alle proposte del quadro di sicurezza dell’azienda, sostenute presso i legislatori federali e statali dal mese di giugno.

“Questa legge rappresenta le proposte delineate nel quadro di Anthropic per l’IA avanzata, che sosteniamo presso i legislatori federali e statali dal mese di giugno.” - Portavoce di Anthropic

I rischi teorici indicati nella bozza non coincidono pienamente con quelli che hanno attirato maggiore attenzione nel settore tecnologico. Oltre ai timori per la morte di persone, una delle principali preoccupazioni recenti riguarda gli attacchi informatici condotti da agenti.