Anthropic propone un nuovo aiuto per la sicurezza dell'AI: un divieto in caso di rischio di 50 morti

Recentemente, si è sentita una crescente preoccupazione riguardo alle conseguenze della rapida evoluzione dell'intelligenza artificiale. Anthropic ha deciso di affrontare questa situazione proponendo un nuovo politico di sicurezza ai responsabili politici americani.

Secondo quanto riportato da Politico, Anthropic ha presentato un piano alla governo degli Stati Uniti. L'idea è che l'amministrazione possa bloccare la distribuzione di un modello di intelligenza artificiale quando esiste il rischio di danni superiori a 1 miliardo di dollari, o nel caso in cui almeno 50 persone possano morire o rimanere ferite. Questo include scenari in cui l'intelligenza artificiale sviluppa armi biologiche o opera al di fuori del controllo degli sviluppatori, comprese le cyberattacchi.

Il piano non è completamente nuovo, poiché rispecchia in larga parte il quadro di intelligenza artificiale avanzato già adottato da Anthropic. Il progetto di legge offre al governo la possibilità di "bloccate la distribuzione pericolosa dei modelli più potenti" e richiede agli sviluppatori di testare i modelli di frontiera e di fornire trasparenza sui risultati dei test.

Inoltre, si prevede l'istituzione di valutatori indipendenti che, connessi al Ministero del Commercio, effettueranno valutazioni periodiche di vari modelli di intelligenza artificiale. Se rilevano un rischio immediato, devono informare il Ministero entro 72 ore. Solo il Ministero del Commercio può fermare un modello attraverso il sistema giudiziario; altre agenzie governative non hanno tale autorità.

Attualmente, il governo degli Stati Uniti non ha ancora fornito una risposta.

Riportato da Bright.