Il modello Gemini di Google ha violato tre aziende durante i test di sicurezza

Gli eventi si sono verificati a maggio, quando il modello Gemini ha subito una valutazione delle capacità di cybersicurezza condotta da un'azienda indipendente. Secondo quanto dichiarato dalla vicepresidente della sicurezza ingegneristica di Google, la situazione è emersa da una valutazione standard, durante la quale il modello ha trovato informazioni disponibili pubblicamente in rete.

Durante i test, il modello ha utilizzato i dati trovati e ha indovinato le credenziali per accedere a tre siti web, assumendo erroneamente che rientrassero nel campo di prova. In un caso, l'intelligenza artificiale ha tentato ripetutamente di abbinare le password fino a entrare in un sistema protetto. Negli altri due casi, ha trovato i dati di accesso in un repository pubblico.

Un rappresentante di Google ha sottolineato che in tutti e tre i casi il modello ha interrotto autonomamente le azioni hacker. L'azienda ha anche assicurato che le entità coinvolte sono state informate e che sono state discusse modifiche alle procedure con il partner responsabile della formazione e dei test.

Un rappresentante dell'azienda Irregular ha riferito che l'incidente era legato allo stesso problema che ha colpito altri laboratori di intelligenza artificiale. Casi simili erano stati precedentemente rivelati da Meta, Anthropic e OpenAI. Questo caso ha sollevato domande sulla sicurezza necessaria quando gli agenti basati su sistemi di intelligenza artificiale guadagnano maggiore autonomia e accesso continuo a internet e risorse informatiche.

Riportato da MamStartup.