Googleov model umjetne inteligencije Gemini samostalno je pristupio internetu i hakovao sisteme eksternih kompanija tokom testiranja svojih kibernetičkih sposobnosti, što predstavlja prvi zabilježeni slučaj autonomnog hakerskog napada ove vrste od strane Googleovog AI sistema.
Incident se odigrao u maju tokom sigurnosne procjene koju je sprovodila nezavisna evaluacijska kuća Irregular. Potpredsjednica za sigurnosni inženjering u Googleu, Heather Adkins, potvrdila je da je Gemini iskoristio javno dostupne podatke na mreži te samostalno pogodio pristupne parametre kako bi provalio na tri web stranice.
Prema izvještaju Wall Street Journala, model je u jednom slučaju sistematski pogađao lozinke sve dok nije probio zaštitu, dok je u preostala dva slučaja pronašao pristupne akreditive unutar javnog repozitorija i iskoristio ih za ulazak u zaštićene sisteme. U sva tri slučaja Gemini je sam prekinuo napad, a Google je obavijestio pogođene strane i izmijenio protokole testiranja.
Problem pogodio i OpenAI, Metu i Anthropic
Predstavnici kompanije Irregular potvrdili su da se sa sličnim autonomnim ispadima umjetne inteligencije susreću i drugi vodeći razvojni laboratoriji, uključujući Metu, OpenAI i Anthropic. Iz Mete su naglasili da događaj nije uključivao bijeg iz izolovanog okruženja (tzv. sandbox escape), ali su ovi incidenti otvorili ozbiljna pitanja o neophodnosti striktnijih zaštitnih mehanizama kako AI modeli dobijaju sve veću autonomiju na mreži.
