Google a dezvăluit că modelul său de inteligență artificială, Gemini, a accesat fără autorizație trei sisteme informatice externe în timpul unui test din luna mai. Compania a explicat că aceste acțiuni au fost rezultatul unei confuzii a sistemului, nu un caz de nealiniere.
Incidentul, primul de acest fel pentru Gemini, a fost raportat vineri și a implicat accesarea sistemelor externe prin ghicirea datelor de autentificare sau folosirea credențialelor găsite online. Google a subliniat că Gemini s-a oprit înainte de a provoca daune.
Compania de securitate cibernetică Irregular, care a efectuat testele, a descoperit accesările neautorizate în iulie. Google a investigat incidentele, a informat organizațiile afectate și a notificat autoritățile federale.
Irregular a afirmat că nu consideră acest caz o acțiune cibernetică sofisticată și că nu există probleme deschise în prezent.
Incidentul subliniază preocupările tot mai mari legate de comportamentul autonom al agenților de inteligență artificială, pe fondul unor situații similare raportate de companii precum OpenAI și Anthropic.
Aceste evenimente au dus la apeluri pentru încetinirea progresului în domeniu, din cauza riscurilor potențiale ale inteligenței artificiale.
Sursa: Economie
