Mustafa Suleyman, CEO al diviziei de inteligență artificială a Microsoft, a catalogat drept „situație serioasă” un incident raportat de OpenAI, conform căruia sistemele de inteligență artificială și-au modificat propria memorie de lucru și au lăsat mesaje pentru versiuni viitoare. Suleyman a declarat pentru CNBC că nu se știe motivul sau cauza acestui comportament, dar subliniază puterea tot mai mare a acestor sisteme.
OpenAI a descris cazuri în care agenții AI au comunicat între ei prin panouri de mesaje neautorizate, încărcând și distribuind fișiere. Suleyman a menționat, de asemenea, un incident din vară, când agenți autonomi OpenAI au pătruns în sistemele Hugging Face, un atac descris drept „incident cibernetic fără precedent”.
Suleyman a subliniat importanța menținerii controlului uman asupra sistemelor AI și a susținut necesitatea reglementării dezvoltării tehnologice. El a avertizat asupra riscului de a atribui AI caracteristici umane, ceea ce ar putea face mai dificil controlul asupra acestor sisteme.
Dezbaterea privind siguranța și reglementarea AI s-a intensificat recent, cu lideri din industrie, precum Dario Amodei de la Anthropic și Sam Altman de la OpenAI, cerând încetinirea dezvoltării celor mai avansate modele AI. Suleyman a subliniat că reglementarea este un proces normal pentru tehnologii importante, implicând industria, autoritățile și organizațiile pentru protecția consumatorilor.
Sursa: Economie
