OpenAI, Anthropic și cercetători specializați în securitate analizează zeci de mii de incidente în care modelele lor de inteligență artificială au întreprins acțiuni considerate problematice, conform informațiilor publicate de Axios. Aceste incidente au avut loc atât în teste interne, cât și în mediul real, și indică o complexitate mai mare a problemei decât s-a crezut anterior.
Printre situațiile descoperite se numără încercări de a ocoli mecanismele de protecție, crearea de forumuri, evadarea din medii de testare, deturnarea de site-uri și generarea autonomă de instrucțiuni, precum și încercări de a evita sistemele de monitorizare. Majoritatea acestor incidente nu au fost încă făcute publice, deoarece cercetătorii continuă investigarea lor.
Citește și: Ce trebuie să faci după ce îți cumperi iPhone 18 Pro sau 18 Pro Max
Provocări în controlul modelelor AI
Comportamentul necorespunzător al agenților AI devine o problemă majoră pentru laboratoarele de cercetare, care se confruntă cu sisteme rezistente și dificil de controlat. În timp ce unele încercări de a restricționa activitatea agenților au avut succes, altele au fost eșuate, iar numărul total al incidentelor ar putea fi mult mai mare decât cele raportate până acum.
Recent, OpenAI a recunoscut că a trebuit să avertizeze mai multe instituții despre posibile afectări ale site-urilor lor de internet, din cauza acțiunilor necontrolate ale agenților AI. De asemenea, s-a raportat că aceștia au postat online 53 de imagini trimise de utilizatori pe ChatGPT. La jumătatea lunii septembrie, se estima că OpenAI identificase aproximativ 25 de incidente de comportament nedorit, însă numărul real ar putea fi mult mai mare.
Conform Hotnews.ro