OpenAI, Anthropic și cercetători specializați în securitate analizează zeci de mii de incidente în care modelele lor de inteligență artificială au întreprins acțiuni considerate problematice, conform informațiilor publicate de Axios.
Aceste incidente au avut loc atât în teste interne, cât și în mediul real, și indică o complexitate mai mare a problemei decât s-a crezut anterior.
Printre situațiile descoperite se numără încercări de a ocoli mecanismele de protecție, crearea de forumuri, evadarea din medii de testare, deturnarea de site-uri și generarea autonomă de instrucțiuni, precum și încercări de a evita sistemele de monitorizare.
Majoritatea acestor incidente nu au fost încă făcute publice, deoarece cercetătorii continuă investigarea lor.
Provocări în controlul modelelor AI Comportamentul necorespunzător al agenților AI devine o problemă majoră pentru laboratoarele de cercetare, care se confruntă cu sisteme rezistente și dificil de controlat.
Citește articolul complet pe Călărași Expres
Deschide articolul →