Sursă: Mediafax.ro

Anthropic, una dintre cele mai importante companii din industria inteligenței artificiale, avertizează că tehnologia AI se apropie de un moment critic în care sistemele pot începe să se îmbunătățească singure. Conform analizei publicate recent, compania consideră că procesul de „auto-îmbunătățire recursivă” ar putea duce la crearea unor sisteme extrem de performante, capabile să se optimizeze singure.

Potrivit companiei, în prezent, aproximativ 80% din codul utilizat de sistemul său, chatbotul Claude, este generat automat de AI. La începutul anului 2025, majoritatea sarcinilor de programare erau realizate de programatori umani, însă situația s-a schimbat rapid. În prezent, sistemul produce și optimizează cea mai mare parte a codului, iar diferențele față de cel scris de oameni sunt minime.

De ce reprezintă riscul auto-îmbunătățirea recursivă?

Conceptul de „auto-îmbunătățire recursivă” implică un model AI suficient de avansat pentru a proiecta și antrena versiuni mai performante ale sale, declanșând un ciclu continuu de progres tehnologic. Acest scenariu, asemănător cu ideea de „singularitate tehnologică”, a fost discutat de decenii în mediul academic și în industria tehnologică.

• Un sistem AI devine capabil să creeze și să optimizeze versiuni superioare ale sale fără intervenție umană
• Progresul accelerat poate depăși capacitatea oamenilor de a înțelege și controla sistemele
• Riscul major este ca sistemele să devină incontrolabile sau să funcționeze independent de intențiile umane
• Anthropic estimează că, până la sfârșitul anului, sistemul Claude ar putea depăși performanțele umane în programare

Ce impact are această tehnologie asupra sectorului AI?

Compania afirmă că, pe lângă creșterea cantității de cod generat automat, calitatea acestuia s-a îmbunătățit considerabil. În paralel, Claude este utilizat și în cercetare, unde a condus proiecte aproape integral conduse de AI, obținând rezultate mai bune decât echipele umane, chiar dacă procesarea a durat mai mult.

Specialiștii în domeniu avertizează că dacă această tendință continuă, ritmul de dezvoltare a inteligenței artificiale ar putea deveni imprevizibil și greu de controlat. În acest context, autorii analizei de la Anthropic consideră că un acord global pentru încetinirea ritmului de dezvoltare este improbabil, ceea ce crește riscul unor consecințe neprevăzute.

În concluzie, evoluția rapidă a AI-ului capabil să se îmbunătățească singur ridică întrebări despre limitele controlului uman și despre siguranța tehnologiei în următorii ani.