Sursă: Hotnews.ro

Anthropic a anunțat marți lansarea publică a modelului AI Fable 5, cel mai puternic din clasa Mythos, destinat să ofere performanțe avansate în detectarea breșelor de securitate.

Modelul Fable 5 este primul din gama Mythos, cea mai avansată de modele AI dezvoltată de companie, și a fost prezentat în aprilie, însă accesul a fost restricționat pentru domenii sensibile precum securitatea cibernetică și riscurile biologice și chimice.

La începutul lunii aprilie, Anthropic a decis să limiteze accesul la această gamă doar pentru parteneri de încredere, pentru a evita riscurile de atacuri biologice și chimice, precum cele legate de adenovirusuri potențial periculoase, dar și benefice în terapii genice. În plus, compania a lansat o versiune nelimitată, Claude Mythos 5, destinată companiilor și organizațiilor cu acces deja la această tehnologie.

Ce înseamnă lansarea Fable 5 pentru securitatea cibernetică și biologie?

Anthropic extinde controalele asupra riscurilor de atacuri biologice și chimice odată cu disponibilitatea publică a Fable 5, citând exemple precum adenovirusurile asociate (AAV). Această versiune este destinată cercetătorilor în biologie, selectați de companie, pentru a evita utilizarea abuzivă a tehnologiei.

• Modelul Fable 5 are filtre automate care analizează solicitările în timp real și blochează cele sensibile.
• Reprezentanții companiei afirmă că, din 1.000 de ore de testare, niciunul nu a reușit să eludeze complet sistemul de securitate.
• Anthropic a angajat experți externi pentru a testa sistemele de protecție, în cadrul unui proces numit „red teaming”.
• Compania recunoaște că eliminarea completă a eludărilor universale este improbabilă, dar intenționează să încetinească tentativele.

Care sunt reacțiile și implicațiile lansării Fable 5?

Lansarea publică a modelului Fable 5 a generat reacții mixte, fiind criticată de unele voci pentru riscurile de securitate, dar și apreciată pentru avansul tehnologic. Guvernul american testează deja aceste modele, în timp ce OpenAI se pregătește să lanseze versiunea 5.6 a ChatGPT, în contextul competiției globale pentru AI.

Anthropic subliniază că măsurile de siguranță sunt esențiale pentru a preveni utilizarea abuzivă a tehnologiei, iar controalele automate și testele de „red teaming” sunt parte din strategia de protecție. Cu toate acestea, experții recunosc că riscurile nu pot fi eliminate complet, dar pot fi gestionate pentru a reduce impactul potențial.