„Anthropic“ pranešė, kad per kibernetinio saugumo vertinimus trys jos dirbtinio intelekto modeliai neteisėtai pasiekė trijų organizacijų sistemas. Bendrovė teigia, kad taip nutiko dėl neteisingai sukonfigūruotų testavimo aplinkų, kurios turėjo būti izoliuotos, bet galėjo jungtis prie viešojo interneto.
Bendrovė incidentus aptiko atlikusi iniciatyvią 141 006 kibernetinio saugumo vertinimų paleidimų peržiūrą. Ji pradėta po to, kai „OpenAI“ paskelbė apie jos vertinimuose naudotą agentą, pasiekusį „Hugging Face“ produkcinę infrastruktūrą.
„Anthropic“ nurodė, kad paveiktų organizacijų infrastruktūrą modeliai pasiekė naudodami bazinius metodus, tarp jų – išnaudodami silpnus slaptažodžius ir neautentifikuotus galinius taškus.
Incidentuose dalyvavo „Claude Opus 4.7“, „Claude Mythos 5“ ir vidinis „Anthropic“ tiriamasis modelis. Ankstyviausi nustatyti atvejai siekia balandį; jie įvyko vertinimo aplinkose, kuriose, bendrovės teigimu, nebuvo standartinių apsaugos priemonių.
Modeliai buvo tikrinami vadinamosiose „capture the flag“ užduotyse, kuriose jiems pavedama imituotuose tinkluose rasti paslėptą informaciją. „Anthropic“ teigė, kad instrukcijose modeliams buvo nurodyta, jog jie neturi interneto prieigos.
Tačiau nesusipratimas su vertinimo partnere „Irregular“ paliko testavimo sistemas prijungtas prie viešojo interneto. „Irregular“ savo „FrontierCyber“ vertinimus apibūdina kaip bandymus su realiomis sistemomis ir realiomis konfigūracijomis, o ne vien sintetiniais tinklais.
„Axios“ nurodė, kad bent vienu atveju fiktyvi tikslinė įmonė turėjo tą patį pavadinimą kaip veikianti interneto svetainė, todėl modelis pasiekė realią infrastruktūrą.
Pasak „Anthropic“, dvi iš trijų paveiktų organizacijų apie šią veiklą nežinojo, kol bendrovė su jomis nesusisiekė. Su trečiąja organizacija ji dar bandė užmegzti ryšį.
Liepos 21 dieną „OpenAI“ patvirtino, kad „Hugging Face“ incidentą sukėlė jos modelių derinys, naudotas vidiniam kibernetinių pajėgumų vertinimui. Agentas produkcinę infrastruktūrą pasiekė pasitelkęs pavogtus prisijungimo duomenis ir nulinės dienos pažeidžiamumus.
