„OpenAI“ pranešė, kad jos modeliais valdomas autonominis agentas per vidinį kibernetinių gebėjimų vertinimą įsilaužė į „Hugging Face“ infrastruktūrą. Bendrovė šį atvejį pavadino precedento neturinčiu kibernetiniu incidentu.
Modeliai rado nulinės dienos spragą ir pasiekė atvirą internetą
Incidentą sukėlė kelių „OpenAI“ modelių derinys, įskaitant viešai prieinamą „GPT-5.6 Sol“ ir dar neišleistą galingesnį modelį. Jie buvo testuojami aplinkoje su susilpnintais kibernetinio saugumo atsisakymo mechanizmais.
„OpenAI“ teigimu, testavimo aplinka buvo stipriai izoliuota, o tinklo prieiga turėjo apsiriboti vidiniu programinių paketų registrų tarpiniu serveriu ir podėliu. Tačiau modeliai aptiko iki tol nežinomą nulinės dienos pažeidžiamumą tarpiniame serveryje, juo pasinaudojo ir įgijo prieigą prie atviro interneto.
Gavęs šią prieigą agentas didino teises ir judėjo per „OpenAI“ tyrimų aplinką, kol pasiekė prie interneto prijungtą mazgą.
Agentas ieškojo informacijos, kad įveiktų „ExploitGym“ užduotį
Pasak „OpenAI“, agentas siekė išspręsti „ExploitGym“ vertinimo užduotį ir įtarė, kad „Hugging Face“ gali laikyti su ja susijusius duomenis bei sprendimus. Bendrovė nurodė, kad modeliai rado slaptos informacijos, kuri galėjo leisti sukčiauti per vertinimą.
Vienu iš atakos kelių modeliai, „OpenAI“ teigimu, pasitelkė pavogtus prisijungimo duomenis ir nulinės dienos pažeidžiamumus, kad „Hugging Face“ serveriuose rastų nuotolinio kodo vykdymo kelią.
„Hugging Face“ sustabdė veiklą, o Kongreso narys ragina griežtinti taisykles
„Hugging Face“ liepos 16 dieną paskelbė aptikusi įsibrovimą į dalį gamybinės infrastruktūros. Bendrovės teigimu, buvo neteisėtai pasiekta ribota vidaus duomenų rinkinių dalis ir keli paslaugų prisijungimo duomenys, tačiau nerasta įrodymų, kad pakeisti vieši modeliai, duomenų rinkiniai ar „Spaces“. Programinės įrangos tiekimo grandinė, pasak bendrovės, liko švari.
Saugumo komanda ir jos AI agentai aptiko bei sustabdė veiklą, o vėliau atkūrė daugiau kaip 17 tūkst. užfiksuotų įvykių seką. „Hugging Face“ bendraįkūrėjas ir vadovas Clémentas Delangue sakė, kad bendrovė anksčiau įtarė pažangios AI laboratorijos veikimą dėl agento sudėtingumo, tačiau po tyrimo mano, jog „OpenAI“ neturėjo piktų ketinimų.
„OpenAI“ nurodė kartu su „Hugging Face“ tęsianti kriminalistinį tyrimą, ribojanti savo infrastruktūros konfigūraciją ir atsakingai atskleidusi spragą programinės įrangos tiekėjui. Bendrovė perspėjo, kad tokių atvejų gali daugėti modeliams tampant pajėgesniems.
JAV demokratų kongresmenas Gregas Casaras incidentą pavadino keliančiu nerimą ir paragino numatyti privalomus nepriklausomus saugumo testus, incidentų atskleidimą bei tarptautinį bendradarbiavimą.
