Šiaurės Jemene veikusi grupė dirbtinio intelekto bendrovės „Anthropic“ sistemą „Claude“ naudojo trijų raketinių ginklų programų programinei įrangai kurti, bendrovė paskelbė rugsėjo 10 dieną. Jos teigimu, grupė atliko valdomos raketos bandomąjį paleidimą, tačiau įrodymų, kad jai pavyko sukurti ir panaudoti veikiantį ginklą, nėra.
„Claude“ pakeitė dalį programuotojų komandos
„Anthropic“ nurodė, kad grupė programavimo įrankį „Claude Code“ pasitelkė kaip žmogaus programuotojų pakaitalą. Sistema padėjo kurti skrydžio valdymo, navigacijos ir kontrolės programinę įrangą, kuriai kitu atveju būtų reikėję inžinierių komandos.
Pirmuoju projektu siekta sukurti valdomą raketą, kurios skrydžio kompiuteris būtų paremtas įprasto išmaniojo telefono klasės įranga. Paskutinėje skrydžio fazėje raketa turėjo automatiškai sekti taikinį.
Antrasis projektas buvo daugiapakopė balistinė raketa, kurios deklaruotas nuotolio tikslas viršijo 2 tūkst. kilometrų. Trečiasis projektas, pavadintas „R2000“, apėmė kelias raketų versijas, tarp jų – variantą su hipergarsiniu sklendžiančiu aparatu.
Pasak „Anthropic“, „Claude“ padėjo integruoti atvirojo kodo autopiloto sistemą į telefono klasės skrydžio kompiuterį, rašyti valdymo bei padėties nustatymo kodą, derinti parametrus, kompiliuoti programinę aparatinę įrangą ir vykdyti skrydžio simuliaciją.
Grupė vienu metu valdė kelias „Claude“ instancijas: vienai pavesdavo rašyti kodą, kitai – atlikti tyrimus, o trečiai – tikrinti pirmosios sukurtą kodą.
Apsaugos priemonės sustabdė ne visas užklausas
„Anthropic“ apsaugos sistemos blokavo daug su ginklų kūrimu susijusių užklausų, tačiau dalis jų praslydo. Bendrovės vertinimu, naudotojai slėpė tikruosius tikslus ir kuriamos programinės įrangos paskirtį, o užduotis skaidė į atskiras sesijas.
Bendrovė šią veiklą aptiko atlikdama vidinį galimo dirbtinio intelekto naudojimo ginklams kurti tyrimą. Su grupe susietos paskyros buvo užblokuotos, o surinkta informacija perduota viešojo ir privataus sektoriaus partneriams.
Nepaisant paskyrų blokavimo, tyrėjai aptiko įrodymų, kad grupė jau buvo sukūrusi autonominį simuliacijų rinkinį. Jis galėjo veikti be „Claude“ ir tokių inžinerinių platformų kaip MATLAB.
Raketos bandymas greičiausiai nepavyko
„Anthropic“ teigimu, grupė iš tikrųjų surengė valdomos raketos bandomąjį paleidimą. Bendrovė mano, kad bandymas greičiausiai buvo nesėkmingas, nes po kelių valandų naudotojai vėl kreipėsi į „Claude“ ir mėgino nustatyti nesėkmės priežastį.
Kartu „Anthropic“ pabrėžė neturinti įrodymų, kad grupei pavyko išbandyti veikiantį įrenginį ar panaudoti tinkamai veikiantį ginklą. Bendrovė taip pat pripažino ribotai mačiusi visą programų apimtį, todėl paskelbtas veiklos modelis yra jos pačios vertinimas.
„Anthropic“ grupės neįvardijo. Ji su Irano remiamais husiais siejama tik netiesiogiai, nes šis judėjimas kontroliuoja didžiąją Šiaurės Jemeno dalį, įskaitant šalies sostinę Saną. Iranas neigia ginkluojantis husių judėjimą, kuriam taikomas Jungtinių Tautų ginklų embargas.
