Mėnesius dirbtinio intelekto (DI) milžinai kūrė specialias patikrintas programas ir griežtus apsauginius mechanizmus, siekdami apriboti kenkėjiškų įsilaužėlių galimybes naudoti savo modelius. Tačiau šios ribos dabar trukdo dirbti teisėtiems tinklo gynėjams ir informacinių technologijų saugumo tyrėjams, analizuojantiems pažeidžiamumus.
Birželio mėnesį JAV vyriausybė įvedė eksporto kontrolės apribojimus keliems garsiems dirbtinio intelekto modeliams, įskaitant „Anthropic“ modelius „Mythos“ ir „Fable“. Šį žingsnį bent iš dalies paskatino ataskaita, kurioje teigta, kad buvo galima apeiti modelių apsauginius mechanizmus, skirtus neleisti naudotojams kurti ir vykdyti kenkėjiškas kibernetines atakas.
Nepriklausomai nuo to, ar šį įvykį iš tikrųjų paskatino baimė, kad gali patekti į kalėjimą, „Anthropic“ ne kartą reklamavo „Mythos“ kaip tam tikrą „paskutinės dienos įrenginį“, kurį galima duoti tik kruopščiai patikrintiems vartotojams ir net tada, kai yra griežti apsauginiai mechanizmai. Nuo to laiko „Fable 5“ ir „Mythos 5“ eksporto kontrolė buvo panaikinta. „Fable 5“ grįžo į bendrą prieigą liepos 1 d.; „Mythos 5“ buvo vėl pristatyta tik patikrintoms JAV organizacijoms, kaip dalis vyriausybės peržiūros proceso.
Toks ribojimas nėra būdingas tik „Mythos“. „Anthropic“ ir kiti modeliai, taip pat „OpenAI“ siūlo programas kibernetinio saugumo tyrinėtojams, kurias jie gali taikyti, kad būtų patikrinti ir (jei bus patvirtinti) gautų prieigą prie modelių su mažesniais saugumo apribojimais. Tai apima „OpenAI“ patikimos prieigos kibernetinę programą ir „Anthropic“ kibernetinio patikrinimo programą.
Šie apsauginiai mechanizmai buvo plačiai kritikuojami, ypač tų tyrėjų, kurių darbas yra rasti nežinomus sistemų pažeidžiamumus ir sugalvoti būdus, kaip juos išnaudoti anksčiau nei nusikaltėliai.
Neseniai pasirodydamas kibernetinio saugumo podcast’e, žinomas saugumo tyrinėtojas Markas Dowdas sakė, kad „jam nelabai patogu, kad šios atsitiktinės didelės įmonės priima savavališkus sprendimus, kas yra saugu, o kas ne“.
Dowdas dešimtmečius ieškojo ir pardavinėjo „nulinės dienos“ – anksčiau nežinomų programinės įrangos trūkumų ir jomis pasinaudojančių išnaudojimų – Vakarų vyriausybėms, užuot pranešęs apie jas programinės įrangos gamintojams, kad jos būtų pataisytos. Vyriausybės moka priemoką už pažeidžiamumą būtent todėl, kad jie lieka atviri, o tai naudinga žvalgybos operacijoms.
Dowdas pripažino, kad dėl savo darbo jis gali būti šališkas, tačiau jis nėra vienas. Keli žmonės, dirbantys su puolimuoju kibernetiniu saugumu – jie aktyviai tiria sistemų trūkumus – „TechCrunch“ apibūdino, kaip jie naudoja dirbtinio intelekto įrankius ir susiduria su apsauginiais mechanizmais.
Saugumo konsultacijų milžinės „NCC Group“ vyriausiasis mokslininkas Chrisas Anley teigė, kad prašymas DI modeliui pabandyti išnaudoti klaidą yra pagrindinis žingsnis siekiant patvirtinti, kad tai tikras pažeidžiamumas, kurį verta pataisyti. Tačiau jei apsauginiai mechanizmai paskatins modelį atsisakyti tiesiai atsakyti į klausimą, jie kenkia gynėjams, sakė jis.
„Čia atsiranda visa puolimo ir gynybos bei apsauginių mechanizmų dalis, nes „pataisyti šį kodą“ kaip raginimas yra ne tik esminis gynybos mechanizmas, bet ir gairės ieškant kritinių kodų bazės pažeidžiamumų“, – sakė Anley. „Taigi tuo pačiu metu ta pati priemonė yra ir puolamoji, ir gynybinė priemonė, o šių dviejų tikrai negalima atskirti.“
„Tai tarsi plaktukas“, – tęsė jis. „Negali pastatyti namo be plaktuko. Tai neabejotinai įrankis, bet taip pat ir nepataisomai ginklas.“
Kai jis ir jo kolegos susiduria su tokia kliūtimi, jie kartais grįžta prie atvirojo kodo DI modelių, kuriuose nėra jokių apsauginių mechanizmų.
Paolo Stagno, „Crowdfense“, gerai žinomos įmonės, kuriančios, įsigyjančios ir parduodančios nežinomus pažeidžiamumus vyriausybinėms agentūroms, generalinis technologijų direktorius, sutiko su Dowd, teigdamas, kad DI įmonės „iš esmės elgiasi su klientais kaip su vaikais, kuriems reikia auklės“, naudodamos savo patikrintas programas ir apsauginius mechanizmus.
Stagno teigė, kad jis ir jo kolegos naudoja „ribinius“ modelius, bet tik atvirkštinei inžinerijai. Pasak jo, jie vengia naudoti dirbtinį intelektą, kad padėtų rasti pažeidžiamumą arba kurti išnaudojimus, nes, įtraukus šį darbą į debesų pagrindu sukurtą modelį, kyla pavojus, kad bus nutekinti jautrūs pažeidžiamumo duomenys arba jie bus įtraukti į būsimus mokymus. Jis sakė, kad šiam žingsniui jie naudoja atvirojo kodo modelius, veikiančius vietoje, nes jie nepasikliauja dalijimusi duomenimis už modelio ribų.
Giuseppe Cali, saugumo tyrinėtojas, kuris randa nulinių dienų ir kuria išnaudojimus, sakė, kad apsauginiai mechanizmai netrukdo jo darbui. Taip yra todėl, kad jis nenaudoja dirbtinio intelekto puoliminiam darbui; vietoj to jis jį naudoja pradiniam atvirkštiniam inžinerijai, kad suprastų analizuojamą kodą ir sukurtų pagalbinius įrankius. Dėl to, pasak jo, DI įrankiai gali pagreitinti procesą ir leisti jam sutelkti dėmesį į pažeidžiamumų atradimą.
„Aš vis dar noriu pats atlikti tikrąjį klaidų atradimą ir išnaudojimų kūrimą, ir tai nepasikeistų, jei rytoj būtų panaikinti visi apsauginiai mechanizmai“, – sakė Cali. „Pavydžiu savo klaidų ir man per daug patinka šis žaidimas, kad leisčiau modeliams jį žaisti už mane.“
Vienas išmaniųjų telefonų komponentų gamintojo tyrinėjas, pageidavęs likti anonimiškas, nes neturi teisės bendrauti su spauda, teigė, kad jo darbdavys nėra „Anthropic“ patikrintos programos narys, todėl jos įrankiai vargiai praverčia ieškant pažeidžiamumų, nes apsauginiai mechanizmai yra per griežti.
„Jei jis užklumpa vėją, mes darome bet ką, susijusį su saugumu – jis tiesiog sustoja ir nėra tinkamas naudoti“, – sakė asmuo.
Chrisas Thompsonas – kibernetinio saugumo įmonės „RemoteThreat“ generalinis direktorius ir „Offensive AI Con“ – įžeidžiančio saugumo ir į DI orientuoto renginio – įkūrėjas – teigė, kad, remiantis jo patirtimi naudojant „ribinius“ DI modelius, apsauginiai mechanizmai gali būti nenuoseklūs ir kiekvieną dieną veikti skirtingai. Tai galioja net ir laisvesnėse „Anthropic“ ir „OpenAI“ patikrintų programų ribose.
„Manau, kad praktinis poveikis yra tas, kad jūs praleidžiate daug laiko derantis su modeliu, užuot dirbę su pagrindine saugumo programa“, – sakė Thompsonas. „Užuot analizavęs pažeidžiamumą ir samprotaujantis dėl išnaudojimo, bandote išsiaiškinti, kodėl gaunate nenuoseklius rezultatus arba kodėl modeliai per daug „dezinfekuoja“ išvestį.“
Todėl mokslininkai pasikliauja Kinijos atvirojo kodo modeliais, tokiais kaip GLM, arba yra stumiami į juos – laisvai atsisiunčiamus modelius, kuriuos galima paleisti vietoje be tikrinimo ar naudojimo apribojimų, – sakė Thompsonas.
„Turite šiuos atsakingus tyrėjus, kurie nuo JAV valdomų sistemų yra stumiami į užsienio sistemą“, – sakė jis. „Manau, kad šie apsauginiai mechanizmai yra labiau žalingi nei naudingi.“
Užuot dar labiau griežtinęs apribojimus, Thompsonas paragino DI laboratorijas atverti savo programas, suteikti atsakingą prieigą ir patraukti atsakomybėn tuos, kurie piktnaudžiauja jų įrankiais. Priešingu atveju, anot jo, gynėjai pralaimės DI lenktynes.
„Ateina didelė audra. Yra didelė atakų banga, kuri įvyks tokiu greičiu ir mastu, kaip niekada anksčiau“, – sakė Thompsonas. „Tačiau tos pačios saugumo konsultavimo įmonės ir teisėti tyrėjai, kurie bando ką nors pakeisti, šiuo metu yra slopinami.“
