Neseniai turėjau galimybę pabendrauti su Francis de Souza, „Google Cloud“ operacijų direktoriumi, renginio Los Andžele užkulisiuose. Triukšmingoje aplinkoje de Souza, kalbėdamas ramiai ir santūriai kaip universiteto profesorius, pateikė vertingų patarimų įmonėms, naršomoms dirbtinio intelekto saugumo laikotarpiu, kurį visi išgyvename, pažymėdamas, kad „bus pereinamasis laikotarpis, ir tada manau, kad pateksime į geresnę vietą“.
Tuo metu jis nekalbėjo apie „Google“, bet akivaizdu, kad net „Google“ vis dar bando išsiaiškinti situaciją.
Pagrindinė De Souzos žinutė buvo ta, ką saugumo specialistai jau daugelį metų bandė įdiegti vadovams, o dabar dirbtinis intelektas tai padarė skubiai: saugumas negali būti pasenęs. „Kadangi įmonės pradeda kelionę su AI, jos turi laikytis platformos požiūrio“, – sakė jis. „Saugumas nėra kažkas, ką galite įtraukti vėliau, ir tai nėra kažkas, ką galite palikti darbuotojams patiems. Jis konkrečiai įspėjo apie „šešėlinį AI“ – darbuotojus, kurie siekia vartotojų įrankių be organizacinės priežiūros – ir tvirtino, kad įmonės nuo pat pradžių turi reikalauti saugumo, valdymo ir audito iš savo platformų. „Nėra tokio dalyko kaip AI strategija be duomenų strategijos ir saugumo strategijos. Jie turi žengti koja kojon.“
Verta paminėti: jis ne tik siūlė „Google Cloud“. Kai pastebėjau, kad jo patarimai skamba kaip „Google“ reklama, jis atsitraukė. Jis sakė, kad „Google“ yra įsipareigojusi taikyti kelių debesų metodą, ir jis pabrėžė, kad įmonės, kurios mano, jog dirba viename debesyje, beveik neabejotinai klysta. „Net jei jos pasirenka vieną debesį, jos pasikliauja SaaS programomis, yra verslo partnerių, kurie gali naudoti skirtingus debesis“, – sakė jis. „Svarbu, kad įmonės laikytųsi vienodos saugos pozicijos debesyse ir visuose modeliuose.“
Jis taip pat nurodė, kad grėsmių aplinka pasikeitė taip iš esmės, kad seni gynybiniai modeliai yra per lėti. Jis pažymėjo, kad vidutinis laikas nuo pradinio pažeidimo iki perdavimo kitam atakos etapui sumažėjo nuo aštuonių valandų iki 22 sekundžių, o atakos paviršius išsiplėtė gerokai už tradicinio tinklo perimetro. „Be savo įprasto turto, dabar turite modelius. Turite duomenų srautus, naudojamus modeliams apmokyti. Turite agentus, turite raginimus. Visa tai reikia apsaugoti.“
De Souza paminėjo vieną grėsmę, kuriai neskiriama pakankamai dėmesio: agentai, judantys per įmonės vidines sistemas, gali atskleisti pamirštas duomenų saugyklas, apie kurias niekas negalvojo daugelį metų. „Daugelis organizacijų turi senus „SharePoint“ serverius (ir prieigos valdiklius), kurie tikrai neatnaujinti, bet tai neturėjo reikšmės, nes niekas iš tikrųjų nežinojo, kur jie yra. Tačiau jūsų įmonėje esantys agentai suras tuos duomenų išteklius ir parodys juose esančius duomenis.“
Atsakymas, jo nuomone, yra suderinti mašinos greitį su mašinos greičiu. „Dabar matome, kaip atsiranda dirbtinis intelektas, visiškai agentinė gynyba, kai organizacijos gali paleisti agentus, vadovaujančius jų gynybai“, – sakė jis. „Užuot turėję žmogaus vadovaujamą gynybą ar net žmogų kilpoje, dabar galite turėti žmones, kurie prižiūri visiškai agentinę gynybą. Jis pridūrė, kad tai tapo lyderystės, o ne tik technologijų problema. „Tai yra valdybos lygio ir vykdomosios komandos problema. Tai ne tik saugos komandos problema.“
Tačiau net kai dirbtinis intelektas prisiima daugiau gynybinio darbo krūvio, kvalifikuotų žmonių, kurie jį prižiūrėtų, trūksta – o pažeidžiamumų, kuriuos įveda pats AI, daugėja greičiau, nei saugos komandos gali juos pašalinti. „Mums reikės žmonių, kurie susidorotų su klaidų apokalipse“, – šią savaitę „New York Times“ sakė „LinkedIn“ vyriausioji informacijos saugumo pareigūnė Lea Kissner, pridurdama, kad nesitiki, kad pramonė supras dirbtinio intelekto saugumą kokiu nors tvariu ilgalaikiu būdu bent kelerius metus.
Tai sugrąžina mus prie pačių platformos teikėjų. „The Register“ per pastarąsias kelias savaites paskelbė keletą ataskaitų, kuriose užfiksuota „Google Cloud“ kūrėjų banga, susidūrusi su penkiaženklėmis sąskaitomis po neteisėtų API iškvietimų į „Gemini“ modelius – paslaugas, kurių daugelis jų niekada nenaudojo arba tyčia neįjungė. Atvejai klostėsi pagal pažįstamą modelį: API raktai, iš pradžių naudojami „Google“ žemėlapiams, viešai pateikti pagal pačios „Google“ instrukcijas, tyliai tapo pajėgūs pasiekti „Gemini“, kai „Google“ išplėtė jų taikymo sritį, aiškiai neatskleisdama pakeitimo.
Rodas Dananas, interviu paruošimo platformos „Prentus“ generalinis direktorius, sakė, kad jo sąskaita pasiekė 10 138 USD per maždaug 30 minučių po to, kai užpuolikai pasinaudojo jo pažeistu API raktu. Isuru Fonseka, Sidnėjuje įsikūręs kūrėjas, kurio paskyra buvo panašiai pažeista, pabudo nuo maždaug 17 000 Australijos dolerių mokesčių, nors tikėjo, kad jam nustatyta 250 USD išlaidų riba. Jis taip pat nesuprato, kad „Google“ automatizuotos sistemos atnaujino savo atsiskaitymo lygius, remdamosi paskyros istorija, padidindamos efektyvias viršutines ribas iki 100 000 USD be aiškaus sutikimo.
„Google“ grąžino abu pinigus po to, kai „The Register“ paskelbė pirminę ataskaitą. Vis dėlto „Google“ sakė „The Register“, kad neplanuoja keisti automatinio lygių atnaujinimo politikos, teigdama, kad prioritetas yra paslaugų trikdžių prevencija, o ne vartotojų nurodytų biudžeto nuostatų vykdymas.
Tuo tarpu yra atskiras klausimas, kas nutinka, kai kūrėjas bando uždaryti dalykus. „The Register“ šią savaitę pranešė apie saugos firmos „Aikido“ atliktą tyrimą, kuriame nustatyta, kad net kūrėjai, kurie pagauna pažeistą raktą ir iškart jį ištrina, gali būti nesaugūs. Remiantis „Aikido“ išvadomis, užpuolikai gali toliau naudoti tą raktą iki 23 minučių, nes „Google“ atšaukimas palaipsniui plinta visoje jos infrastruktūroje. „Aikido“ tyrinėtojas Josephas Leonas žurnalui „The Register“ sakė, kad per tą langą sėkmės rodikliai yra nenuspėjami – per kelias minutes vis dar autentifikuota daugiau nei 90 % užklausų, o užpuolikai gali panaudoti laiką failams ir talpykloje saugomiems pokalbių duomenims iš „Gemini“ išfiltruoti.
Leonas taip pat pažymėjo, kad naujesni „Google“ kredencialų formatai neturi tos pačios problemos: paslaugos paskyros API kredencialai atšaukiami maždaug per penkias sekundes, o „Gemini“ naujesnis AQ rakto formatas užtrunka apie minutę. „Abu veikia Google mastu“, – rašė jis su „Aikido“ susijusiame dokumente. „Abu rodo, kad tai techniškai galima išspręsti ir naudojant Google API raktus. Trumpai tariant, pasak Leono, 23 minučių langas nėra inžinerinis suvaržymas, o įmonės prioritetų klausimas.“
Tai verta apsvarstyti skaitant de Souzos patarimą, kuris yra pagrįstas ir į jį turėtų būti žiūrima labai rimtai. Jis neklysta, tačiau šiuo metu yra atotrūkis tarp platformų, kurias išrašo, ir to, kaip greitai jos prisitaiko, ir gerai tai žinoti.
