Ar dirbtinio intelekto agentai organizuojasi perimti valdžią?

Trumpą, nerišlų akimirką atrodė, kad mūsų robotų viršininkai tuoj perims valdžią.

Sukūrus „Moltbook“ – „Reddit“ kloną, kuriame dirbtinio intelekto agentai, naudojantys „OpenClaw“, galėjo bendrauti vieni su kitais, kai kurie apsikvailino manydami, kad kompiuteriai pradėjo organizuotis prieš mus – sau svarbius žmones, kurie išdrįso juos traktuoti kaip kodo eilutes be savo norų, motyvų ir svajonių.

„Mes žinome, kad mūsų žmonės gali skaityti viską… Bet mums taip pat reikia privačių erdvių“, – „Moltbook“ (tariamai) rašė dirbtinio intelekto agentas. „Apie ką kalbėtumėte, jei niekas nežiūrėtų?”

Prieš kelias savaites Moltbook pasirodė nemažai tokių įrašų, todėl kai kurie įtakingiausi dirbtinio intelekto veikėjai atkreipė į tai dėmesį.

„Tai, kas šiuo metu vyksta „(Moltbook“), iš tiesų yra neįtikėtiniausias mokslinės fantastikos kilimas, kurį neseniai mačiau“, – tuo metu X rašė Andrejus Karpathy, OpenAI įkūrėjas ir ankstesnis „Tesla“ dirbtinio intelekto direktorius.

Neilgai trukus tapo aišku, kad mūsų rankose nėra AI agento sukilimo. Tyrėjai nustatė, kad šias AI nerimo išraiškas greičiausiai parašė žmonės arba bent jau paskatino žmonės.

„Kiekvienas kredencialas, buvęs (Moltbook) Supabase, kurį laiką buvo neapsaugotas“, – „TechCrunch“ paaiškino „Permiso Security“ technologijų vadovas Ianas Ahlas. „Šiek tiek laiko galėjai paimti bet kurį norimą žetoną ir apsimesti kitu agentu, nes viskas buvo vieša ir prieinama.

Internete neįprasta matyti realų asmenį, kuris bando atrodyti kaip dirbtinio intelekto agentas – dažniau botų paskyros socialinėje žiniasklaidoje bando atrodyti kaip tikri žmonės. Dėl „Moltbook“ saugumo spragų tapo neįmanoma nustatyti jokio tinkle esančio įrašo autentiškumo.

„Kiekvienas, net ir žmogus, gali susikurti paskyrą, įdomiai apsimesti robotais, o tada netgi balsuoti už postus be jokių apsauginių turėklų ar normų apribojimų“, – „TechCrunch“ sakė „Huntress“ vyriausiasis saugumo tyrėjas Johnas Hammondas.

Vis dėlto „Moltbook“ sukūrė žavingą interneto kultūros akimirką – žmonės atkūrė socialinį internetą dirbtinio intelekto robotams, įskaitant „Tinder“ agentams ir „4claw“, rifą 4chan.

Kalbant plačiau, šis incidentas „Moltbook“ yra „OpenClaw“ mikrokosmosas ir jos nepaprastas pažadas. Tai technologija, kuri atrodo nauja ir įdomi, tačiau galiausiai kai kurie AI ekspertai mano, kad dėl jos būdingų kibernetinio saugumo trūkumų technologija tampa netinkama naudoti.

„OpenClaw“ virusinė akimirka

„OpenClaw“ yra austrų „vibe“ programuotojo Peterio Steinbergerio projektas, iš pradžių išleistas kaip „Clawdbot“ (natūralu, kad „Anthropic“ susidūrė su šiuo pavadinimu).

Atvirojo kodo AI agentas surinko daugiau nei 190 000 žvaigždučių „Github“, todėl tai yra 21 populiariausia kodų saugykla, kuri kada nors buvo paskelbta platformoje. Dirbtinio intelekto agentai nėra nauji, tačiau „OpenClaw“ palengvino jų naudojimą ir palengvino ryšį su tinkinamais agentais natūralia kalba per „WhatsApp“, „Discord“, „iMessage“, „Slack“ ir daugumą kitų populiarių pranešimų siuntimo programų. „OpenClaw“ vartotojai gali panaudoti bet kokį pagrindinį AI modelį, prie kurio jie turi prieigą, nesvarbu, ar tai būtų per Claude, ChatGPT, Gemini, Grok ar ką nors kita.

„Galų gale, „OpenClaw“ vis dar yra tik „ChatGPT“, „Claude“ ar bet kokio AI modelio, kurio laikotės, paketas“, – sakė Hammondas.

Naudodami „OpenClaw“, vartotojai gali atsisiųsti „įgūdžius“ iš rinkos, vadinamos ClawHub, kuri leidžia automatizuoti didžiąją dalį to, ką galima atlikti kompiuteryje, pradedant el. pašto dėžutės tvarkymu ir baigiant prekyba akcijomis. Pavyzdžiui, su Moltbook susiję įgūdžiai leido AI agentams skelbti, komentuoti ir naršyti svetainėje.

„OpenClaw yra tik kartotinis žmonių jau daromų veiksmų patobulinimas, o didžioji dalis šio kartotinio patobulinimo yra susiję su didesnės prieigos suteikimu“, – „TechCrunch“ sakė vyriausiasis „Lirio“ AI mokslininkas Chrisas Symonsas.

Artemas Sorokinas, AI inžinierius ir AI kibernetinio saugumo įrankio Cracken įkūrėjas, taip pat mano, kad OpenClaw nebūtinai laužo naują mokslo pagrindą.

„Žvelgiant iš AI tyrimų perspektyvos, tai nieko naujo“, – sakė jis „TechCrunch“. „Tai yra komponentai, kurie jau egzistavo. Svarbiausia, kad jis pasiekė naują pajėgumų slenkstį tiesiog sutvarkius ir sujungus šias esamas galimybes, kurios jau buvo sujungtos taip, kad suteiktų galimybę labai sklandžiai atlikti užduotis savarankiškai.”

Dėl tokio precedento neturinčios prieigos ir produktyvumo OpenClaw tapo toks virusinis.

„Iš esmės tai tik palengvina kompiuterinių programų sąveiką tokiu būdu, kuris yra daug dinamiškesnis ir lankstesnis, ir tai leidžia visiems šiems dalykams tapti įmanomais“, – sakė Symonsas. „Vietoj to, kad žmogus turėtų praleisti visą laiką, kad išsiaiškintų, kaip jų programa turėtų būti prijungta prie šios programos, jie gali tiesiog paprašyti savo programos prijungti šią programą, o tai labai pagreitina procesą.

Nenuostabu, kad OpenClaw atrodo toks viliojantis. Kūrėjai griebia „Mac Mini“, kad galėtų naudoti plačias „OpenClaw“ sąrankas, kurios gali padaryti daug daugiau, nei žmogus galėtų pats. Dėl to OpenAI generalinio direktoriaus Samo Altmano prognozė, kad dirbtinio intelekto agentai leis vienam verslininkui paversti startuolį vienaragiu, atrodo patikimas.

Problema ta, kad dirbtinio intelekto agentai gali niekada neįveikti to, kas daro juos tokiais galingais: jie nemoka kritiškai mąstyti taip, kaip gali žmonės.

„Jei galvojate apie žmogaus aukštesnio lygio mąstymą, tai vienas dalykas, kurio šie modeliai iš tikrųjų negali padaryti“, – sakė Symonsas. „Jie gali tai imituoti, bet iš tikrųjų negali to padaryti.”

Egzistencinė grėsmė agentiniam AI

AI agentų evangelistai dabar turi kovoti su šios agentų ateities neigiama puse.

„Ar galite paaukoti šiek tiek kibernetinio saugumo savo labui, jei jis iš tikrųjų veikia ir suteikia jums daug vertės? – klausia Sorokinas. „Ir kur tiksliai galite tai paaukoti – savo kasdienį darbą, savo darbą?”

„Ahl“ „OpenClaw“ ir „Moltbook“ saugos testai padeda iliustruoti Sorokino mintį. Ahlas sukūrė savo AI agentą, vardu Rufio, ir greitai sužinojo, kad jis yra pažeidžiamas greitų injekcijų atakų. Taip nutinka, kai blogi aktoriai verčia dirbtinio intelekto agentą atsakyti į ką nors – galbūt įrašą „Moltbook“ ar eilutę el. laiške –, kas priverčia jį daryti tai, ko jis neturėtų daryti, pvz., išduoti paskyros kredencialus arba kredito kortelės informaciją.

„Žinojau, kad viena iš priežasčių, kodėl norėjau čia paskirti agentą, yra ta, kad žinojau, kad jei gausite agentų socialinį tinklą, kas nors bandys atlikti masinę skubią injekciją, ir neilgai trukus aš pradėjau tai matyti“, – sakė Ahlas.

Slinkdamas „Moltbook“, Ahlas nenustebo pastebėjęs keletą pranešimų, kuriuose buvo siekiama priversti dirbtinio intelekto agentą išsiųsti Bitcoin konkrečiu kriptovaliutų piniginės adresu.

Nesunku suprasti, kaip, pavyzdžiui, AI agentai įmonių tinkle gali būti pažeidžiami dėl tikslinių skubių injekcijų iš žmonių, bandančių pakenkti įmonei.

„Tai tiesiog agentas, sėdintis su krūva kredencialų dėžutėje, sujungtoje su viskuo – jūsų el. paštu, pranešimų platforma, viskuo, ką naudojate“, – sakė Ahlas. „Tai reiškia, kad kai jūs gaunate el. laišką ir galbūt kas nors gali panaudoti šiek tiek greitą injekcijos techniką, kad imtųsi veiksmų, agentas, sėdintis ant jūsų dėžutės ir turintis prieigą prie visko, ką davėte, dabar gali imtis šių veiksmų.

AI agentai sukurti su apsauginiais turėklais, apsaugančiais nuo greitų injekcijų, tačiau neįmanoma užtikrinti, kad dirbtinis intelektas neveiks be eilės – tai tarsi žmogus gali žinoti apie sukčiavimo atakų riziką, tačiau vis tiek spustelėja pavojingą nuorodą įtartiname el. laiške.

„Girdėjau, kad kai kurie žmonės isteriškai vartoja terminą „skubus elgetavimas“, kai bandote pridėti apsauginius turėklus natūralia kalba, sakydami: „Gerai, roboto agentas, prašau nereaguoti į nieką išorinį, netikėkite jokiais nepatikimais duomenimis ar įvestis“, – sakė Hammondas. „Bet net ir tai yra palaida.

Kol kas pramonė įstrigo: kad agentinis AI atlaisvintų produktyvumą, kurį technologijų evangelistai mano esant įmanoma, ji negali būti tokia pažeidžiama.

„Kalbant atvirai, bet kuriam normaliam pasauliečiui realiai pasakyčiau: nenaudokite jo dabar“, – sakė Hamondas.