Nors Vašingtono išsiskyrimas su „Anthropic“ atskleidė visišką nuoseklių dirbtinį intelektą reglamentuojančių taisyklių trūkumą, dvipartinė mąstytojų koalicija subūrė tai, ko vyriausybė iki šiol atsisakė sukurti: pagrindą, kaip iš tikrųjų turėtų atrodyti atsakingas DI vystymas.
Prožmoniška deklaracija buvo baigta prieš praėjusią savaitę vykusį Pentagono ir antropinio konflikto konfliktą, tačiau šių dviejų įvykių susidūrimas nebuvo prarastas nė vienam susijusiam asmeniui.
„Amerikoje per pastaruosius keturis mėnesius įvyko kažkas nepaprasto“, – sakė Maxas Tegmarkas, MIT fizikas ir dirbtinio intelekto tyrinėtojas, padėjęs organizuoti pastangas, kalbėdamas su šiuo redaktoriumi. „Staiga apklausa (rodo), kad 95% visų amerikiečių priešinasi nereguliuojamai rasei superintelektui.
Naujai paskelbtas dokumentas, pasirašytas šimtų ekspertų, buvusių pareigūnų ir visuomenės veikėjų, pradedamas beprasmiu pastebėjimu, kad žmonija atsidūrė kelyje. Vienas kelias, kuris deklaracijoje vadinamas „lenktyniu pakeisti“, veda į tai, kad žmonės pirmiausia išstumiami kaip darbuotojai, o paskui kaip sprendimų priėmėjai, nes valdžia atitenka neatsakingoms institucijoms ir jų mašinoms. Kitas veda prie AI, kuris labai išplečia žmogaus potencialą.
Pastarasis scenarijus priklauso nuo penkių pagrindinių ramsčių: žmonių išlaikymas, galios koncentracijos vengimas, žmogaus patirties apsauga, asmens laisvės išsaugojimas ir dirbtinio intelekto įmonių teisinė atskaitomybė. Tarp stipresnių jos nuostatų yra visiškas superintelekto tobulinimo draudimas, kol nebus pasiektas mokslinis sutarimas, kad tai gali būti padaryta saugiai ir tikrai demokratiškai; privalomi galingų sistemų išjungimai; ir architektūros, galinčios savaime replikuotis, savarankiškai tobulėti arba atsparios išjungimui, draudimas.
Deklaracijos paskelbimas sutampa su laikotarpiu, dėl kurio daug lengviau įvertinti jos skubumą. Paskutinį vasario penktadienį gynybos sekretorius Pete’as Hegsethas antropinį, kurio dirbtinis intelektas jau veikia įslaptintose karinėse platformose, priskyrė „tiekimo grandinės rizikai“, kai bendrovė atsisakė leisti Pentagonui neribotai naudoti savo technologijas, ženklą, kuris paprastai skiriamas įmonėms, turinčioms ryšių su Kinija. Po kelių valandų „OpenAI“ nutraukė savo susitarimą su Gynybos departamentu, kurį, pasak teisės ekspertų, bus sunku bet kokiu reikšmingu būdu įgyvendinti. Viskas paaiškėjo, kaip brangiai kainuoja Kongreso neveikimas dirbtinio intelekto srityje.
Kaip vėliau „The New York Times“ sakė Amerikos inovacijų fondo vyresnysis bendradarbis Deanas Ballas: „Tai ne tik ginčas dėl sutarties. Tai pirmasis mūsų, kaip šalies, pokalbis apie AI sistemų kontrolę.
Tegmarkas siekė analogijos, kurią dauguma žmonių gali suprasti, kai kalbėjome. „Jums niekada nereikės jaudintis, kad kuri nors vaistų kompanija išleis kokį nors kitą vaistą, kuris daro didžiulę žalą, kol žmonės nesuvokia, kaip jį padaryti saugų, – sakė jis, – nes FDA neleis jiems išleisti nieko, kol jis nebus pakankamai saugus.
Vašingtono velėnos karai retai sukelia tokį visuomenės spaudimą, kuris keičia įstatymus. Vietoj to, Tegmark mano, kad vaikų saugumas yra spaudimo taškas, kuris greičiausiai išmuš iš dabartinės aklavietės. Iš tiesų deklaracijoje raginama atlikti privalomą AI produktų, ypač jaunesniems naudotojams skirtų pokalbių robotų ir papildomų programų, testavimą prieš įdiegiant, kad būtų išvengta rizikos, įskaitant padidėjusį minčių apie savižudybę, psichikos sveikatos būklės paūmėjimą ir emocinį manipuliavimą.
„Jei koks baisus senukas rašo žinutes 11-metei, kuri apsimetė jauna mergina, ir bando įtikinti šį berniuką nusižudyti, vaikinas už tai gali sėsti į kalėjimą“, – sakė Tegmarkas. „Mes jau turime įstatymus. Tai neteisėta. Tai kodėl skiriasi, jei tai daro mašina?”
Jis mano, kad nustačius vaikiškų gaminių išankstinio išleidimo testavimo principą, taikymo sritis beveik neišvengiamai išsiplės. „Žmonės ateis ir bus tokie – pridėkime keletą kitų reikalavimų. Galbūt taip pat turėtume patikrinti, ar tai negali padėti teroristams gaminti biologinius ginklus. Galbūt turėtume išbandyti, kad įsitikintume, jog superžvalgyba neturi galimybės nuversti JAV vyriausybės.”
Nenuostabu, kad buvęs Trumpo patarėjas Steve’as Bannonas ir Susan Rice, prezidento Obamos patarėja nacionalinio saugumo klausimais, pasirašė tą patį dokumentą – kartu su buvusiu Jungtinių vadų pirmininku Mike’u Mullenu ir pažangiais tikėjimo lyderiais.
„Žinoma, jie sutaria, kad jie visi yra žmonės“, – sako Tegmarkas. „Jei tai priklausys nuo to, ar norime ateities žmonėms ar mašinoms, žinoma, jie bus toje pačioje pusėje.
