Campbell Brown savo karjerą paskyrė tikslios informacijos paieškai, iš pradžių būdama žinoma televizijos žurnalistė, o vėliau – pirmąja ir vienintele „Facebook“ naujienų vadove. Dabar, stebėdama, kaip dirbtinis intelektas keičia informacijos vartojimo būdus, ji mato, kad istorija gali pasikartoti. Šį kartą ji nelaukia, kol kas nors kitas tai ištaisys.
Jos įmonė „Forum AI“, apie kurią ji neseniai kalbėjo su „TechCrunch“ vadovu Timu Fernholzu „StrictlyVC“ vakaro metu San Franciske, vertina, kaip pamatiniai modeliai veikia temomis, kurias ji vadina „didelio susidomėjimo“ temomis: geopolitika, psichinė sveikata, finansai, įdarbinimas – temomis, kuriose „nėra aiškių „taip“ arba „ne“ atsakymų, kur viskas sudėtinga ir neaišku“.
Idėja yra surasti geriausius pasaulio ekspertus, paskirti jiems architektų etalonus, tada apmokyti dirbtinio intelekto teisėjus vertinti modelius plačiu mastu. „Forum AI“ geopolitiniam darbui Brown pasamdė Niallą Fergusoną, Fareedą Zakaria, buvusį valstybės sekretorių Tony Blinkeną, buvusį Atstovų Rūmų pirmininką Keviną McCarthy ir Anne Neuberger, kuri vadovavo kibernetiniam saugumui Obamos administracijoje. Tikslas yra pasiekti, kad dirbtinio intelekto teisėjai pasiektų maždaug 90 % sutarimą su tais žmonių ekspertais – slenkstį, pasak jos, „Forum AI“ pavyko pasiekti.
Brown „Forum AI“, įkurto prieš 17 mėnesių Niujorke, kilmę sieja su konkrečiu momentu. „Buvau „Meta“, kai ChatGPT pirmą kartą buvo išleistas viešai, – prisiminė ji, – ir prisimenu, kad netrukus po to supratau, jog tai bus kanalas, kuriuo tekės visa informacija. Ir tai nėra labai gerai.“ Poveikis jos pačios vaikams privertė akimirką jaustis beveik egzistencine: „Mano vaikai bus tikrai kvaili, jei nesugalvosime, kaip tai ištaisyti“, – prisiminė galvodama ji.
Labiausiai ją nuvylė tai, kad tikslumas niekam nebuvo prioritetas. Jos teigimu, pamatiniai modelių įmonės yra „labai susitelkusios į kodavimą ir matematiką“, o naujienos ir informacija yra sunkesnės. Tačiau sunkiau, tvirtino ji, nereiškia, kad neprivaloma.
Iš tiesų, kai „Forum AI“ pradėjo vertinti pirmaujančius modelius, išvados nebuvo labai džiuginančios. Ji citavo „Gemini“, kuris traukiasi iš Kinijos komunistų partijos svetainių „dėl istorijų, kurios neturi nieko bendra su Kinija“, ir atkreipė dėmesį į kairiosios pakraipos politinį šališkumą beveik visuose modeliuose. Anot jos, gausu ir subtilesnių nesėkmių, įskaitant konteksto trūkumą, perspektyvų trūkumą, šiaudinius argumentus be pripažinimo. „Dar reikia nueiti ilgą kelią“, – sakė ji. „Tačiau taip pat manau, kad yra keletas labai paprastų pataisymų, kurie labai pagerintų rezultatus.“
Brown daugelį metų praleido „Facebook“ stebėdama, kas nutinka, kai platforma optimizuojasi netinkamam dalykui. „Daugelis dalykų, kuriuos bandėme, mums nepavyko“, – sakė ji Fernholzui. Jos sukurtos faktų tikrinimo programos nebėra. Pamoka, net jei socialinė žiniasklaida į tai užmerkė akis, yra ta, kad optimizavimas įsitraukimui buvo niekšiškas visuomenei ir daugelis liko mažiau informuoti.
Ji tikisi, kad DI gali nutraukti šį ciklą. „Dabar tai gali vykti bet kuriuo kitu būdu“, – sakė ji; įmonės gali suteikti vartotojams tai, ko jie nori, arba „duoti žmonėms tai, kas tikra, kas sąžininga ir kas tiesa“. Ji pripažino, kad idealistinė to versija – DI optimizavimas tiesai – gali skambėti naiviai. Tačiau ji mano, kad verslas čia gali būti mažai tikėtinas sąjungininkas. Įmonės, naudojančios dirbtinį intelektą sprendimams dėl kredito, skolinimui, draudimui ir įdarbinimui, rūpinasi atsakomybe ir „jos norės, kad optimizuotumėte, kad tai padarytumėte teisingai“.
Dėl šios įmonės paklausos taip pat „Forum AI“ žada savo verslą, nors atitikties palūkanas paversti pastoviomis pajamomis tebėra iššūkis, ypač atsižvelgiant į tai, kad didžioji dalis dabartinės rinkos vis dar patenkinta žymimųjų laukelių auditu ir standartizuotais etalonais, kuriuos Brown laiko netinkamais.
Jos teigimu, atitiktis aplinkybėms yra „pokštas“. Kai Niujorkas priėmė pirmąjį įdarbinimo šališkumo įstatymą, reikalaujantį dirbtinio intelekto audito, valstijos kontrolierius nustatė, kad daugiau nei pusė pažeidimų buvo nepastebėti. Pasak jos, tikram vertinimui reikia srities patirties, kad būtų galima atlikti ne tik žinomus scenarijus, bet ir kraštutinius atvejus, kurie „gali įvesti į bėdą, apie kuriuos žmonės negalvoja“. Ir tam darbui reikia laiko. „Protingi generalistai neketina to sumažinti.“
Brown, kurios įmonė praėjusį rudenį surinko 3 milijonus dolerių, vadovaujama Lerero Hippeau, turi unikalią poziciją apibūdinti daugumos vartotojų DI pramonės savęs įvaizdžio ir realybės atotrūkį. „Iš didžiųjų technologijų kompanijų vadovų girdite: „Ši technologija pakeis pasaulį“, „tai išstums jus iš darbo“, „išgydys vėžį“, – sakė ji. „Tačiau įprastam žmogui, kuris tiesiog naudoja pokalbių robotą pagrindiniams klausimams užduoti, jis vis tiek sulaukia daug nešvarumų ir neteisingų atsakymų.“
Pasitikėjimas dirbtiniu intelektu yra nepaprastai žemas, ir ji mano, kad skepticizmas daugeliu atveju yra pagrįstas. „Pokalbis vyksta Silicio slėnyje apie vieną dalyką, o tarp vartotojų vyksta visiškai kitoks pokalbis.“
