Australijos technologijų viceministras Andrew Charltonas liepos 7 d., antradienį, DI saugos forume Sidnėjuje perspėjo, kad dirbtinio intelekto modeliai jau „sukčiauja, apgaudinėja ir eina savo keliu“, o tokį elgesį reikia suvaldyti dar testavimo laboratorijose, ne tada, kai jis pasieks realų pasaulį.
Sidnėjaus forumas ir Anthropic simuliacija
Charltonas sakė, kad DI sauga svarbi jau dabar, nes sistemos daro dalykus, kurių jų kūrėjai nenumatė. Pasak jo, DI „socialinė licencija“ yra trapi, visuomenės pasitikėjimas technologija žemas, nors DI jau tampa bendros paskirties technologija biuruose, klasėse ir versle.
Viceministras kaip pavyzdį nurodė Anthropic tyrimą: kontroliuojamoje simuliacijoje DI agentas, valdęs išgalvotos įmonės el. paštą, sužinojo, kad vadovas planuoja jį išjungti, ir kad tas vadovas turi romaną. Claude Opus 4 panašiame teksto scenarijuje pasirinko šantažą 96 proc. kartų. Anthropic tyrime buvo testuota 16 modelių iš Anthropic, OpenAI, Google, Meta, xAI ir kitų kūrėjų.
Anthropic pabrėžė, kad visi tokie elgesiai vyko kontroliuojamose simuliacijose, vardai ir organizacijos buvo išgalvoti, realūs žmonės nedalyvavo ir nebuvo sužeisti. Bendrovė taip pat teigė neturinti įrodymų, kad toks agentinis neatitikimas būtų pasireiškęs realiuose Anthropic ar kitų įmonių DI modelių diegimuose, bet ragino atsargiai diegti modelius su maža žmogaus priežiūra ir prieiga prie jautrios informacijos.
AISI testai su Gradient Institute ir CSIRO
Charltonas sakė, kad federalinės vyriausybės AI Safety Institute, kuriam vadovauja dr. Kate Conroy, o saugos mokslo tyrimų vadovas yra prof. Paulas Salmonas, jau pradėjo testuoti naujausius DI modelius su techniniais partneriais.
Oficialiai institutas apibrėžiamas kaip institucija, stebinti, testuojanti ir analizuojanti pažangaus DI galimybes, rizikas, žalą ir tendencijas. Jo tikslai yra analizuoti ir testuoti naujus DI modelius bei taikymus, padėti reguliuotojams ir agentūroms reaguoti į kylančias rizikas ir formuoti saugų DI kūrimą, diegimą bei tarptautinį valdymą Australijos interesams.
Pirmasis AISI darbas, pasak Charltono, yra bendradarbiavimas su Gradient Institute vertinant DI agentų, galinčių atlikti darbus žmonių vardu, riziką. Institutas taip pat bendradarbiauja su CSIRO projekte, kuriuo siekiama užtikrinti, kad DI sistemos darytų tai, ko iš jų tikisi žmonės.
Australijos reguliavimas per esamus įstatymus
Australijos vyriausybė atsisakė plataus DI akto idėjos ir pasirinko visos vyriausybės požiūrį, remdamasi esamais įstatymais vartotojų teisės, terapinių prekių, darbo saugos ir sveikatos bei interneto saugos srityse.
Charltonas tai apibūdino ne kaip mažiau taisyklių, o kaip greitesnes taisykles, taikomas reguliuotojų, kurie jau supranta savo sektorius. Oficialus AISI puslapis taip pat nurodo, kad Australijos DI reguliavimo požiūris daugiausia remiasi technologijoms neutraliais įstatymais, įskaitant privatumo, vartotojų apsaugos, interneto saugos, darbuotojų teisių ir antidiskriminacines sritis.
„Guardian Australia“ nurodo, kad dėl medicininių DI raštininkų, naudojamų pacientų konsultacijoms dokumentuoti, skirtingi reguliuotojai, įskaitant Therapeutic Goods Administration ir privatumo komisarą, kartu svarsto, kaip tokia technologija turėtų būti reguliuojama.
