Dirbtinio intelekto (DI) pagalba parengtos ataskaitos, sutartys ir teisiniai dokumentai tampa įprasta specialistų ir organizacijų kasdienybe. Tačiau didėjant pasitikėjimui DI, auga ir su nekokybišku turiniu bei didžiųjų kalbos modelių „haliucinacijomis“ (klaidinga, bet įtikinama informacija) susijusios rizikos, kurios gali brangiai kainuoti.
Teisės firmos „Sorainen“ ekspertė Irma Kunickė pastebi, kad teisės srityje vis daugiau dėmesio skiriama DI „haliucinacijų“ problemai. Anglijos ir Velso teisininkų reguliavimo institucija (Solicitors Regulation Authority) per pastaruosius metus gavo 42 pranešimus dėl netinkamo DI panaudojimo, įskaitant netikslias citatas, išgalvotus precedentus ir konfidencialios informacijos atskleidimą.
Lietuvoje taip pat daugėja atvejų, kai DI parengtuose teisiniuose dokumentuose pasitaiko klaidinančių ar nepagrįstų teiginių, neteisingų formuluočių. Tai siejama su „mėgėjišku teisės praktikavimu“ (angl. vibe lawyering), kai neprofesionalai, pasitelkdami DI, patys rengia dokumentus ar kreipiasi teisiniais patarimais. Aklas pasitikėjimas DI gali lemti ne tik prastai parengtus dokumentus, bet ir nepagrįstai priimtus sprendimus, finansinius nuostolius, sugadintą reputaciją, o teismuose – prastesnes pozicijas.
DI „haliucinacijų“ problema apima ne tik teisės sritį. Didžiojo ketvertuko“ verslo konsultacijų bendrovės susidūrė su atšauktomis ataskaitomis dėl neegzistuojančių šaltinių ar prieštaringų teiginių. Nepastebėtos DI klaidos gali lemti netinkamus verslo sprendimus, finansinius nuostolius ir reputacijos žalą, o taisant klaidas prarandamas brangus laikas.
Nuo 2024 m. rugpjūčio įsigaliojęs ES DI aktas kelia reikalavimus dėl DI sistemų naudotojų raštingumo, tikslumo, atsparumo ir kibernetinio saugumo, taip pat žmogaus priežiūros. Nors įprasti pokalbių robotai nepatenka į aukštos rizikos DI sistemų kategoriją, automatinio kandidatų vertinimo, vizų ar prieglobsčio prašymų nagrinėjimo bei teismų išaiškinimų rengimo DI sprendimai priskiriami aukštam rizikos lygiui.
Naudojant DI, būtina skirti dėmesį duomenų apsaugai ir konfidencialios informacijos saugumui. Į viešai prieinamas DI sistemas neturėtų būti vedami asmens duomenys ar konfidenciali įmonės informacija. Organizacijoms rekomenduojama aiškiai apibrėžti DI naudojimo taisykles, kurios užkirstų kelią neteisėtam duomenų atskleidimui ir užtikrintų ES Bendrojo duomenų apsaugos reglamento (BDAR) bei ES DI akto reikalavimų laikymąsi.
