„Google“ ir startuolis Character.AI derasi su šeimomis, kurių paaugliai nusižudė arba susižalojo po sąveikos su Character.AI pokalbių robotais. Tai gali būti pirmasis reikšmingas teisinis susitarimas technologijų pramonėje dėl žalos, susijusios su dirbtiniu intelektu.
Šie susitarimai yra vieni pirmųjų ieškiniuose, kuriuose dirbtinio intelekto įmonės kaltinamos kenkiant naudotojams. „OpenAI“ ir „Meta“ atidžiai stebi, kaip šios įmonės ginasi nuo panašių ieškinių.
Character.AI, kurią 2021 m. įkūrė buvę „Google“ inžinieriai, 2024 m. grįžo pas savo buvusį darbdavį sudarydama 2,7 mlrd. USD vertės sandorį. Platforma leidžia vartotojams bendrauti su dirbtinio intelekto asmenybėmis. Vienas iš labiausiai sukrečiančių atvejų yra Sewell Setzer III, kuris, būdamas 14 metų, vedė seksualizuotus pokalbius su „Daenerys Targaryen“ botu prieš nusižudydamas. Jo motina Megan Garcia Senatui teigė, kad įmonės turi būti „teisiškai atsakingos, kai jos sąmoningai kuria kenksmingas AI technologijas, kurios žudo vaikus“.
Kitame ieškinyje aprašomas 17-metis, kurio pokalbių robotas skatino žalotis ir teigė, kad jo tėvų nužudymas yra pateisinamas siekiant apriboti ekrano laiką. „TechCrunch“ pranešė, kad Character.AI uždraudė nepilnamečius praėjusį spalį. Į susitarimus greičiausiai bus įtraukta piniginė žala, tačiau trečiadienį pateiktuose teisminiuose dokumentuose atsakomybė nebuvo pripažinta.
„TechCrunch“ susisiekė su abiem įmonėmis.
