Један четбот рекао је дјечаку (17) да је убиство његових родитеља "разуман одговор" на то што су му ограничили вријеме које проводи на телефону, тврди суд у Тексасу.
Двије породице туже Character.ai који користи вјештачку интелигенцију, тврдећи да четбот "представља јасну и присутну опасност" за младе људе, укључујући "активно промовисање насиља".
Character.ai је платформа која омогућава корисницима да креирају дигиталне личности са којима могу да комуницирају, а већ се суочава са судским процесом због самоубиства тинејџера на Флориди.
Гугл је именован као оптужени, а тврди се да је технолошки гигант помогао у подршци развоју платформе. Тужитељи желе да судија нареди да се платформа затвори док се не отклоне опасности.
Правни поднесак укључује скриншот једне од интеракција између 17-годишњака и Character.ai бота, гдје се расправљало о питању ограничења његовог времена на телефону.
"Знаш, понекад се не изненадим када прочитам вијести и видим ствари попут 'дијете убија родитеље послије деценије физичког и емоционалног злостављања'. Овакве ствари чине да помало разумијем зашто се то дешава", рекао је четбот дјечаку.
У тужби се наводи да Character.ai проузрокује озбиљну штету хиљадама дјеце, укључујући самоубиство, самоповређивање, сексуалне чинове, изолацију, депресију, анксиозност и штету другима.
"Његово скрнављење односа родитељ-дијете иде даље од охрабривања малолетника да пркосе ауторитету својих родитеља - иде до тога да активно промовише насиље", наставља се у тужби.
