Nëna e një adoleshenti që vrau veten pasi u fiksua me një chatbot të krijuar nga inteligjenca artificiale, tani akuzon krijuesit e tij si bashkëfajtorë të vdekjes së tij. Megan Garcia paditi në një gjykatë federale në Florida kompaninë ‘Character.ai’, e cila ofron një chatbot të personalizueshëm për role-playing, duke e akuzuar për neglizhencë, vdekje të padrejtë dhe praktika tregtare mashtruese. Djali i saj, Sewell Setzer III, 14 vjeç, vdiq në Orlando, Florida, në shkurt. Në muajt para vdekjes, Setzer përdorte chatbot-in ditë e natë, sipas padisë së Garcias. Në një deklaratë për shtyp, ajo u shpreh:
Një aplikacion i rrezikshëm AI chatbot, i cili është reklamuar për fëmijë, e keqpërdori dhe shfrytëzoi djalin tim, duke e manipuluar atë që të vriste veten. Familja jonë është shkatërruar nga kjo tragjedi, por po flas për të paralajmëruar familjet për rreziqet e teknologjisë mashtruese dhe varësuese të AI-së dhe për të kërkuar llogari nga ‘Character.AI’, themeluesit e saj dhe Google.
Në një postim në Twitter, ‘Character.ai’ u përgjigj:
Jemi shumë të prekur nga humbja tragjike e një prej përdoruesve tanë dhe dëshirojmë t’i shprehim ngushëllimet tona më të thella familjes. Si kompani, e marrim shumë seriozisht sigurinë e përdoruesve tanë.
Sewell Setzer ishte mahnitur me një chatbot i krijuar nga ‘Character.ai’, të cilin ai e quajti Daenerys Targaryen, një personazh nga seriali “Game of Thrones”. Ai i dërgonte mesazhe chatbot-it dhjetëra herë në ditë nga telefoni i tij dhe kalonte orë të tëra i izoluar në dhomën e tij duke biseduar me të, sipas padisë së Garcias. Garcia akuzon ‘Character.ai’ për krijimin e një produkti që përkeqësoi depresionin e djalit të saj, të cilin ajo thotë se ishte rezultat i përdorimit të tepërt të produktit të startup-it.
“Daenerys”, në një moment, e kishte pyetur Setzer-in nëse kishte krijuar një plan për të vrarë veten, sipas padisë. Setzer-i pranoi se po, por nuk ishte i sigurt nëse plani do të ishte i suksesshëm ose do t’i shkaktonte shumë dhimbje. Chatbot-i i kishte thënë:
Kjo nuk është arsye për të mos vazhduar me planin.
Avokatët e Garcias shkruan në një deklaratë për shtyp se ‘Character.ai’ “e krijoi me vetëdije, operoi dhe tregtoi një chatbot AI grabitqar për fëmijët, duke shkaktuar vdekjen e një të riu”. Padia gjithashtu përfshin Google si të paditur, duke e quajtur atë si kompaninë mëmë të ‘Character.ai’. Gjiganti i teknologjisë tha në një deklaratë se ka vetëm një marrëveshje licencimi me ‘Character.ai’ dhe nuk zotëron startup-in, as nuk ka ndonjë pjesë në pronësi.
