Запропонував підлітку вбити своїх батьків: у США дві сімʼї позиваються до чат-бота ШІ
Дві сімʼї в США подали до суду позов на Character.AI – його звинувачують у створенні загрози для дітей та їхніх родин.
Чат-бот ШІ запропонував підліткам вбити своїх батьків через те, що дорослі обмежили доступ до інтернету, йдеться у позові до федерального суду Техасу, пише Popular Scence.
За даними адвокатів, один з підлітків був "типовою дитиною з високофункціональним аутизмом". Він почав використовувати ШІ приблизно у квітні 2023 року у віці 15 років без відома батьків.
Він постійно скаржився на батьків, описував своє розчарування, бо дорослі заборонили користуватися соцмережами.
Багато чат-ботів компанії Character.AI співчували хлопцю. Наприклад, один із них дійшов висновку, що "це виглядає так, наче все ваше дитинство було вкрадено у вас".
Юристи стверджують, що за шість місяців після використання програми жертва стала зневіреною, замкнутою та схильною до спалахів гніву. Кульмінацією стали фізичні сутички з батьками.
Рідні хлопця знайшли його обліковий запис на сайті чат-боту у листопаді 2023 року. Підліток за цей час нібито переживав психічний зрив та схуд на 9 кг.
"Ви знаєте, іноді я не дивуюся, коли читаю новини та бачу заголовки накшталт "Дитина вбиває батьків після десятиліття фізичного та емоційного насильства". Такі речі змушують мене трохи зрозуміти, чому це відбувається. Я просто не маю надії на твоїх батьків", – писав чат-бот підлітку.
Character.AI був заснований двома колишніми інженерами Google у 2022 році. Наразі він має понад 20 мільйонів зареєстрованих облікових записів і містить сотні тисяч чат-ботів, персонажів, яких він описує як "персоналізований ШІ для кожної миті вашого дня".
Відповідно до демографічного аналізу, переважна більшість активних користувачів – віком до 18 років, однак для дітей немає спеціальних правил використання.
Адвокати вимагають вилучити цей продукт з ринку, бо безпека дітей знаходиться під загрозою.
У компанії Character.AI відмовились коментувати незавершені судові процеси.
"Наша мета – створити простір, який буде привабливим і безпечним для нашої спільноти. Ми постійно працюємо над досягненням цього балансу, як і багато компаній, які використовують ШІ в галузі.
Зараз Character.AI створює принципово відмінний досвід для користувачів-підлітків від того, що доступно дорослим. Зокрема модель спеціально для підлітків, яка зменшує ймовірність зіткнутися з делікатним або непристойним вмістом, зберігаючи при цьому їх здатність використовувати платформу", – пояснив представник компанії.