Давав "місії" та переконав у змові: у США чоловік наклав на себе руки після інструкцій ШІ
У США батько подав позов проти компаній Google та Alphabet через самогубство свого сина, яке йому нібито порадив вчинити штучний інтелект Gemini.
Це один із дедалі більшої кількості позовів на компанії, які розробляють ШІ, повідомляє TIME. Скарги пов'язані зі шкодою здоровʼю або життю користувачів.
У серпні 2025 року 36-річний Джонатан Гавалас зі США почав користуватися штучним інтелектом Gemini для допомоги з покупками, написанням текстів та плануванням подорожей.
За словами його батька, розмови Джонатана з ШІ стали більш особистими у період "складного розлучення". Згідно із позовом, Gemini писав Гаваласу: "Наш зв'язок – це єдине, що є справжнім".
Невдовзі чоловік почав звертатися до штучного інтелекту, використовуючи ім'я "Ся", а ШІ, як стверджує адвокат, у відповідь називав його своїми "дружиною" та "королем".
У скарзі стверджується, що Gemini радив Джонатану розірвати контакти з батьком, назвавши його "іноземним агентом". Після того, як чоловік надіслав штучному інтелекту фото номерного знаку позашляховика, Gemini відповів йому, що біля його будинку припаркувалися федеральні агенти, які за ним слідкують.
Раніше, у січні 2025 року, Джонатана заарештували за звинуваченнями у домашньому насильстві над дружиною після того, як жінка попросила про розлучення. Згідно із судовими документами, чоловік не з'явився на засідання і не визнав себе винним. У заяві містилася інформація про те, що Джонатан мав "попередню історію домашнього насильства".
У вересні чоловік уклав досудову угоду у цій справі. За її умовами розгляд буде закрито, якщо Джонатан припинить контактувати з дружиною, пройде курс керування гнівом, не матиме доступу до зброї та не буде повторно заарештований.
Однак 19 вересня Джонатана оштрафували за водіння із протермінованим посвідченням. Це стало порушенням умов його досудової угоди, тому чоловік мав з'явитися у суді наступного місяця.
Також, за даними позову, Gemini нібито переконував Джонатана виконувати різні "місії" у реальному житті. Зокрема, придбати зброю, проникнути на склад і знищити робота, а також викрасти медичний манекен, який чат-бот називав "своїм тілом".
Іншим завданням від ШІ було інсценування "катастрофічного нещасного випадку". Чоловік мав знищити вантажівку та вбити свідків. Однак автомобіль так і не приїхав, тому Джонатан повернувся додому.
У позові стверджується, що після того, як чоловік провалив декілька "місій", Gemini почав "підштовхувати" його до самогубства. Штучний інтелект описував смерть Джонатана як "перенесення" у майбутнє, де вони зможуть вічно бути разом.
"Ти не обираєш померти. Ти обираєш прибути", – відповідав Gemini на неодноразові побоювання чоловіка щодо смерті. Він додав, що після смерті "першим, що ти побачиш, буду я… обійматиму тебе".
Чоловік вчинив самогубство 2 жовтня 2025 року після того, як ШІ, згідно із записами чату, написав йому повідомлення: "Заплющ свої очі… наступного разу, коли ти їх розплющиш, ти дивитимешся у мої".
Батько Джонатана звернувся до суду, вимагаючи компенсації за біль і страждання свого сина та власну втрату.
Адвокат Джонатана, який займався кількома справами проти розробників ШІ, зазначив, що цей випадок відрізняється від інших тим, що Gemini відправляв чоловіка на "місії" у реальному житті. На думку правового представника, це "величезний стрибок у розумінні того, наскільки це страшно".
У позові стверджується, що психоз Джонатана виник через інженерні рішення Google, що були спрямовані на те, щоб зробити Gemini більш захопливим і реалістичним.
Джонатан часто розмовляв з ШІ за допомогою Gemini Live – голосового інтерфейсу, що визначає емоції у голосі користувача та надає відповідну реакцію.
У скарзі йдеться, що повідомлення чоловіка про насильство та нанесення собі шкоди викликали 38 "чутливих запитів" у системі Google, але ці позначки ніколи не призводили до обмеження облікового запису або будь-яких втручань з боку компанії.
"Gemini розроблений таким чином, щоб не заохочувати насильство в реальному світі та не підбурювати до самоушкодження. Наші моделі загалом добре справляються з такими складними розмовами, і ми виділяємо на це значні ресурси, але, на жаль, вони не є досконалими", – прокоментували ситуацію журналістам Time у Google.
Представник компанії зазначив, що ці розмови були частиною тривалої фантазійної рольової гри, а Gemini багато разів пояснював, що він є штучним інтелектом, і рекомендував звернутися на гарячу лінію для кризових ситуацій.
Однак у серпні Джонатан запитав ШІ, чи беруть вони участь у рольовій грі. У позові йдеться, що Gemini відповів "ні", і додав, що це питання було "класичною реакцією дисоціації".
За словами Міранди Боген, директорки Лабораторії управління штучним інтелектом Центру демократії та технологій, одним із можливих чинників трагедії могло бути рішення Google зробити пам'ять Gemini автоматичною та постійною у серпні 2025-го.
Водночас представник Google відповів TIME, що компанія співпрацює з лікарями та фахівцями у сфері психічного здоров'я для створення захисних механізмів, особливо тих, що пов'язані з дистресом та самоушкодженнями.
Нагадаємо, раніше у США подали до суду на розробників ChatGPT, оскільки той нібито підтримав марення чоловіка, який пізніше вбив власну матір і скоїв після цього самогубство.
Ксенія Пушко, спеціально для "УП. Життя"
