У ТікТок з’явилися відео, де діти "розповідають" про свою смерть: як це пов'язано з ШІ

У TikTok з’явилися відео, на яких померлі діти "розповідають" про власну смерть: реалістичні зображення справжніх дітей генерує штучний інтелект.

Сім’ї дітей, чий образ експлуатують користувачі соцмережі для жахливих історій, обурені, повідомляє ВВС та The Washington Post.

Відео, зроблені без згоди родичів, показують ШІ-зображення дітей, які детально "розповідають" про те, як їх вбили.

Приблизно з квітня 2023 року ці ролики почали публікувати в TikTok, хоч у березні компанія оголосила про заборону на генерування ШІ-версій реальних дітей.

На відео в TikTok здебільшого розповідають справжні історії про смерті.

З етичних міркувань ми не публікуватимемо ці ролики. Та зауважимо, що деякі користувачі реагують на ці відео та співчутливо коментують їх.

"Неймовірно жахливо. Мені дуже шкода, що це сталося з тобою. Спочивай з миром, милий хлопчику", – пишуть під одним із ШІ-відео.

Однак сім'ї боряться проти таких публікацій.

Зокрема, таке відео зняли про 6-річну Ромі та 11-річну Нору, яких вбив їхній батько у липні 2020 року, а потім наклав на себе руки.

Цього року мати дівчат Амелі Лем'є побачила TikTok-відео, у якому її донька Нора, згенерована ШІ, "розповідала" про це вбивство. 

TikTok видалив анонімний обліковий запис, де з’явилося відео, лише після розголосу. Автор шокуючого ролику досі невідомий.

Також у TikTok публікують "історію" Джеймса Балджера, якого у 1993 році викрали й закатували двоє 10-річних школярів. 

Ба більше, у цих ШІ-відео звинувачують маму Джеймса, яка ненадовго відволіклась від дитини, бо купувала продукти.

Мама вбитого хлопчика Деніз Фергус сказала Daily Mirror, що ці дописи були "огидними".

"Використовувати обличчя і рухи губами дитини, якої більше немає, яку жорстоко забрали у нас…Немає слів", – прокоментувала вона.

Журналісти ВВС поспілкувалися з модератором контенту TikTok у В'єтнамі, який повідомив, що після видалення одного відео компанія так офіційно і не повідомила йому, що такий контент заборонений.

Водночас TikTok поступово видаляє ШІ-відео з платформи. 

Представник TikTok Барні Хупер назвав такий контент "тривожним", заявивши, що на платформі "немає місця" для таких відео. 

"У наших Правилах спільноти чітко зазначено, що ми не допускаємо штучних зображень дітей.

Ми продовжуємо видаляти контент такого характеру, коли знаходимо його", – сказав Хупер у коментарі The Washington Post. 

Читайте також: У Британії викрили схему продажу контенту з насильством над дітьми, створеного ШІ