У Британії викрили схему продажу контенту з насильством над дітьми, створеного ШІ

Педофіли використовують штучний інтелект, щоб створювати та продавати реалістичні матеріали про сексуальне насильство над дітьми.

Про це йдеться у розслідуванні ВВС.

Автори зображень використовують програмне забезпечення зі штучним інтелектом під назвою Stable Diffusion, яке призначене для створення зображень для використання у мистецтві чи графічному дизайні.

Програма може створити зображення за описом користувача.

Фото: agsandrew/Depositphotos

Журналісти виявили, що цю програму використовують для створення реалістичних зображень сексуального насильства над дітьми, зокрема зґвалтування немовлят і дітей раннього віку.

Рекламують зображення за допомогою хештегів на таких платформах, як-от японський вебсайт для обміну зображеннями Pixiv, а сплатити за контент можна навіть на такому сайті, як Patreon.

Речник Pixiv сказав, що компанія приділяє величезну увагу розв'язання цієї проблеми. Він заявив, що заборонив усі реалістичні зображення сексуального контенту за участю неповнолітніх.

У Patreon говорять, що дотримується політики "нульової толерантності" до подібного контенту і кажуть, що видалили більшу кількість" таких матеріалів.

Оскільки штучний інтелект продовжує стрімко розвиватися, виникають питання щодо майбутніх ризиків, які він може становити для конфіденційності людей, їхніх прав та безпеки.

Дослідження свідчить про те, що зображення жорстокого поводження з дітьми створюють у "промислових масштабах", подекуди до тисячі на місяць.

Коментарі користувачів до окремих зображень у Pixiv дають зрозуміти, що вони мають сексуальний інтерес до дітей, а деякі з користувачів навіть пропонують надати їм реальні зображення та відео жорстокого поводження з дітьми.

"Злочинці, які займаються сексуальним насильством над дітьми, переймають усі технології, і деякі експерти вважають, що майбутнє матеріалів про сексуальне насильство над дітьми залежить від контенту, створеного ШІ", – кажуть в урядовому агентстві з питань розвідки, безпеки та кібернетики Великої Британії.

Читайте також: Штучний інтелект замінить частину редакторів відомої німецької газети