Антиутопія в дії? Британці хочуть використати ШІ-алгоритм для пошуку "потенційних убивць"
Уряд Великої Британії працює над проєктом, який за допомогою певних алгоритмів має виявляти людей, які потенційно здатні скоїти вбивство.
Його називали "проєктом прогнозування вбивств", але згодом перейменували на "обмін даними для покращення оцінки ризиків", повідомляє The Guardian.
Штучний інтелект має аналізувати дані тисяч осіб, зокрема засуджених, щоб ідентифікувати потенційних злочинців, але правозахисники стурбовані такою ідеєю.
Антиутопія чи прогрес?
Новий алгоритм має аналізувати дані з поліції та пенітенціарної служби. Міністерство юстиції запевняє, що не використовує інформацію про людей без судимостей.
Однак організація Statewatch стверджує, що має документи, які свідчать: Мін'юст отримує дані не лише про злочинців, а й про сотні тисяч підозрюваних, потерпілих, свідків та звичайних людей.
Активісти визначили, що у проєкті використовують дані людей, які не мали судимостей, а самі страждали від злочинів чи контактували з поліцією – наприклад, через домашнє насильство, психічні розлади, самопошкодження чи залежності.
У проєкті згадуються навіть такі "маркери здоров’я", як інвалідність. За даними Statewatch, Мін'юст міг отримати дані про 100-500 тисяч людей.
Дослідниця Statewatch Софія Лаялл назвала проєкт "моторошним і антиутопічним", а використання чутливих даних щодо психічного здоров’я, залежностей та інвалідності – "глибоко інвазивним та тривожним".
Лаялл вважає, що ця ініціатива лише поглибить структурну дискримінацію, адже ґрунтується на даних, зібраних системами, що вже містять упередження – зокрема расові та соціально-економічні.
"Дослідження знову і знову доводять, що алгоритми для прогнозування злочинності – фундаментально хибні. Але уряд наполягає на впровадженні ШІ, що створює профілі потенційних злочинців ще до того, як вони щось скоїли.
Замість того, щоб витрачати кошти на сумнівні та расистські алгоритми, уряд має інвестувати в реальні, підтримуючі соціальні служби. Скорочення соцзахисту й одночасні витрати на "технорішення" лише поглиблюють небезпеку для людей", – заявила дослідниця.
Водночас у Міністерстві юстиції кажуть, що проєкт наразі має виключно дослідницький характер і спрямований на вдосконалення оцінки ризиків серед засуджених.
Результати планують опублікувати пізніше.
