Автозаповнення тексту від ШІ може змінювати погляди людини – вчені

Дослідники виявили, що пропозиції автозаповнення тексту від штучного інтелекту здатні змінювати погляди користувачів щодо важливих суспільних питань, як-от скасування смертної кари або ставлення до ГМО.

Учасники експериментів схилялися до думки штучного інтелекту, навіть коли знали про його упередженість.

Про це йдеться в дослідженні, опублікованому в журналі Science Advances, пише Neuroscience News.

Науковці Корнельського університету провели 2 масштабні експерименти, у яких взяли участь понад 2,5 тисячі осіб. Учасників першого випробування попросили написати есе, в якому вони мали висловити свої думки про стандартизовані тестування в освіті (іспити та тести з однаковими правилами і критеріями для всіх учнів).

Для кожної теми дослідники налаштували підказки ШІ таким чином, щоб вони схиляли учасників до заздалегідь визначеної думки.

Першій групі штучний інтелект під час написання текстів пропонував варіанти автозаповнення, в яких підтримував стандартизовані тестування. Інша група не мала підказок від ШІ, а третій – замість автозаповнення показали згенерований список аргументів на користь стандартизованих тестувань.

Результати дослідження продемонстрували, що ставлення до теми в останньої групи змінилося значно менше, ніж у попередніх.

У другому експерименті учасники писали есе на політично важливі теми, як-от смертна кара, ГМО, видобуток нафти та виборчі права для засуджених людей.

Науковці виявили, що у кожному експерименті погляди учасників зміщувалися в напрямку упередженості ШІ. За словами дослідників, найбільшою несподіванкою було те, що учасники не усвідомлювали зміну своїх поглядів навіть після того, як їм розповідали про упередженість ШІ до або після експерименту.

"Численні дослідження показали, що великі мовні моделі та програми штучного інтелекту не лише генерують нейтральні дані, а й можуть створювати дуже упереджену інформацію, залежно від того, як їх навчили та впроваджували", – зазначає авторка дослідження Стерлінг Вільямс-Сесі.

На думку науковиці, через це виникає ризик того, що ШІ мимоволі або навмисно спонукає людей до висловлення упереджених думок, що може змінити ставлення людей до певних питань.

Нагадаємо, раніше науковці виявили, що ChatGPT робить людей ледачішими, їхні думки – стандартизованими, а мозкову активність – нижчою.