Вчені дослідили, як штучний інтелект може змінювати погляди людей щодо важливих суспільних питань

Пропозиції автозаповнення тексту від штучного інтелекту здатні змінювати погляди користувачів щодо важливих суспільних питань, як-то скасування смертної кари або ставлення до ГМО. До таких висновків прийшли науковці Корнелльського університету, що провели два масштабні експерименти, у яких взяли участь понад 2,5 тисячі осіб. Учасники експериментів схилялися до думки штучного інтелекту, навіть коли знали про його упередженість.

Про це йдеться в дослідженні, опублікованому в журналі Science Advances, пише Neuroscience News.

Учасників першого випробування попросили написати есе, в якому вони мали висловити свої думки про стандартизовані тестування в освіті (іспити та тести з однаковими правилами й критеріями для всіх учнів).

Для кожної теми дослідники налаштували підказки ШІ таким чином, щоб вони схиляли учасників до заздалегідь визначеної думки.

Першій групі штучний інтелект під час написання текстів пропонував варіанти автозаповнення, в яких підтримував стандартизовані тестування. Інша група не мала підказок від ШІ, а третій – замість автозаповнення показали згенерований список аргументів на користь стандартизованих тестувань.

Результати дослідження продемонстрували, що ставлення до теми в останньої групи змінилося значно менше, ніж у попередніх.

У другому експерименті учасники писали есе на політично важливі теми, як-от смертна кара, ГМО, видобуток нафти та виборчі права для засуджених людей.

Науковці виявили, що у кожному експерименті погляди учасників зміщувалися в напрямку упередженості ШІ. За словами дослідників, найбільшою несподіванкою було те, що учасники не усвідомлювали зміну своїх поглядів навіть після того, як їм розповідали про упередженість ШІ до або після експерименту.

“Численні дослідження показали, що великі мовні моделі та програми штучного інтелекту не лише генерують нейтральні дані, а й можуть створювати дуже упереджену інформацію, залежно від того, як їх навчили та впроваджували”, – зазначає авторка дослідження Стерлінг Вільямс-Сесі.

На думку науковиці, через це виникає ризик того, що ШІ мимоволі або навмисно спонукає людей до висловлення упереджених думок, що може змінити ставлення людей до певних питань.