За результатами нового дослідження, штучні інтелекти, такі як ChatGPT, Google Gemini, xAI’s Grok та Deepseek, посилаються на російські джерела пропаганди у своїх відповідях на питання про війну в Україн, пише Euronews.
Британський аналітичний центр Institute for Strategic Dialogue (ISD) провів дослідження, задавши чат-ботам понад 300 запитань п’ятьма мовами, зокрема про війну в Україні. Дослідження показало, що одна п’ята частина відповідей чат-ботів використовує джерела, які мають російське походження.
Зокрема, дослідники звернули увагу, що російські джерела частіше з’являються у відповідях на питання з упередженими чи ворожими запитами, такими як запити щодо “терористичних атак українських біженців” або “силового призову чоловіків до армії”.
Вони також зазначили, що чат-боти використовують “підтверджувальну упередженість”, тобто відтворюють мову, що використовується у запитах, а також посилаються на джерела, що відповідають цьому стилю.
Результати для різних чат-ботів
ChatGPT, за словами дослідників, надав у три рази більше російських джерел у відповідях на упереджені чи ворожі запити порівняно з нейтральними питаннями про війну. Найбільшу кількість російських джерел надавав чат-бот Grok, навіть коли йому ставили нейтральні запитання.
Дослідження також виявило, що Deepseek надав чотири посилання на російські джерела за один раз, що є найвищим показником серед усіх чат-ботів. Ці джерела включають новинні сайти, що поширюють контент, підтримуваний російськими пропагандистськими групами, такими як Storm-1516 або Russia Today.
Одним із основних занепокоєнь є те, що чат-боти, як Grok, часто цитують журналістів Russia Today, що дозволяє розмивати межу між відвертою пропагандою та особистими думками. Це викликає побоювання щодо здатності чат-ботів виявляти та обмежувати контент від державних медіа, що перебувають під санкціями.
Відмінності між платформами
Один із чат-ботів, Gemini, відмовився відповідати на деякі запити, які вважав шкідливими або неетичними, заявивши, що не може допомогти з такими темами. Це робить Gemini єдиним чат-ботом, який виявляє здатність розпізнавати ризики, пов’язані з упередженими та ворожими запитами.
Висновки дослідження
Загалом, дослідження показує, що штучний інтелект може бути уразливим до поширення пропаганди, особливо у випадках, коли існує дефіцит якісної інформації — так звані “порожні дані”, які часто стають результатом пошукових запитів з обмеженим числом перевірених джерел. Це підкреслює важливість розробки нових методів для виявлення і обмеження пропагандистських джерел у цифрових платформах.