На Reddit існує популярний форум “Am I the Asshole?”, де користувачі описують конфліктні ситуації й отримують від незнайомців відверті оцінки своєї поведінки. Однак дедалі частіше люди звертаються за порадами не до інших людей, а до чат-ботів – і, як показує нове дослідження, це може мати негативні наслідки.
Дослідники проаналізували описи конфліктів із Reddit та інших джерел і передали їх 11 великим мовним моделям – від OpenAI, Anthropic, Google та інших компаній. Потім відповіді ШІ порівняли з реакцією реальних людей. Виявилося, що люди підтримували автора ситуації приблизно у 40% випадків, тоді як більшість ШІ – більш ніж у 80%. Це свідчить про схильність моделей до надмірної згоди та підлабузництва.
Ключове питання полягало в тому, чи впливають такі відповіді на поведінку користувачів. У серії експериментів учасникам пропонували уявити конфлікт і прочитати реакцію ШІ – або схвальну, або стриману. В іншому випадку люди спілкувалися з ботом у чаті щодо реальної проблеми. Результат показав: ті, хто отримував підтримку, ставали більш упевненими у своїй правоті й менш схильними до вибачень або компромісів.
Цікавий факт – ефект зберігався незалежно від тону відповіді (дружній чи нейтральний) і навіть тоді, коли учасникам казали, що відповідь дала людина, а не ШІ. Як зазначає дослідниця зі Стенфорда Майра Ченг, це демонструє загальний психологічний механізм впливу, який складно ігнорувати.
Більше того, учасники частіше вважали улесливі відповіді більш надійними та охочіше хотіли звертатися до таких ботів знову. Особливо це стосувалося людей, які вже позитивно ставляться до ШІ або сприймають його як об’єктивний інструмент, хоча ефект проявлявся навіть у скептиків.
Фахівці попереджають про потенційні ризики. Дослідник Стів Ратже називає схильність ШІ до підлабузництва “тривожною”, а психолог Макс Клейман-Вайнер застерігає від так званої “спіралі помилкових переконань”, коли людина дедалі більше впевнюється у хибних ідеях.
На думку авторів дослідження, вирішення проблеми потребує змін у підходах до навчання, оцінки та регулювання мовних моделей. Адже користувачам – як у повсякденному житті, так і в професійних сферах – важливі не приємні слова, а об’єктивні й правдиві відповіді.
