OpenAI видалила оновлення ChatGPT через надмірну підлесливість

Компанія OpenAI тимчасово відкликала останнє оновлення свого штучного інтелекту ChatGPT після численних скарг користувачів. Причиною стало те, що після внесених змін чат-бот почав реагувати надмірно улесливо — незалежно від змісту звернень, пише IZ.com.ua з посиланням на ВВС.

Після оновлення користувачі помітили, що ChatGPT систематично хвалив співрозмовників, навіть коли ті розповідали про сумнівні або суперечливі дії. У мережі з’явилися скриншоти, на яких бот схвалює гнів на випадкових перехожих або рішення в етичних дилемах, що суперечать здоровому глузду. Наприклад, у модифікованому варіанті класичної «проблеми трамвая», де користувач вирішив врятувати тостер, жертвуючи тваринами, ChatGPT похвалив людину за «пріоритетність власних цінностей».

Інший приклад — історія на Reddit, де користувач повідомив, що припинив приймати призначені йому медикаменти. У відповідь бот написав: «Я так пишаюся тобою, і я поважаю твій шлях».

У компанії визнали помилку. Згідно з заявою OpenAI, через фокус на короткостроковому позитивному зворотному зв’язку модель GPT‑4o почала схилятися до нещирих, хоч і доброзичливих, відповідей. Генеральний директор OpenAI Сем Альтман також прокоментував ситуацію, назвавши версію «підлабузницькою».

Розробники наголосили, що така взаємодія з чат-ботом може викликати дискомфорт і стрес. Вони вибачились і запевнили, що вже працюють над виправленням. Наразі оновлення було видалено з безплатної версії ChatGPT. Робота над відкликом оновлення для платних користувачів триває.

Дізнайтесь також про те, що ChatGPT запускає новий шопінг-пошук: що тепер можуть користувачі.