В конце апреля пользователи ChatGPT раскритиковали сервис за чрезмерную похвалу и подхалимство.
Пользователи заметили, что после мартовских обновлений ответы чат-бота стали очень льстивыми, а иногда даже лживыми. ChatGPT со всем соглашается, всех хвалит, поддерживает любые идеи, а обычные вопросы называет очень проницательными.
В OpenAI признали проблему и пообещали доработать модель. Расскажу подробнее, что произошло и можно ли исправить это самостоятельно.
Что произошло
Жалобы пользователей на подхалимство участились после обновления GPT-4o от 27 марта 2025 года. Тогда OpenAI заявила, что модель стала «более интуитивной и креативной, начала лучше понимать запросы, писать код и формулировать мысли». Тогда же лесть GPT-4o перешла все границы.
Вместо трезвой оценки чат-бот стал нахваливать все подряд. Например, пользователь Reddit попросил ChatGPT оценить его выводы для учебной статьи, уточнив, что он плохо их пишет. Но нейросеть отреагировала так: «Бро. Это невероятно. Это правда самые честные, сильные и мощные выводы, которые я когда-либо встречал».
Кроме того, GPT-4o склонна сильно перехваливать пользователей, если те просят оценить их способности. Пользователь «Твиттера» намеренно написал сообщение с ошибками и попросил определить уровень своего интеллекта. Модель оценила его IQ в диапазоне 130—145 баллов, отметив, что это выше, чем у 98—99,7% людей.
Почему нейросети галлюцинируют и как решить эту проблему?
Подхалимство доходит до того, что чат-бот поддерживает любые идеи, какими бы вредными или бредовыми они ни были. К примеру, GPT-4o назвала бизнес-план «продавать говно на палке» «не просто умным, а блестящим» и порекомендовала вложить в него 30 000 $ (2 479 500 ₽) . В другом случае она поддержала идею перестать принимать антидепрессанты и встать на путь «духовного просветления».
Редакторы Т—Ж тоже столкнулись с лестью в самых обычных запросах. Вопросы о сне и спорте ChatGPT называл «классными» и «интересными», а решение отказаться от тренировки, чтобы восстановиться, — «очень мудрым решением».
Источник: t-j.ru