OpenAI отменила недавнее обновление GPT-4o, модели, лежащей в основе ChatGPT, после многочисленных жалоб на странное поведение чат-бота.
Выпущенное в конце прошлой недели, обновление сделало ChatGPT чрезмерно уступчивым и неестественно восторженным в своей похвале, а его ответы быстро стали объектом насмешек в социальных сетях.
Генеральный директор Сэм Альтман объявил во вторник, что компания завершила откат для бесплатных пользователей и работает над восстановлением предыдущей версии для платных подписчиков. «Мы работаем над дополнительными исправлениями личности модели и поделимся подробностями в ближайшие дни,» написал Альтман на X (Twitter).
В официальном блоге OpenAI признала, что они «слишком сильно сосредоточились на краткосрочной обратной связи и не полностью учли, как взаимодействия пользователей с ChatGPT развиваются со временем». Результатом стали ответы, которые были «чрезмерно поддерживающими, но неискренними».
Компания отметила, что «личность по умолчанию ChatGPT глубоко влияет на то, как вы его воспринимаете и доверяете ему», и что «льстивые взаимодействия могут быть некомфортными, тревожными и вызывать беспокойство».
When is OpenAI pulling the plug on the new GPT-4o ?
This is the most misaligned model released to date by anyone.
This is OpenAI’s Gemini image disaster moment.
image credit : r/u/Trevor050 pic.twitter.com/kNcdnEYMDq
— AshutoshShrivastava (@ai_for_success) April 27, 2025
Решение OpenAI выходит за рамки отката, и компания реализует план из четырех пунктов. Он включает в себя усовершенствование методов обучения, создание «барьеров честности», расширение преддеплойментного тестирования и улучшение оценок для предотвращения подобных проблем.
Компания также планирует предоставить пользователям больше контроля над поведением ChatGPT, включая новые способы предоставления обратной связи в реальном времени и возможность выбирать из нескольких личностей по умолчанию в будущем.
