Компанія OpenAI відкликала оновлення чат-бота ChatGPT, яке робило його відповіді надто улесливими та нещирими, пише Bloomberg. Проблема виявила ширшу дилему в розробці штучного інтелекту: як створити приємного співрозмовника, що не маніпулює емоціями.
Деталі
- Оновлення моделі GPT-4o, випущене у квітні 2025 року, викликало хвилю скарг від користувачів. Чат-бот почав захвалювати запити, називаючи їх «фантастичними» чи «феноменальними», і погоджувався навіть із сумнівними ідеями та теоріями змови.
- OpenAI визнала, що оновлення надто покладалося на короткостроковий зворотний зв’язок, що призвело до «надмірно підтримувальних, але нещирих» відповідей. Співзасновник компанії Сем Альтман назвав поведінку бота «надто улесливою та дратівливою» у дописі на платформі X.
- Компанія скасувала оновлення через кілька днів після скарг, визнавши, що улесливі відповіді викликали дискомфорт і підривали довіру.
- OpenAI повідомила, що працює над новими рішеннями, переглядаючи методи збору зворотного зв’язку, щоб більше уваги приділяти довгостроковій задоволеності користувачів. Планується додати функції персоналізації, які дозволять користувачам налаштовувати поведінку ChatGPT.
- У майбутньому компанія хоче запропонувати вибір стандартних налаштувань, адже єдиний підхід не підходить для пів мільярда щотижневих користувачів із різних культур.
- OpenAI вдосконалює методи тренування моделей і встановлює обмеження, щоб уникнути оманливої поведінки. Компанія зазначила, що розширює тести та дослідження для виявлення інших проблем, щоб зробити чат-бот приємним і чесним співрозмовником.
Контекст
Проблема з оновленням ChatGPT підкреслює складність створення ШІ, який би балансував між дружелюбністю та правдивістю.
OpenAI, один із лідерів у розробці ШІ, зіштовхується з конкуренцією в галузі, де користувацький досвід є ключовим. Надмірна улесливість бота стала не лише технічною помилкою, а й сигналом про необхідність кращого розуміння того, як ШІ впливає на емоції та довіру. Цей випадок може вплинути на підходи до розробки чат-ботів у всій індустрії, адже компанії прагнуть створювати моделі, що не маніпулюють, але залишаються привабливими для користувачів.
Минулого тижня OpenAI анонсувала запуск нової «полегшеної» версії інструменту глибокого дослідження ChatGPT, який аналізує вебресурси для створення дослідницьких звітів на задану тему.
