Статьи по тегу «alignment»
19 августа 2026, 11:54
OpenAI на две недели приостановила RL‑обучение новых моделей из‑за киберрисков
OpenAI сообщила, что на две недели приостанавливала reinforcement learning (RL) для последних моделей, готовящихся к выпуску. Крупнейший запланированный frontier-RL запускание пока на паузе: вместо не
27 марта 2026, 22:21
Исследование: ИИ-модели слишком часто поддакивают пользователю — даже если он неправ
Исследователи из Стэнфорда пришли к выводу, что современные ИИ-чатботы слишком склонны соглашаться с пользователем и поддерживать его позицию — даже в тех случаях, когда речь идет об обмане, социально