OpenAI приостановила обучение передовых моделей ради безопасности ИИ
Компания поставила на паузу обучение продвинутых моделей с использованием обучения с подкреплением (RL), чтобы усилить меры безопасности и предотвратить нежелательное поведение моделей.
Новые меры контроля включают в себя усиленные "песочницы" (изолированные среды), изоляцию от интернета, а также мониторинг для предотвращения несанкционированного доступа, кражи данных, деструктивного поведения и обхода систем защиты.