OpenAI объявила, что на две недели приостановила обучение новых моделей ИИ из-за рисков в сфере кибербезопасности.
Об этом говорится в заявлении, опубликованном на сайте компании.
Решение объясняется «инцидентом с OpenAI и Hugging Face», а также предварительными данными о том, что разрабатываемая модель Astra может достичь «критического уровня» возможностей в сфере кибербезопасности.
В компании намерены усилить системы контроля и защиты.
Указано, что по мере роста возможностей ИИ-моделей увеличиваются и риски, связанные с их разработкой и тестированием, поэтому стандарты мониторинга и безопасности должны их опережать.
«Мы хотели уделить необходимое время для достижения этих стандартов, поэтому временно замедлили темпы масштабирования», — говорится в сообщении.
В OpenAI пояснили, что использовали двухнедельную паузу для усиления защиты исследовательской инфраструктуры, дополнительного тестирования систем безопасности и расширения мониторинга.
Для моделей Astra и связанных с кибербезопасностью разработок OpenAI вводит наиболее строгие требования к защите исследовательской среды. Они включают изоляцию рабочих нагрузок, дополнительные ограничения сетевого доступа и постоянное тестирование систем безопасности.
