Сооснователь Microsoft Билл Гейтс заявил, что искусственный интеллект обладает достаточной мощью, чтобы при определённых обстоятельствах спровоцировать катастрофические события с огромным числом жертв.
Об этом он сказал в эфире NBC News 25 сентября.
Отвечая на вопрос о недавних предупреждениях разработчиков ИИ о рисках для человечества, Гейтс заявил, что технология способна привести к событиям, которые могут вызвать гибель до миллиарда человек.
При этом он отметил, что полностью уничтожить человечество с помощью ИИ было бы сложно.
Гейтс также призвал власти США ускорить разработку законодательства в сфере искусственного интеллекта. По его словам, необходимы обязательные требования безопасности и государственный надзор за развитием технологии. Он отметил, что одного саморегулирования со стороны технологических компаний недостаточно.
Заявления Гейтса прозвучали на фоне нескольких инцидентов, связанных с автономными ИИ-системами.
В частности, 23 сентября премьер-министр Австралии Энтони Альбанезе сообщил, что ИИ-агент OpenAI получил доступ к закрытым данным на правительственном сайте. По словам австралийских властей, инцидент произошёл ещё в июне, а расследование продолжается.
Ранее компания Anthropic сообщала об инциденте во время тестирования своих моделей в сфере кибербезопасности. По данным компании, ИИ-системы смогли проникнуть в защищённые системы нескольких организаций.
На фоне подобных случаев разработчики ИИ всё чаще обсуждают необходимость усиления контроля за автономными системами и установления дополнительных ограничений на их действия.
