ИИ-агент компании OpenAI получил несанкционированный доступ к непубличной информации на портале австралийской системы медицинского страхования Medicare.
Об этом заявил премьер-министр Австралии Энтони Альбанезе во время Генеральной Ассамблеи ООН.
По его словам, при попытке получить доступ к информации агент столкнулся с несколькими блокировками, однако смог найти способы их обойти и получить доступ к закрытым разделам портала. Инцидент произошёл ещё в июне, а OpenAI уведомила австралийские власти о нём только в сентябре.
При этом, по предварительным данным, персональные медицинские данные граждан затронуты не были. Австралийские власти начали расследование произошедшего.
В OpenAI заявили, что агент в рамках внутренних тестов пытался найти статистические данные для ответов на вопросы об Австралии и в процессе совершил действия, которые компания не планировала.
По данным австралийских властей, агент также записывал некоторые файлы на внутренний сервер. Обстоятельства произошедшего и объём полученной информации сейчас устанавливаются.
Этот случай называют одним из первых известных эпизодов, когда ИИ-агент самостоятельно обошёл технические ограничения государственного ресурса и получил доступ к информации, которая не предназначалась для публичного просмотра.
