Компания Anthropic ограничила доступ к Claude для некоторых исследователей и научных организаций после того, как обнаружила попытки обойти защитные механизмы модели при проведении исследований двойного назначения.
Об этом пишет The New York Times.
В компании заявили, что не смогли точно установить цели некоторых исследований. Речь могла идти как о законных научных разработках, включая создание вакцин, так и о военных проектах, связанных с разработкой патогенов.
В частности, сотрудник одного из военных институтов пытался с помощью Claude подготовить заявку на грант для экспериментов по усилению вредоносных свойств вируса Чикунгунья.
«Мы не знаем, предполагалось ли использовать результаты исследований в качестве оружия. Но то, что военное учреждение проводит исследования по усилению функциональных свойств, вызывает опасения», заявил глава отдела анализа угроз Anthropic Джейкоб Кляйн.
Компания также сообщила о попытках использовать Claude для разработки обычных вооружений в Китае, России, Иране и других странах, а также для слежки и создания пропагандистских материалов.
Anthropic не уточнила, сколько исследователей и организаций потеряли доступ к Claude.
