Глава компании Anthropic Дарио Амодей призвал ограничить темпы развития передовых моделей искусственного интеллекта.
По его словам, возможности ИИ начали развиваться быстрее, чем системы, предназначенные для контроля связанных с ними рисков.
Амодей заявил, что в Anthropic давно учитывают потенциальные угрозы ИИ, включая потерю контроля над технологией, использование моделей для кибератак и биотерроризма, а также серьёзные экономические последствия.
По его оценке, за последние месяцы развитие ИИ значительно ускорилось. Одной из причин он назвал способность современных систем помогать создавать модели следующих поколений.
Глава Anthropic также предупредил, что в перспективе 6–12 месяцев автономные ИИ-агенты могут получить значительно более широкие возможности. В качестве одного из сценариев он описал ситуацию, при которой такие системы смогут использовать постоянно действующую сеть ботов для масштабных атак в интернете.
Амодей предложил трёхэтапный подход: независимую проверку передовых ИИ-компаний, координацию между разработчиками для создания единых стандартов безопасности и ограничений, а также международное взаимодействие на уровне правительств.
Основатель xAI Илон Маск поддержал позицию Амодея, написав в X: «Дарио прав».
Глава OpenAI Сэм Альтман сообщил, что в компании в последние недели активно обсуждается регулирование темпов развития ИИ. Он также поддержал идею независимых экспертов, которые имели бы доступ к системам компании для оценки их безопасности.
Тем временем стало известно, что OpenAI не планирует проводить первичное публичное размещение акций до конца 2026 года. Об этом заявил глава компании Сэм Альтман.
По его словам, OpenAI «не торопится» с IPO, а на фоне текущих вопросов, связанных с безопасностью искусственного интеллекта, нынешний момент был бы неподходящим для выхода на биржу.
