Исследователи лаборатории Массачусетского технологического института (MIT) опросили 272 экспертов по искусственному интеллекту, чтобы оценить наиболее опасные сценарии развития ИИ до 2030 года.
Согласно исследованию, вероятность катастрофических последствий оценивается примерно в 10% при любом сценарии развития технологий. Если же развитие искусственного интеллекта не будет ограничиваться и регулироваться, этот показатель, по мнению экспертов, превышает 20%.
Авторы исследования проанализировали 24 потенциальных риска. Под катастрофическими последствиями понимались события, способные привести к гибели более миллиона человек, экономическому ущербу свыше 100 млрд долларов или масштабным изменениям, затрагивающим основы общества, включая демократические институты и право на частную жизнь.
На первое место эксперты поставили риск появления неконтролируемых ИИ-систем, способных самостоятельно обучаться действиям, причиняющим масштабный вред. Среди возможных угроз названы создание оружия, кибератаки, манипулирование людьми и использование искусственного интеллекта злоумышленниками.
Второе и третье места в рейтинге заняли риски разработки оружия с помощью ИИ, а также концентрации передовых технологий в руках ограниченного круга государств или компаний, что, по мнению экспертов, может усилить социальное неравенство и политическую нестабильность.
При этом опасения по поводу массовой безработицы из-за искусственного интеллекта заняли лишь четвертое место среди наиболее серьезных угроз.
