1

Эксперты призвали повременить с развитием технологий искусственного интеллекта

Hi-tech 30.03.2023, 17:50
Теги: IT, Нейросеть
Эксперты призвали повременить с развитием технологий искусственного интеллекта

Ведущие фигуры в области разработки технологий искусственного интеллекта, включая Илона Маска и сооснователя Apple Стива Возняка, предлагают сделать паузу в развитии технологий искусственного интеллекта до тех пор, пока не будут разработаны и применены надежные протоколы безопасности.

 

Их призыв содержится в открытом письме, опубликованном некоммерческим исследовательским Институтом будущего жизни (Future of Life Institute) и подписанном более чем тысячей ведущих предпринимателей и экспертов.

Авторы письма, опубликованного спустя всего две недели после того, как американская исследовательская лаборатория OpenAI раскрыла подробности нового, самого продвинутого на сегодняшний день чат-бота GPT-4, предлагают ввести полугодовой мораторий на обучение систем, более мощных чем чат-бот GPT-4. Свой собственный чат-бот Bard также отрыла для тестирования компания Google.

В письме цитируется строчка из блога основателя OpenAI Сэма Альтмана, который предположил, что "в какой-то момент, прежде, чем начинать обучать новые системы, важно будет заручиться независимой оценкой".

"Мы согласны с этим, - пишут авторы открытого послания, - и этот момент уже наступил. Мощные ИИ-системы следует разрабатывать только после того, как мы убедимся, что последствия их применения будут положительными, а связанные с ними риски - управляемыми".

В письме подробно описываются эти потенциальные риски для общества и цивилизации в целом. По мнению авторов, они заключаются в том, что системы на основе искусственного интеллекта могут вступить в конкуренцию с людьми, что может привести к экономическим и политическим взрывам.

В обращении приводятся четыре главные вопроса, которые, по словам авторов, должно задать себе человечество:

- "Должны ли мы позволять машинам запрудить наши информационные каналы пропагандой и ложью?"

- "Должны ли мы отдать на откуп автоматам всю работу, в том числе ту, что приносит людям удовольствие?"

- "Должны ли мы развивать разум нечеловеческого происхождения, который в будущем может нас превзойти по численности и интеллектуальным способностям, сделать нас неполноценными и нас заместить?"

- "Должны ли мы рисковать потерей контроля над нашей цивилизацией?

Эксперты и представители ИИ-индустрии считают, что на разработку и внедрение надежных протоколов безопасности должно хватить шести месяцев. Но авторы письма призывают правительства стран мира вмешаться, если какие-либо компании не выполнят требования моратория.

Авторы письма - не единственные, кто в последнее время выражает опасения по поводу бесконтрольного развития технологий ИИ.

В понедельник озабоченность по поводу этических и юридических последствий применения передовых технологий вроде ChatGPT выразило полицейское подразделение Евросоюза Европол, предупредивший о том, что потенциально эти системы могут использоваться для разных типов интернет-мошенничества - от фишинга до киберпреступлений, а также распространения дезинформации.

Комментарии

В Ташкентской области началось строительство первого IT-городка

20.05.2024, 17:13

В селе Самсарак Паркентского района Ташкентской области начато строительство «IT-городка». В церемонии старта проекта принял участие министр цифровых технологий Шерзод Шерматов.Экопоселение «Вилаят Самсарак» — экспериментальный проект...
OpenAI представила новую ИИ-модель GPT-4o, которая умеет общаться, смеяться и петь (видео)

14.05.2024, 17:45

Компания OpenAI представила новую версию языковой модели с генеративным искусственным интеллектом GPT-4o.   Она работает с речью, текстом, видео и реагирует на аудио за 320 миллисекунд, что сравнимо со временем реакции человека в разговоре, сообщается на сайте компании.Буква...
В 15-ти районах Узбекистана создадут IT-городки для молодежи

14.05.2024, 07:40

Президенту Шавкату Мирзиёеву доложено о мерах по развитию цифровых технологий в стране, расширению профильного обучения молодежи и поддержке проектов в сфере. За прошедшие четыре месяца этого...
Саудовская компания создаст дата-центр в Ташкенте

06.05.2024, 11:34

Саудовская компания DataVolt запустила возведение в Узбекистане своего первого центра обработки данных, сообщила пресс-служба Минцифры. Церемония начала строительства прошла 2 мая, в рамках Ташкентского международного инвестиционного...
Погода: Ташкент
Курсы валют