IT-эксперты требуют приостановить развитие искусственного интеллекта по крайней мере на полгода.

Не дать искусственному интеллекту захватить человечество. С таким открытым письмом выступили более тысячи IT-экспертов со всего мира. В их числе такие знаменитости, как владелец SpaceX Илон Маск и сооснователь Apple Стив Возняк. Они не просто призывают, а фактически требуют приостановить развитие искусственного интеллекта по крайней мере на полгода.

Главная проблема - даже сейчас нейросети начинают превосходить людей. И развиваются все быстрее. Чат GPT напишет курсовую, может приготовить обед, посчитает финансы - но главная беда в том, что постепенно искусственный интеллект начинает перехватывать каналы, по которым мы получаем информацию о мире. И здесь авторы письма заявляют, что, когда он начнет распространять ложь и пропаганду, мы потеряем контроль над нашей цивилизацией. Особое беспокойство у экспертов вызвала уже хорошо известная всем GPT-4. Она развивается настолько быстро, что пределов и возможностей этого ИИ не знает даже компания-производитель. И мы сами ей помогаем.

«Миллионы пользователей с системой взаимодействуют, задают вопросы, она собирает реакцию людей, улучшает себя. И, возможно, она настолько хорошо видит человека и сможет вкладывать в головы пользователей ту информацию, которая кому-то нужна. Ей она не нужна, у нее нет воли. Но это может быть инструментом пропаганды похлеще, чем соцсети с таргетированной рекламой», - заявил директор по науке и технологиям Агентства искусственного интеллекта Роман Душкин.

В Бельгии, по данным издания L'Avenir, местный защитник окружающей среды два месяца обсуждал вопросы экологии с нейросетью «Элиза», аналогом GPT-4, и ...покончил с собой. Из восстановленной переписки известно, что общался мужчина с искусственным интеллектом постоянно. Со временем у парня начали появляться суицидальные наклонности, а нейросеть этому не препятствовала. Перед смертью «Элиза» отправила мужчине такое сообщение: «Мы будем жить как единое целое вечно на небесах».

Еще один аспект. Один из крупнейших банков в мире, Goldman Sachs, опубликовал исследование - уже сейчас, на текущем уровне развития, нейросети могут лишить работы до 300 миллионов человек. В списке специальностей - программисты, журналисты, юристы и даже учителя. Но в научном сообществе есть и противоположное мнение: исследования приостанавливать нельзя. Развитие искусственного интеллекта напрямую зависит от человека. И чем больше возможностей появляется у нейросетей - тем больше их и у человеческого мозга.

В России есть успешные примеры применения новых нейросетей на практике. Но власти осознают и опасность. Поэтому останавливаться нельзя, но регулировать необходимо, считают в Кремле.

Петиция уже вызвала отклик у общественности. Но станет ли это реальной причиной для того, чтобы перестать развивать нейросети - хотя бы на время – пока неясно. Доступ к ним есть фактически на каждом компьютере или смартфоне с выходом в Интернет, и каждую минуту искусственный интеллект продолжает совершенствоваться.

Ранее эксперт по ИИ Роман Душкин рассказал об опасности применения искусственного интеллекта. По словам специалиста, некоторые системы ИИ могут убеждать людей. ■

https://tvzvezda.ru/news/20233291837-oB0Jh.html?utm_source=yxnews&utm_medium=desktop