В ожидании терминатора

Люди или роботы будут править на планете уже через несколько десятков лет? Эту тему обсуждали в Вологде на прошедшей неделе участники Международного форума «Диалог Форт Росс».

Ученые, предприниматели и общественные деятели в «Русском доме» делились своими мнениями, оценками, прогнозами, а порой и страхами.

Есть у революции начало

В мире прямо на наших глазах происходит революция в сфере искусственного интеллекта. В этом уверен Игорь Пивоваров, главный аналитик Центра национальной технологической инициативы на базе МФТИ имени Баумана.

«По своему значению она вполне сравнима с основными глобальными революциями, кардинально изменившими жизнь человечества: формированием вида Homo sapiens около 70 тысяч лет назад, аграрной революцией, произошедшей примерно 12 тысяч лет назад, и научной революцией, длящейся вот уже 500 лет», — сказал он.

Очередная революция началась где-то 10 лет назад и пока не особо заметна, но её последствия не заставят себя ждать слишком долго. Искусственный интеллект (ИИ) считается сегодня одной из наиболее перспективных и быстроразвивающихся мировых технологий. Темпы его развития таковы, что он способен стать неотъемлемой частью жизни и деятельности большинства людей уже через два-три десятилетия. А возможно, что и раньше.

Сейчас ИИ находится на стадии, когда он способен успешно воспринимать и идентифицировать различные объекты, классифицировать их и делить на различные категории. На очереди — анализ чувств людей и контекста ситуации.

Элементы ограниченного, или «слабого», искусственного интеллекта уже активно используются в самых разных сферах. На повестке дня стоит разработка «сильного» искусственного интеллекта, который окажется способен к самостоятельному принятию различных, в том числе и управленческих, решений.

AI-race — гонка в сфере искусственного интеллекта — уже стартовала. Лидируют в ней США, на которые приходится 50% всех мировых инвестиций в ИИ, а сразу за ними следует Китай, тратящий ещё 30%. Россия же, по мнению учёных, серьёзно отстаёт от обоих этих государств. Согласно прогнозам, наша страна даже через 20 лет получит на рынке искусственного интеллекта нишу всего лишь в 5%.

Роботы-убийцы

Первыми, кто намерен воспользоваться всеми гигантскими возможностями искусственного интеллекта, стали военные.

«Войны становятся технологичнее, люди участвуют в них всё меньше, а роботы получают возможность убивать, — считает профессор Академии военных наук, директор проекта по новым технологиям и международной безопаснос­ти Центра политических исследований Вадим Козюлин. — Например, городскую войну новые технологии должны превратить в серию точечных уколов с минимальным количеством жертв и разрушений. Для этого планируется задействовать лазеры, микроволновое оружие, дроны».

В этих условиях государства разрабатывают новые военные стратегии — так называемые асимметричные, когда часть самолетов, танков, кораблей и подводных лодок, которые стоят слишком много, строятся долго и быстро устаревают, планируется заменить недорогими воздушными, наземными, надводными и подводными роботами.

Типичный пример тому — американский проект беспилотного противолодочного корабля See Hunter («Морской охотник»). Этот корабль способен находиться в автономном плавании на протяжении 90 суток, преодолевать 19 тысяч километров и развивать скорость 27 узлов (50 км/ч). Эскадра из 10-15 «охотников» способна успешно найти подводную лодку и навести на неё ударные средства. Причём на производство морского беспилотника уходит в 10 раз меньше денег, чем на производство аналогичного корабля с экипажем, а его эксплуатация и вообще обходится дешевле раз в 40.

«В сфере развития искус­ственного интеллекта тот, кто не движется быстро, быстро отстанет», — уверен Вадим Козюлин.

По его мнению, дальнейшая гонка робототехнических во­оружений неизбежна, но вот кто выйдет из неё победителем, пока неясно. Вполне возможно, что со временем боевые роботы станут настоящим ящиком Пандоры, таящим в себе множество бед и несчастий.

Война или коэволюция?

Искусственный интеллект гораздо более опасен для человечества, чем ядерная энергия, считают участники форума. Ведь если он выйдет из-под контроля, то второго шанса обрести власть на планете у людей может больше и не появиться. ИИ уже сейчас обыгрывает людей во многие стратегические игры: от покера до шахмат, а что будет в будущем, где он станет полноценным участником большого количества самых разных управленческих процессов?

«Искусственный интеллект не снижает, а увеличивает пропасть между богатыми и бедными, — отметил Иван Пивоваров. — Это усиливает мировую нестабильность, тем более что применяющие его крупные корпорации становятся новыми активными игроками на мировой шахматной доске».

При этом если люди, как правило, довольно разобщены и обычно обмениваются информацией между собой совсем небыстро, то с ИИ ситуация принципиально иная. Работающие на его основе компьютеры способны мгновенно пересылать друг другу огромные объёмы информации и так же быстро обрабатывать их. Находясь в разных концах земли, они тем не менее будут представлять собой единый разум и смогут принять общее решение за считанные доли секунды.

Нет никакой гарантии, что для людей такое решение не окажется фатальным. В итоге перед человечеством возникает новый вызов — как эффективно взаимодействовать с этим мощным интеллектом, не превратив его в своего хозяина и убийцу?

«Пути назад у науки уже нет, только вперёд, — считает Сергей Шумский, директор Научно-координационного совета Центра науки и технологий искусственного интеллекта на базе МФТИ. — Создавая искусственный разум, нам нужно создать его так, чтобы он мог сам себя конт­ролировать. Надо, чтобы у него возникла этика, приближенная к человеческой. Это даст нам возможность взаимного сосуществования. Человеку и искусственному интеллекту придётся эволюционировать совместно».