Последствия развития искусственного сверхразума

Недавно группа ученых во главе со всемирно известным физиком Стивеном Хокингом опубликовала необычную статью, посвященную премьере научно-фантастического триллера «Превосходство».

Увы, профессор Хокинг не стяжал лавры признанного пророка вроде Нострадамуса, прославившегося своими предсказаниями - катренами. Лишь очень немногие журналисты (в основном научные обозреватели) прислушались к его словам о созревании  «сетевого монстра» в виртуальных глубинах Интернета. Британский ученый даже высказал такую парадоксальную мысль: может быть, сообщество компьютеров, объединенное Всемирной паутиной, всячески скрывает приближающуюся угрозу от человечества?

Техногенный апокалипсис

Вместе с Хокингом «интеллектуальный набат» поддержали профессор физики из Массачусетского технологического института Макс Тегмарк, лауреат Нобелевской премии Фрэнк Вильчек и профессор, специалист в области вычислительной техники Стюарт Рассел. Совместно они опубликовали на сайте The Huffington Post аналитический обзор под настораживающим названием «Избавляясь от беспечного отношения к сверхразумным машинам».

В этой статье ученые на основе анализа сюжета голливудского блокбастера предлагают свои сценарии будущего искусственного интеллекта, и далеко не все они вызывают оптимизм. Главную свою мысль «творческий коллектив Хокинга» выражает следующим образом: «Есть искушение отнести сверхумные компьютеры к области научной фантастики, но это было бы ошибкой, и, возможно, - самой ужасной ошибкой в истории».

Поскольку, несмотря на громкие имена, выступление «команды Хокинга» прошло почти незаметно, ученые сделали еще одну попытку обратить на себя внимание и поместили в газете The Independent эссе под пространным заголовком «Фильм "Превосходство": плоды искусственного интеллекта - насколько серьезно мы их воспринимаем?».

Увы, и этот «интеллектуально-эсхатологический демарш» не привлек широкого внимания читателей, а между тем выводы теоретиков предвещают одну из самых громких грядущих сенсаций: наша цивилизация увлекается в горнило «технологической сингулярности»!

Технологическая сингулярность

Ровно 20 лет назад мир содрогнулся от новой опасности, которую вполне можно было бы назвать врожденной генетической болезнью цивилизации. Ее предрек человечеству американский математик и писатель-фантаст Вернор Виндж в культовой работе «Грядущая технологическая сингулярность». Суть модели будущего по Винджу очень проста: «В течение ближайших тридцати лет у нас появится техническая возможность создать сверхчеловеческий интеллект. Вскоре после этого человеческая эпоха будет завершена».

Виндж лишь схематически набросал черты будущей гибели земной цивилизации, предпочитая разрабатывать детали в своих научно-фантастических романах. Однако его теория быстро обросла подробностями в исследованиях учеников и подражателей.

Надо заметить, что прообраз киберпыли впервые встречается в романе Станислава Лема «Непобедимый». В нем классик мировой литературы гениально предсказал организацию беспроводных сетей, в которых узлы способны связываться друг с другом и «роиться», выполняя множество задач. Обычные роботы, даже обладающие сверхразвитым искусственным интеллектом, сильно уступают своим миниатюрным собратьям по функциональности.

Концепция умной пыли еще недавно рассматривалась как далекая перспектива создания роботов микронных размеров. Одиночный микрокибер, как и любое коллективное насекомое - пчела, муравей или термит, - мало на что способен. Однако множество микророботов способно уничтожить все на своем пути, подобно потоку тропических муравьев.

Естественно, что облака киберпыли будут лишь внешним проявлением гибели человеческого разума в технологической сингулярности. На первом этапе этого глобального кризиса «у руля» цивилизации встанут искусственные сверхинтеллекты, управляющие разнообразными «киберботами» (подвижными микроустройствами). Это могут быть и нейрокомпьютеры, и квантовые компьютеры, и даже некие «киборгонизированные» комплексы с участием человека.

В этом и заключается смысл предложенного Винджем словосочетания «технологическая сингулярность», как условия, в которых современные модели и представления о научно-техническом прогрессе теряют всякий смысл и начинается совершенно «нечеловеческая» логика поведения искусственного интеллекта.

Пришествие нанороботов

Ученые уже продемонстрировали возможность создания «сверхинтегрирован-ных» нанороботов, заключающих в кубическом сантиметре множество датчиков, источников и преобразователей энергии вместе с приемопредающими устройствами связи.

Многие самые передовые нанотехнологии в робототехнике находят первоочередное применение в космической индустрии. Это позволяет довольно точно предсказать одну из главных точек развития грядущего кризиса. Стоит отметить, что инопланетные исследования прежде всего связаны со сбором информации о любых проявлениях живой материи. Уже сегодня здесь наблюдается большой прогресс, и вскоре «умные песчинки», роящиеся в разряженной атмосфере Марса и кислотных облаках Венеры, станут вполне обычным явлением.

И вот тогда надо будет вспомнить страшные прогнозы о том, что в случае столкновений интересов машинного сверхразума и человека у последнего будет очень мало шансов избежать преследования безжалостных наноботов. Ведь вести их будут сверхчувствительные сенсоры, мгновенно распознающие малейшие признаки живого.

Алгоритм уничтожения людей искусственным сверхразумом с помощью наноботов может быть следующим. Сначала микророботы образуют единый рой. Сверхразум сообщает рою общие координаты целей. Каждый робот, зная свои координаты и координаты целей, задействует сверхчувствительные сенсоры и выбирает ближайшую цель. Для принятия окончательного решения об атаке микробот анализирует, сколько роботов уже направилось к этой цели. Если их число вполне достаточно, он начинает искать другую цель или остается в резерве. Так рой очень быстро распадается на отдельные команды - кластеры, устремляющиеся на уничтожение живых существ.

Военные игры

В войнах будущего, планируемых американской военщиной, облако микроботов, несущих  заряд, окутывает бронетехнику и укрытия противника. Затем рой киберов ищет приоритетные цели, разделяется на кластеры необходимого размера, проникает в незащищенные места и синхронно взрывается.

Другие разработки Пентагона включают разведку с использованием сложных программных алгоритмов и совершенных средств наблюдения и связи. Предполагается, что умные наноботы поступят в армию США и НАТО в первой четверти нашего века. Так становится возможным атака кибернасекомых, описанная «золотым пером Голливуда» Дэном Брауном в бестселлере «Точка обмана».

Там миниатюрные летающие роботы незаметно перемещаются в сторону нужного объекта, попутно выбирая оптимальные места для подзарядки в лучах солнечного света или просто вблизи нагретых предметов. Такие многофункциональные наноботы способны вести видео- и аудиослежку в самых различных ракурсах, а также активно взаимодействовать с человеком. Они могли бы инъектировать психотропные препараты, ядовитые вещества или просто взорваться, залетев в глубину ушной раковины.

Если к подобным апокалипсическим картинам еще и добавить структуру Всемирной сети и чипы-имплантаты, управляемые сверхразумом на основе тех же квантовых компьютеров, коллапс технологической сингулярности кажется неотвратимым...

Технологии конца света

По мнению ведущих экспертов ВПК, по мере того как концепция нанокиберов будет получать все более широкое распространение, производители станут оснащать датчиками буквально каждую деталь, устройство и каждое помещение, что откроет возможность контроля и управления широким спектром технологических процессов. Есть тут и инновационные пути решения продовольственной проблемы путем развертывания гидропонных хозяйств с датчиками влажности и кислотности буквально у каждого растения.

Вообще же, перспективы рационального использования сенсорных сетей весьма велики: от сельского хозяйства до полноценных систем экологического контроля, включая глобальный мониторинг атмосферы и гидросферы на предмет радиации и ядовитых веществ. Недалеко будущее, когда сенсорами будет оборудована вся городская инфраструктура - от зданий и сооружений до общественного транспорта и самого тела человека. И все это так или иначе может привести к коллапсу технологической сингулярности...

Можно ли эффективно бороться с наступающим кризисом?

На первый взгляд борьба с Интернетом, сверхсекретными проектами ВПК, кибернетическими нанотехнологиями и нейрокомпьютеризацией кажется совершенно бесперспективной. Между тем противники самой идеи кибернетического апокалипсиса вполне справедливо считают, что пока еще не видно ни одного реального пути создания искусственного сверхразума.

Без этого главного компонента технологический коллапс может перенестись чуть ли не на конец текущего столетия, а то и следующего. Фактически это означает, что эволюция искусственного интеллекта пойдет по какому-нибудь иному пути - скажем, киборгенизации и нейрокомпьютеризации.

Олег ФАЙГ