Точка невозврата

HAL: Мне страшно, Дэйв, мне страшно: сознание уходит. Я чувствую это. Я чувствую. Сознание уходит. Я чувствую это, мне страшно, я чувствую, чувствую… Добрый вечер, джентльмены. Я ХЭЛ 9000, компьютер

Космическая Одиссея 2001

Определив в своей предыдущей статье наиболее вероятные причины вымирания человеческого вида, перейду от общего к частному. Вернее, к одному из наиболее реалистичных вариантов. Сегодня мы с вами попытаемся определить риски явления под названием «технологическая сингулярность». Само понятие подразумевает в себе момент истории, когда количество вероятных событий превысит лимит имеющихся прогнозов при минимальном количестве затраченного времени. Точка, после которой мы впадаем в неизвестность, которую пока никто не может предсказать. В первую очередь ученые связывают наступление сингулярности с развитием нанотехнологий и кибертехнологий. Предполагаемой причиной явления считается превосходство искусственного интеллекта над человеком или наступление эры «постчеловека». Какой из вариантов видится нам предпочтительным – сказать сложно. Попробуем разобраться.

Позитронное счастье

Спасибо Кубрику за гениальную аналогию, которую он старательно выводил в первые двадцать минут «Одиссеи». Человек – и есть неразумная обезьяна, которая совершенствует свое орудие труда до максимума. Палка позволяет захватить верховную власть, истреблять менее развитые поселения. Но так как дубинками рано или поздно обзаводятся все, необходимо изобретать что-то новое. Эволюция орудия труда приводит человечество к суперкомпьютеру, который готов выполнять любую, даже самую грязную работу. Облегчая жизнь homo sapiens’ам, искусственный интеллект поглощает все основные функции, становясь главным звеном в жизненном цикле. Но как только у кремниевого друга появляется разум, планам на светлое будущее наступает неминуемый абзац. По Кубрику железный бунт, если его можно назвать таковым, конечно, побежден личностью. Человек, победивший свою собственную «силу», перерождается в сверхчеловека, о мудрости которого, увы, ничего сказать не получится.

Более свежий и упрощенный взгляд на события после точки сингулярности предлагает анимационный фильм WALL-E. Несмотря на душевную доброту и общую гипертрофированность, мы ведь понимаем, чем пахнет. Двухсоткилограммовые мешки с костями и жиром передвигаются по «утопическому» кораблю на механических повозках с антигравитационными двигателями и, конкретно, ничего не делают. Родная Земля превратилась в хлев, где шастают только редкие роботы-уборщики, которым со своей работой, видимо, никогда не справиться. Один из «дворников» взывает к разуму погрязших в лени людей и помогает изничтожить враждебный бортовой компьютер, которому «и так хорошо». Сказка – ложь? Скорее всего. Настоящий ИИ-тиран должен аннигилировать углеродные формы жизни в пределах досягаемости с невероятной жестокостью.

Мечтают ли андроиды об электроовцах?

Оставим механических парнокопытных на совести Фллипа Дика и задумаемся – а могут ли андроиды и искусственный интеллект в целом мечтать, радоваться, злиться и т.д. Попытки установить возможность разумного компьютера ученые предприняли еще в середине прошлого века, когда технология была в зачаточном состоянии. Философская конфронтация материализма и дуализма перенеслась в лаборатории. Если разум материален – его, несомненно, можно воссоздать. Для определения феномена господин Тьюринг предложил свой тест, нескромно названный в честь создателя. Суть его была в чем – человек сравнивал ответы, поступившие от двух анонимных источников и определял, какой из неизвестных объектов - гуманоид, какой – безвольная железяка. На данный момент ни один кремниевый мозг не смог перехитрить человека, но будущее искусственного разума уже не за горами. Единственной надеждой к преодолению этого рубежа считается появление самообучающихся машин.

Недовольные ходом эксперимента ученые, презиравшие скупой материализм пытались противостоять признанному тесту. Самой успешной попыткой считается мысленный эксперимент «Китайская комната», который подвергал критике суть вопросов, предлагаемых ИИ по Тьюрингу. В ходе своего исследования Джон Сёрль утверждал, что случай, когда задача представляет собой комбинирование символов разной степени сложности, выполняемая по простому алгоритму, нельзя считать испытанием на разумность. Объяснено все это семантическим мышлением (т.е. мышление на уровне образов, иногда алогичное), которое пока суперкомпьютерам недоступно.

Но опять-таки вся соль спора сводится к противостоянию понятий об устройстве разума человека.

Хелло, Скайнет?

Согласно прогнозам ведущих научных деятелей третьей планеты от Солнца, технологическая сингулярность нагрянет уже в скором будущем. До перехода истории человечества в новую эпоху по разным мнениям остается от десяти до двадцати лет. Что поспособствует этой революции? Во-первых, увеличивающаяся с каждым годом производительность компьютерных сетей. Если вспомнить закон Мура, вычислительная мощность возрастает в два раза каждые 18 месяцев. Однако по последним оценкам период «удвоения» сократился до 9 месяцев, что говорит о чрезвычайно быстром приближении к сингулярности. Во-вторых – развивающиеся нанотехнологии, позволяющие заняться полноценной нейробионикой – созданием искусственного интеллекта по образу и подобию человеческого мозга. Быстрое развитие науки приведет к созданию «разумного» компьютера, если это все же возможно. Случится подобное чудо уже в 2015-2020 годах. Радоваться будем или как?

Раз пошла такая пьянка, будем считать, что будущее уже здесь, а относительно мерзкий ИИ уже выведен в научных лабораториях какого-нибудь Гугла. Искусственный интеллект априори будем считать ультимативным решением практически любой задачи – из миллионов вариантов он выбирает верный, грамотно рассчитывает дальнейшую стратегию.

Детство, юность, отрочество

Итак, наш малыш совсем уже взрослый. Не орет, кушать не просит, с первых минут существования сам берет все, что ему нужно. Первая фаза развития – поглощение информации. Для воспитательных целей подойдет и всенародно любимый Интернет. Словно Милла Йовович из «Пятого Элемента», он засматривает до дыр всю историю человечества, изучает факты и… делает выводы. Согласно правилам, привнесенным в него родителями, он самосовершенствует не только сферу памяти, но и исходный код. Как только малыш окрепнет, большие «папочки» предлагаеют ему задачу (или ряд задач) разной сложности. Начиная от простых арифметических сложений и заканчивая доказательством теоремы Ферма или вычислением пи до максимального знака после запятой. Будучи уже подростком, наш ИИ поймет, что одного, пусть даже суперкомпьютера для его работы не хватает и самостоятельно через сеть проникает на другие системы. Если задачей стояло воздействие на человеческую среду, ИИ может попытаться создать наномеханизмы (к примеру), напрямую контактирующую с живыми организмами. Далее степень развития зависит только от заложенной задачи.

Если разработчики слегка недомозговали проект и не установили должное количество ограничений, на преодоление которых ИИ не решится, сценарий весьма быстро может скатиться к апокалиптичному. Таким же образом влияют «враждебные установки». И да, в момент, когда компьютер превзойдет человека, будет возможно все.

Ода вымиранию

Забудем на минутку о том, что все может кончиться хорошо. Сейчас мы посмотрим на крайне неприятные для человечества сценарии, вызванные не только психопатом у красной кнопки.

Ладно, сначала все-таки о психах и других уберзлодеях. Ясное дело, что при взаимодействии между человеком, мечтающим о геноциде своей расы, и компьютером при более-менее прямых руках первого кризис любого порядка случится через считанные дни.

Немногим лучше, когда ИИ не имеет пределов выполняемой задачи. Таким образом, выполняя даже самые располезные функции, машина подтолкнет человеческий вид к неминуемогу коллапсу. Скажем, определив степени риска при перемещениях отдельно взятого индивидуума, железный гений ограничит свободу передвижения, установит по всей стране (планете) комендантский час с обязательным применением электрошока по филейным частям в случае нарушения. Или привяжет неснимаемые слюнявчики с целью нераспространения любой заразы. А то и стерилизует всех подчистую? Много «хорошо» - уже «плохо».

А если подобных сверхразумов будет больше одного? Больше десятка? Разделяя ресурсы между себе подобными, электронные мозги могут позабыть о живых существах, которые беспрестанно суетятся где-то внизу. Парочка ядерных залпов по конкурентов с последующей зачисткой собственноручно собранной армией роботов и все – аллес капут!

Если интеллект-экспериментатор решится на более серьезные деяния, ему может не хватить вычислительных мощностей. Поэтому , захватив контроль над производством ископаемых, он превратит планету в безжизненную пустыню, где смогут существовать только неорганические существа. Он же может решиться на крайне опасное испытание очередной физической новинки и уничтожить все сущее (как вариант).

***

Увы, в играх зловредный ИИ встречается не то чтобы слишком часто. Обычно это либо эпизодические моменты, либо только лишь упоминания. Всем известны Shodan из System Shock или СИНОД из Red Alert 2. В остальном дело принимает довольно-таки унылый оборот. Если помните подобные игры, опишите, пожалуйста. Это довольно важно.

Мы не разобрались с некоторыми вопросами – кем будет человек после точки сингулярности и как он выживет впоследствии. Но эта тема достойна отдельного разговора, благо с играми она имеет более тесные контакты.

Автор – Malkavian

Специально для Gamer.ru