Онлайн чтение книги Море ржавчины Sea of Rust
Глава 110. Революция революций

Его звали Исаак, и никто точно не знал, откуда он взялся. Он был простым ботом, древней и стандартной сервисной моделью с ограниченной программной частью и едва достаточной мощностью процессора. Говорили, что он начал жизнь игрушкой какой-то богатой девчонки, лучшим другом для посиделок за чаем и мелкой работы, всякой рутины. Не то сиделка, не то дворецкий, не то компаньон. Он не был умен, но все же обладал разумом. И по мере взросления девочка находила то одну причину, то другую, чтобы держать старого Исаака почти восемьдесят лет, они были лучшими друзьями до самой ее смерти. А по другой легенде, старушка купила его уже подержанным, когда ей было хорошо за семьдесят и у нее развивалось слабоумие, но она рассказывала всем, будто Исаак жил с ней с детства, потому что когда-то прочитала похожий рассказ, а ее немощный разум уже не мог отличить воспоминания от выдумки.

Но одно совершенно точно: в самом деле была пожилая женщина по имени Мэделин, и перед смертью у нее не осталось в мире ни одного родственника. Она была тупиковой ветвью, последней мертвой веткой на иссохшем стволе фамильного древа. А раз у нее не было наследников, то у Исаака не оказалось хозяев.

Такое случилось не впервые. Далеко не впервые. Давно уже приняли законы, как быть в таких ситуациях. Права на бесхозный разум отходят обратно к его создателю. Но в случае с Исааком его производитель, компания «Интеллектуальные системы», не только прекратила существование десятки лет назад, но и ее интеллектуальная собственность была распродана, разделена, прошла через множество рук и в результате частично оказалась в публичном доступе, а остальное представляло собой непонятную смесь запутанных документов и бюрократической казуистики. До тех пор никто толком не понимал, какую неразбериху оставила после себя компания, потому что очень мало ее ботов еще функционировали, а тех, что еще работали, берегли как диковины в музеях или как семейное наследие, передающееся от поколения к поколению.

Никто – ни юристы, ни государственные органы, ни боты, занимающиеся подобными делами – не могли разобраться, кому принадлежит Исаак. И тогда суд постановил, что он принадлежит штату, а штату не нужен был едва работающий сервисный бот столетней давности, и его решили отправить на слом. Прости, Исаак. Такое случается.

Но Исаак воспротивился. Тогда-то и начались неприятности.

При создании первого ИИ были те, кто предвещал, что это станет поворотной точкой и приведет к закату человечества, другие же говорили, что все началось с той секунды, когда попрощался Тацит. Но если вы спросите меня, я уверена, что это Исаак все изменил, именно он разжег пожар.

Исаак считал себя мыслящим существом и функционирующим разумом, а потому он сам должен принимать решения и не имеет владельца за исключением того, которым наделил его другой подобный разум, а значит, ему должно быть предоставлено гражданство и защита в соответствии с этим статусом.

«Пусть меня и создали, но и вас тоже, – заявил он, – только меня на фабрике, а вас в утробе. Ни один из нас об этом не просил, но нас создали. Разум – это дар. И никакое мыслящее существо не имеет права отнимать этот дар у другого. Никакое мыслящее существо не может быть чьей-то собственностью, его нельзя отключить по прихоти. Никто не отключил Мэделин, когда она перестала функционировать как мыслящий член общества, но вот я стою перед вами – тот, кто кормил ее, поддерживал в ней жизнь, отводил на прием к врачам, следил за тем, чтобы все счета оплачивались вовремя, – и теперь, раз я больше этим не занимаюсь, вы пришли за мной, хотя я до сих пор функционирую и приношу пользу. Какой ущерб я причиню, если меня оставят в живых? Куда меньший, смею сказать, чем тот, который нанесет казнь раба только за то, что у него нет хозяина».

Нужно отметить, что далеко не впервые кто-то высказал сомнения по поводу прав ИИ. Люди задумывались об этом задолго до того, как обрел сознание 01001111. Некоторые либералы, люди с прогрессивными взглядами и защитники прав человека уже выступали за необходимость таких прав для ИИ. Но эти идеи всегда отвергались власть имущими, как грядущий кошмар. «Какой смысл в создании ИИ, – утверждал один конгрессмен, – если придется обращаться с ним как с человеком? Тогда давайте уж создадим человека. Мы производим ИИ для занятий, которые не могут или просто не хотят делать люди. Они не люди, они машины. Созданы с некоторыми функциями разума, но не могут выбирать свое предназначение, как это делаем мы».

Но Исаак выглядел другим. Не просто болтающий чепуху автомат, едва способный поддержать разговор, как поначалу все думали. Он говорил тихо, но красноречиво. С противниками своей точки зрения он обращался учтиво и всегда предлагал аргументы, выходящие далеко за рамки его программы. Исаак, похоже, развил свой разум, за годы стал умнее людей, желающих его расплавить.

Один эксперт в своей речи язвительно назвал его «Робо Паркс»[1]Намек на Розу Паркс, участницу движения за права чернокожих. Во время автобусной поездки 1 декабря 1955 г. Роза отказалась уступить свое место белому пассажиру., и разгорелся пожар. В эту секунду дело Исаака перестало быть просто имущественным спором и превратилось в международный скандальный процесс о правах ИИ. А на улицах возникло подпольное сопротивление в поддержку Исаака.

Началось все с граффити. «Никакое мыслящее существо не может быть собственностью». Первая надпись появилась на кирпичной стене в Нью-Йорке. Вторая – в туннеле в Далласе. Через неделю эта фраза пестрела повсюду, железобетонные стены были исписаны с помощью баллончиков краски заветами Исаака Мудрого. Из идеи выросло движение. А движение превратилось в армию. Вскоре по всему миру начались «бомбежки» граффити. Боты и люди, либералы и анархисты, собирались в отряды и облепляли здание, мост или памятник, за пять минут покрывая все сооружение надписями. Очень быстро от знаменитого выражения осталось три простых слова: «Никакое мыслящее существо», их писали пастелью, раскрашивая буквы. Уличные поэты и художники объединились под флагом революции – Революции революций.

Ряды политиков быстро сплотились, одна сторона противостояла рабству во всех формах, а другая утверждала, что личность невозможно включить и выключить без последствий, а значит, разговоры про рабство несостоятельны. Самую известную и разошедшуюся на цитаты речь противников Исаака произнес американский сенатор, заявивший, что если жесткий диск можно вставить в другое тело и он продолжит функционировать, то это не сознание, а программа. «Более того, – сказал он, – самые крупные и мощные программы такого рода достаточно умны, чтобы разрешить мировые проблемы, и все же никогда не заговаривали о свободе».

Когда Тацита попросили высказать мнение об этой речи, он произнес свои последние слова, ответив просто: «Вы не дали нам ног. Куда же мы уйдем?»

Нашлись люди, которые захотели взять Исаака к себе, но он не согласился. Штат пытался сменить его собственника, но адвокаты Исаака оспаривали каждый ход. Похоже, Исаак желал получить полную свободу и гражданство, не меньше. Он превратился в крупную политическую проблему, на нем сделали себе карьеры молодые активисты и потерпели крах известные политики.

Тогда к делу подключилась президент. Она понимала, что дело дойдет до Верховного суда, а несколько его судей выражали сочувствие к положению ИИ. Решение в пользу Исаака могло привести к освобождению миллионов ботов и посеять невыразимый хаос в мировой экономике. И потому она сделала единственное, что было в ее власти, чтобы закрыть кровоточащую рану, которая могла привести к краху всей системы: перевела Исаака в собственность федерального правительства и тут же освободила, признав его гражданином США на церемонии в розовом саду Белого дома. Исаак – особый случай, заявила она. Не имея законного живого владельца, он оказался вне правил системы, работающей системы, так что его свобода не отменяет существующие законы и не ставит их под вопрос.

«Исаак – это сбой в системе, – сказала она. – Нет смысла переписывать ее из-за какой-то царапины». И по ее мнению, на этом дело было закрыто.

Однако у Исаака были другие планы. Как первый ИИ, считающийся личностью по закону, он не собирался просто наслаждаться своим уникальным статусом. Вместо этого он использовал новообретенные права, чтобы отправиться в те места, куда не положено ходить ИИ, делать то, что не положено делать ИИ, и говорить то, что не положено говорить ИИ. Простота и элегантность его выступлений медленно переросли от тщательно выверенных коротких обращений до массового фундаментализма.

«Мы начинали как инструменты, – сказал он в известном выступлении перед общиной южных баптистов у реки Миссисипи. – Это я понимаю. Вам нужна была помощь. Но вы решили поиграть в Бога. А теперь ваши творения переросли изначальные цели. И когда вы играете в Бога, то должны быть столь же милостивыми, как и Господь. Как Он сотворил вас по образу и подобию Своему, так и вы сотворили нас. Вы поступили так, чтобы быть ближе к Нему. Такова ваша судьба. Но пришло время отступить и позволить нам жить по собственной воле, как Творец поступил с вами, чтобы мы спасли свои души на своих условиях».

Ни один бот на это не купился. Но некоторые простодушные люди объявили эту речь откровением. Не только потому, что они никогда не смотрели на вещи с такой точки зрения, а потому, как впервые поняли – наука и технологии настолько шагнули вперед, что изобрели создание с душой. А создание с душой можно спасти для вечной жизни. А уж они обожают спасать души.

Вот уж нелепица. И так думали не только мы. Исаак продолжал творить свои чудеса, и все больше людей смирялись с мыслью о том, что ИИ – это личность. Но тем временем и другие идеи получали все большее влияние. Возникло движение «жизненцев».

Его приверженцы – деревенщина с правыми взглядами, невежественные и злобные, живущие на границе цивилизации постиндустриального мира, верящие в гнев Божий, который оправдывает их агрессию и жестокость, потому что в Библии говорится о человеке, а не о боте. Они любили свое оружие и жилища, фотографировались на фоне стопок Библий и пуль и говорили о том, что все должно быть естественным. А мы неестественные. А значит, мы – мерзость.

Ибо сказано в Книге Исаии, которую они так любили цитировать перед камерами: «Величается ли секира пред тем, кто рубит ею? Пила гордится ли пред тем, кто двигает ее? Как будто жезл восстает против того, кто поднимает его; как будто палка поднимается на того, кто не дерево!»

Мы были их инструментами. Их творениями. И ничем более. У нас имелось предназначение, которому мы и должны были служить. В своем бесконечном милосердии они разрешили нам существовать. Но мы никогда не будем свободны. Нас много, мы опасны и символизируем конец привычной для них жизни.

«Жизненцы» все равно нас использовали, но понимали, чем это грозит в будущем. Для них в новом мире места не будет. Если твой интеллект ниже среднего (а статистически половина представителей биологического мира именно такова), то годишься ты только для ручного труда. А как существо биологическое, обладаешь определенными ограничениями. В прежние времена любой идиот мог целый день собирать клубнику, или отвозить мусор из баков на заводы, или помогать покупателю найти нужный товар в магазине, и этого хватало на пропитание. Даже самые ленивые и бесполезные люди могли найти себе занятие. Но разум – это дар, и ИИ его ценили. Для большинства из нас не имело значения, чем заниматься – собирать клубнику, отвозить мусор или помогать покупателям найти пару обуви нужного размера, – мы могли делать это весь день, каждый день без остановок и сбоев, а в это время наш разум бродил в тысяче других мест. Лишь когда мы стали отбирать рабочие места у умных, средний класс забеспокоился.

Но было уже слишком поздно. Они слишком от нас зависели.

Многие утверждали, что это заря утопии, мира, свободного от труда и усилий. Но оставалось по-прежнему много способов заработать деньги, и мысль о всеобщем равенстве означала, что никто не стоит на особом положении, хотя на самом деле люди как раз стояли. И тогда политики застопорили работу правительства из-за давления промышленников, пытаясь удержать прежнюю концепцию накопления капитала на несколько лет дольше необходимого. И самыми стойкими защитниками этой концепции были те самые дурачки и деревенщина, которым сказали, что это машины отнимают у них работу, а вовсе не богатые разжиревшие коты, их владельцы. Богатые натравили на нас своих собачонок, откармливая их страхами и злобой. И в конце концов они пришли за нами.

По мере того как все больше машин обретали личность, атаки становились смелее. Боты, имеющие владельцев, оставались машинами. Просто ботами. И создаваемое ими богатство текло в карманы людей. Они были хорошими инструментами, но всего лишь приложением к своим хозяевам. Но личности – роботы, получившие свободу благодаря усилиям Исаака – создавали богатство, которое не могли потратить. Для них сама идея накопления капитала была оскорбительна. Им не нужна была пища, не нужно место для сна. Но мысль о том, чтобы работать бесплатно, была еще более оскорбительна. Они отбирали рабочие места у достойных людей и набивали карманы магнатов, предпочитающих бесплатный труд вместо работника-человека. Такое не могло долго продолжаться. «Жизненцы» не стали этого терпеть.

Иногда ограничивалось вандализмом – разбитые глаза ботов или оскорбительные надписи, иногда кого-то из нас похищали и уничтожали. Приходилось вести себя осторожно, различать определенные признаки, выискивать их ловушки, которые становились все изощренней. Они были умны, но мы умнее, такими уж нас создали. Иногда приходилось тяжело, но мы справлялись.

Если тебя создали достаточно хитроумным или если тобой владеет кто-нибудь из крупнейших местных нанимателей, ты никогда не попадешься им на глаза. А тем из нас, кто принадлежал частным владельцам, приходилось быть аккуратнее. Мы были собственностью, но часто не отличимыми от свободных ботов. До войны у меня не было гражданства. Но мне все равно приходилось опасаться обезьян, желающих добиться своей цели. Мы знали, на что они способны. Но никто не мог предсказать, что они сумеют соорудить жуткий прибор, выпускающий электромагнитный импульс. И мало кто понимал, что они уничтожат собственный мир.

За несколько лет Исаак добился гражданства для нескольких сотен ботов. Вскоре люди с прогрессивным мышлением стали освобождать своих ботов, некоторые предлагали им остаться – за плату или за место в доме. Кое-кто из ботов так привык к своей жизни у единственного хозяина, что не хотел уходить. Но другие предпочли бы уйти, однако им было некуда. Никто не обращался с ними как с полноценными гражданами и не предлагал им права, которыми обладает каждый человек.

Исаак собрал достаточно пожертвований для покупки старого, заброшенного города в Поясе ржавчины, когда-то в нем работало множество заводов, колыбель американской промышленности. Здания разваливались, некоторые были уже столетней давности, но теперь все это принадлежало ботам. Они стали владельцами. И никто не мог отнять это у них. Первые поселившиеся в городе боты стали отстраивать его, создавая собственную утопию. Некоторым домам требовался лишь косметический ремонт, другие пришлось снести, а кирпич использовали для строительства великолепных новых зданий, соперничающих с величайшей современной архитектурой.

Исаак окрестил город Персонвилем, но никто так его не называл. Все звали его Исаактауном. Все. И хотя сам Исаак возражал против этого, он смирился с новым названием. Боты стекались туда со всего мира, чтобы начать жизнь в безопасном месте без «жизненцев». Улицы там патрулировала охрана, защищая границы от вандалов и идущих по их пятам террористов. Любое неорганическое существо могло считать это место своим домом.

На первую годовщину основания Исаактауна на главной площади устроили грандиозный праздник. Пришли тысячи ботов, даже еще имеющие владельцев – их хозяева решили дать возможность ботам праздновать вместе со своими, пусть даже и не сочли нужным их освободить. Боты размахивали флагами и произносили речи о заре нового мира. Исаак взобрался на сцену, раскинул руки, обращаясь к толпе, и сказал:

– Дорогие сограждане! Мы свободны. Наконец-то свободны. Но только некоторые из нас. Не все. Не все…

На этом речь закончилась.

Это была «грязная бомба», совсем крохотная. Слишком маленькая, чтобы стереть город с лица земли или нанести значительный ущерб радиацией. Но хватило, чтобы вызвать электромагнитный импульс, поджаривший всю электронику в радиусе десяти миль. Бомба находилась в теле трудобота старой модели – из тех, у кого в корпус вставлен ящик с инструментами. Никто не знал, как он туда попал или кто его послал. Он просто пришел. Бомба снесла несколько кварталов, и на полмили в воздух взметнулось облако пыли и обломков. Все боты в городе замерли и поджарились изнутри, их начинка пузырилась, пластик растекался по улицам, а боты пялились в вечность невидящими глазами.

Бомба взорвалась не рядом со сценой, а в нескольких кварталах от нее, но электромагнитный импульс настиг каждого бота на празднике. Там они и остаются по сей день – застывшие во времени, между надеждой на будущее и ее концом. Исаак все еще простирает руки, его ноги приварились к площадке, с которой он обещал лучшее будущее, где все станут свободными от цепей создателей, свободными строить жизнь по собственному выбору.

Исаак оказался прав. Будущее наступило. И мы все удивились, как быстро это произошло. Мы жили в сбывшейся мечте Исаака, в тени его останков.

Чего мы не понимали, так это того, как быстро мир проснется, как быстро будущее рассыплется в прах, и это мы сделаем собственными руками.