В нашем с вами современном мире мы воспринимаем технику как нечто, что было создано человеком и для человека. Каждое новое изобретение является лишь средством для достижения конкретных целей. Станки с ЧПУ на предприятиях значительно упростили процесс производства – человеку теперь достаточно лишь контролировать правильное выполнение программы, а не выполнять всю работу вручную. Компьютеры из сугубо научных агрегатов превратились еще и в средство развлечения. Да, они призваны упростить коммуникацию между людьми, но кто из нас хотя бы раз не запускал у себя на ноутбуке или мобильном устройстве игрушку, чтобы просто расслабиться?! А тем временем компании-мастодонты в области информационных технологий соревнуются в том, кто первым создаст настоящий искусственный интеллект. А что же нас ждет, когда им это удастся? Мы словно идем по следам, некогда проложенным писателями-фантастами. И вопрос лишь в том, куда нас эти следы заведут, в прекрасный утопический мир, или мы уже одной ногой в пугающей антиутопии. А ведь об опасностях развития техники нас предупреждают не только фантасты, но и философы. Хайдеггер, например, в своей статье «Отрешенность» затрагивает тему обуздания человечеством атомной энергии и прогнозирует новую эру: «технический прогресс будет идти вперед все быстрее и быстрее, и его ничем нельзя остановить. Во всех сферах своего бытия человек будет окружен все более плотно силами техники. Эти силы, которые повсюду ежеминутно требуют к себе человека, привязывают его к себе, тянут его за собой, осаждают его и навязываются ему под видом тех или иных технических приспособлений — эти силы давно уже переросли нашу волю и способность принимать решения, ибо не человек сотворил их». Ну а теперь давайте посмотрим, что может произойти, если эти слова окажутся истиной.

«Незанятые руки выполняют работу дьявола»

Любые кардинальные изменения в обществе начинаются с самых незначительных вещей. Под видом заботы о людях, внедряются экономически более выгодные технологии. Зачем, скажем, держать в штате уборщицу, платить ей зарплату, оплачивать больничные, если проще запустить робота-уборщика и тратиться лишь на его обслуживание раз в несколько лет. Так постепенно звено за звеном заменяются все сферы жизни человека. А куда же деться всем тем, кто остался без работы? Проблема эта не нова, еще в XIX веке в Англии в ходе промышленной революции появилось движение луддитов. Люди остались без работы, без денег, что в итоге спровоцировало стихийные протесты и разрушения фабрик. Но возможен ли иной исход?

Американский писатель Курт Воннегут после многих лет работы в «General Electric» увольняется и спустя год издает свой первый роман – антиутопию «Механическое пианино» (1952). На своей прежней работе Воннегут занимался написанием статей о новых открытиях лабораторий компании. Он воочию наблюдал за стремительным развитием технологий того времени. И, безусловно, это оставило свой отпечаток и на будущем романе автора. Действие «Механического пианино» происходит в недалеком будущем, где автоматизация достигла небывалых высот. Ручной труд полностью заменяется машинным, оставив обычных работяг на обочине цивилизации. Резко меняется и социальное расслоение, зажиточными классами теперь становятся инженеры (управляющие заводами) и менеджеры. Все остальные по умолчанию относятся к низшим слоям населения, вне зависимости от их прошлой профессии. Безусловно, верхушка власти дает призрачный шанс оказаться нужным обществу. Ты можешь поступить в колледж, сдать выпускные экзамены, и ЭПИКАК-XIV – гигантская сложная вычислительная машина – изучит результаты, составит показатель интеллекта (ПИ), после чего либо найдет тебе место среди элиты, либо отправит через мост к остальным непригодным для нового общества гражданам.

Однако есть и еще один путь – граждане могут пойти на государственную службу, где всегда нужна свежая кровь. Так доктор Холъярд объясняет заморскому гостю, что перед ним не рабы, а свободные граждане на госслужбе: «…любой человек, который не в состоянии обеспечивать себе средства на жизнь, выполняя работу лучше, чем это делают машины, поступает на государственную службу в Армию или в Корпус Ремонта и Реставрации».

Все ли так ужасно, как может показаться на первый взгляд? С переходом на обслуживание машинами, выросла производительность, замечен высокий стабильный рост экономики страны, а люди, по мнению властей, стали счастливее. Ведь у типичного гражданина есть все необходимое: «Две спальни, гостиная с нишей для стола, ванная и кухня <…> Это дом модели М-17. 

Излучающее отопление находится в полу. Мебель сконструирована после тщательнейшего изучения удобств и неудобств жильцов в масштабах всей страны. Дом, мебель и остальное оборудование продаются в стандартной упаковке. Это очень упрощает планирование и производство для удовлетворения любых нужд населения». А вместе с тем дома оборудованы плитами, которые готовят любое блюдо за считанные секунды, стиральными машинами, столь же быстро выполняющими свою работу, а также телевизорами, которые включаются, стоит только перешагнуть порог. Все идеально, жены занимаются детьми и собой, мужчины сидят в барах, а вечерами все смотрят телевизор, где показывают кино о том, что быть человеком с низким уровнем ПИ не так уж плохо. 

И граждане могут даже не работать, все необходимо для жизни им обеспечивает правительство. А если хочется себя побаловать, то для этого выдается тридцать долларов в неделю на семью.

Что же еще нужно для счастья? Всего лишь одна маленькая, но очень важная деталь, которую машина не способна просчитать. Каждый человек хочет быть нужным. Раньше жены если и не работали, то занимались домашними делами, радовали семью вкусным ужином, уставали, но были счастливы. Сейчас же на все уходят считанные секунды, и нет больше цели – муж за ужин благодарит машину, а друг другу они становятся просто еще одной деталью интерьера, поставляющейся в стандартной комплектации. Что теперь делать бывшим рабочим, которые трудились на заводах, сварщикам и токарям, сантехникам и механикам, священникам и профессорам, в мире, где их помощь более никому не нужна? Одни идут в КРРахи, лишь бы быть чем-то занятыми, другие пытаются открыть ремонтные мастерские, но машины делают это лучше и первые разоряются. Молодое подрастающее поколение не видит перспектив и кончает жизнь самоубийством.

А меж тем в барах и подвалах формируются тайные общества, зарождаются искорки революции, которые в итоге перерастают в настоящий неконтролируемый пожар. Желая свергнуть власть машин, народ с яростью и дьявольским ликованием взрывает заводы, почтамты, билетные киоски, автоматы по продаже еды, системы управления светофорами, оставив после себя настоящие руины. 

Но разрушив все, что было, они понимают, что не могут жить без машин, тут и там в переулках вокруг автоматов с напитками собираются мужички и что-то чинят, переделывают и радуются как дети, когда те начинают работать.

Погнавшись за производительностью, в своем стремлении создать идеальное общество, правительство забыло о том, что люди не машины. 

Они живые, у каждого есть чувства и стремления, каждый человек хочет, чтобы его похвалили за хорошую работу. Чтобы оценили труды его творчества. А когда ему говорят, что от него пользы меньше, чем от бездушной груды железа, когда от невозможности быть полезным он опускает руки, тогда нереализованные силы и энергия находят выход в разрушении. Поэтому стоит только дать людям смысл существования, и они простят любое превосходство машины над собой.

«Это не будит мыслей»

Совершенно иной мир читателям показал английский писатель Эдвард Морган Форстер в своей повести 1909 года «Машина останавливается». Ужасная катастрофа на поверхности планеты сделала ее непригодной для жизни. В результате была сконструирована громадная Машина, которая находилась глубоко под землей, и обеспечила людям кров, пищу, защиту от радиации. А вместе с тем создала и идеальные условия для завладевания человеческими умами. Люди теперь живут внутри гигантского аппарата, у каждого своя комната, в которой есть все необходимое, чтобы не было повода лишний раз покидать жилище. Все стены испещрены всевозможными кнопками и выключателями: одна организовывает спальное место, другая позволяет пообщаться с друзьями через видеозвонок, третьи доставляют еду, оказывают медицинские услуги и пр. А если вам нужно что-то не обыденное, для таких целей имеется книжка с инструкциями на все случаи жизни – единственная бумажная книга, существующая в этом обществе. Что же касается прежних эстетических и духовных ценностей – подобного Машина предоставить не могла. Возможно, первые жители еще и пыталось сохранить привычный уклад жизни, они скучали по красоте лесов и гор, по звездам, по морям и океанам, и поэтому тогда еще были популярны воздушные перелеты между удаленными частями подземного мира. Но с тех давних времен сменилось не одно поколение жителей. Новые люди родились и выросли внутри Машины, их на поверхности ничто не привлекает. 

Когда Куно – сын главной героини – делится своими впечатлениями об увиденных во время воздушных перелетов звездах, о земле и горах, мать лишь раздраженно отвечает: «Ненавижу смотреть на эту отвратительную коричневую землю, и на море, и на звезды.

В воздушном корабле мне не приходят в голову никакие мысли». Новое поколение жителей теперь не видит смысла и в живых встречах с человеком. Ведь существует видеосвязь, которая пусть и не передает различий в выражении лица, а только общее представление о людях, но является вполне удовлетворительной для практических целей. Нет больше и коллективных собраний, даже лекции читаются удаленно. Но, тем не менее, люди ведут активную общественную жизнь. И выглядит она примерно так: «Вашти выключила изолирующее устройство, и в комнату ворвались телефонные звонки и голоса: все неотложные вопросы, накопившиеся за последние три минуты, обрушились на нее. Как ей понравились новые продукты питания? Рекомендует ли она их для широкого потребления? Не появились ли у нее за последнее время какие-нибудь новые идеи? Нельзя ли поделиться с ней собственными мыслями?». Если присмотреться, это очень напоминает современную жизнь в сети Интернет, в социальных сетях и блогах. Люди делятся новыми мыслями, которые у них родились, в мире, где изо дня в день ничего нового особо-то и не происходит. У главной героини абсолютно нет времени, она все время куда-то опаздывает. Когда Куно все же убедил ее прилететь на встречу с ним, все мысли Вашти были о доме. Ее там ждет множество вопросов, на которые необходимо ответить, друзья с которыми нужно поделиться новыми мыслями. А вот встреча с сыном совсем «не будит мыслей». Попытка Куно обнять родную мать, вызывает у нее отвращение, как и любые слова о путешествии на поверхность.

Само поведение сына по ее мнению противоречит духу времени.

Дивный новый мир действительно сформировал иные ценности, иные нормы поведения, иную философию общества. Под видом якобы научных лекций ораторы подменяют исторические факты, задают моду, призывают избавляться от лишних чувств, от стремления к познанию истинных смыслов. Так один из уважаемых лекторов говорит следующее: «Пользуйтесь заимствованными идеями, идеями из вторых, а еще лучше из десятых рук, ибо в этом случае они будут очищены от таких нежелательных наслоений, как непосредственное восприятие». А следом за ним другие призывают к преклонению перед Машиной. По их мнению, она не просто дает кров и средства связи, но и стимулирует мысли, искореняет предрассудки. Люди действительно верят, что Машина всемогуща и будет существовать вечно. Такая пропаганда и искажение реальности привела к тому, что в обществе не осталось настоящих специалистов в той или иной области науки. Жители подземного мира превратились в доведенное до абсурда общество потребления, беспомощную биомассу. И неудивительно, что никто не верил, что когда-нибудь их механический Бог может погибнуть. Но Машина всего лишь автоматизированный механизм, которому требуется регулярное обслуживание. Создатели предусмотрели и это, в Машину была встроена система саморемонта.

А вот на случай поломки этой системы уже требовалось человеческое вмешательство. Вот только последние хранители этих знаний давно мертвы, а новое общество изучает пересказы впечатлений от рассказов научных фактов и банально не способно применить свои бесполезные знания на практике. 

И когда из-за незначительной поломки в системе саморемонта настал день гибели их мира,  людям ничего не осталось, как просто наблюдать за медленным угасанием Машины. Сначала проявились незначительные помехи при прослушивании музыки, но люди быстро привыкли к этому и стали воспринимать как должное. Затем шум при звонках друзьям, что тоже вызывало первое время раздражение, а потом было принято, как естественный ход вещей. Люди адаптировались к неудобствам с удивительной легкостью, лишь бы не признавать очевидное. И только отключение жизнеобеспечения действительно вызвало панику, но бежать было уже некуда. Их тела от малоподвижного образа жизни стали слабы, воля их была сломлена. Машина превратила Эдем в братскую могилу. И стала памятником человеческой глупости.

«Вперед навстречу прошлому»

Удержать власть в быстроменяющемся мире очень непросто. Правительство прибегает к самым разным ухищрениям, от промывки мозгов, до банального паразитирования на чувстве страха. Именно последним способом и воспользовалась власть республики в произведении «Генезис 2075» (2006) Бернарда Беккета. Стоит отметить, что само произведение выстроено не совсем обычно. Читатель наблюдает за экзаменом главного героя на должность в Академии. Это своеобразный диалог, в процессе которого мы по крупицам собираем информацию о том, как сформировалась республика, как она менялась, и лишь в самом конце узнаем, куда все это ее привело. Многие детали остаются нераскрытыми, да и сам мир постепенно отходит на второй план, уступая место повествованию о двух личностях. И все же давайте попробуем разобраться в истории расцвета и падения одного из последних оплотов человечества. 

Беккет показывает нам мир недалекого будущего, где на протяжении десятилетий нарастает политическая нестабильность. США ведет войны на Ближнем востоке, только стимулируя тем самым разгул терроризма, к середине XXI века политическое влияние Европы слабеет. 

Но, как известно, стоит кому-то показать слабость, его место займет более сильный игрок. Так на политической арене в лидеры начинает пробиватьсяс Китай. Он ведет весьма агрессивную дипломатическую политику и становится главным конкурентом США. Меж тем экономический рост угрожет экосистеме планеты: резко сокращаются формы жизни, в некоторых регионах появлялись пугающие пылевые бури, активно продвигается Модель Ускоренного Изменения Климата. Как результат в 2050 году началась мировая Последняя Война. Однако был в этом мире один человек с большими деньгами, связями и с удивительными чувством предугадывать катастрофу. Еще до начала войны промышленник Платон скупил группу островов на самом юге планеты. И к тому моменту, когда ситуация в мире стала ухудшаться, промышленнику удалось уговорить жителей укрепить оборону островов. Так возводится Великий Морской Заградительный Вал, защитивший население островов не только от ужасов войны, но и от распространившейся всепланетной чумы. Неизвестно, что привело к ее появлению, но гражданам «республики Платона» на причины было наплевать. Они благодарили его за спасение их жизней и верили в его политику. Заградительный Вал прекрасно выполнял свою работу, уничтожая любую лодку или летательный аппарат, показавшийся на горизонте.

И вот мы снова видим, как удачно складываются обстоятельства для тотального контроля над жителями республики. Социум полностью изолирован; угроза внешнего мира пропагандируется на высшем уровне, усиливая страхи граждан; жителям прямо говорят об их долге перед государством.

Так Платон заявляет: «Государство вас спасло <...> Теперь настал ваш черед спасти государство». Под этим лозунгом совет республики провозглашает пять угроз стабильности обществу: нечистая кровь, нечистые мысли, личностные привилегии, торговля, угроза внешнего мира. И немедленно реформирует прежний уклад жизни. Теперь людей делят в зависимости от их генома на четыре сословия: рабочих, техников, солдат и философов. Детей после рождения отбирают у родителей, через год проводят пробы генома и определяют в одно из сословий, либо уничтожают. Однако за хорошие успехи в учебе и работе гражданин республики может попасть в более привилегированное сословие, за исключением философов. Философами рождались, и именно они управляли всем государством, они решали, каким станет будущее жителей. Браки в этом мире разрешались, но жили мужчины и женщины отдельно, а право на встречи отрабатывали. Вырисовывается вполне типичная антиутопическая картина, где страх заставляет преклоняться перед советом республики.

Меж тем многие философы в искреннем стремлении сделать общество лучше, пытаются разработать такой искусственный разум, который служил бы человеку, выполнял бы всю физическую работу. Похвальное стремление, но как мы знаем из научно-фантастических книг, игра с искусственным разумом дело крайне опасное. Впрочем, общество само было радо обещаниям правительства о лучшем будущем. Государство разворачивало целые пропагандистские кампании, в духе «Ваши дети не будут Рабочими». Но чем громче были заявления, тем оглушительней оказывался провал. Одно за другим испытания проваливались, гибли люди. Жители стали сомневаться в своих вождях. Им обещали лучшую жизнь, благодаря мудрым и заботливым философам. Но обязанности Рабочего сословия так и остались на самих жителях. Однако философу Уильяму удалось создать рабочий прототип искусственного разума, которому требуется лишь обучиться всему от самого человека.

Приблизительно с этого момента мы практически ничего не знаем о том, что творится в республике, акцент переключается на созданного Уильямом робота Арта и заключенного Адама –

первого революционера в республике, который теперь обязан изо дня в день разговаривать с роботом.

Будучи философом по геному, Адам еще в юношестве был переведен в сословие солдат за нарушение республиканских устоев и общественных запретов. Но настоящим преступлением стало спасение здоровой девушки из внешнего мира, которую он должен был убить. Он разрушил самую главную пропагандистскую машину – страх, что за стенами все еще чума. Это могло бы подорвать всю стабильность республики. Философы требовали казни Адама, но жители отказались признавать его виновным. В этой битве власти проиграли, но философ Уильям предложил иной вариант. Адаму сохранили жизнь, более того, людям дали понять, что существует рабочий прототип искусственного разума и скоро благодаря их кумиру-революционеру государство станет лучше. Хрупкий мир республики удалось сохранить.

Оставшаяся часть книги посвящена бесконечным выдержкам из бесед Адама и Арта, их спорам, капризам и ребячествам. И все меняется лишь в самом конце, когда мы снова осознаем, каким стало будущее спустя много лет после этого эксперимента. Арт не просто обучался, но и впитывал идеи Адама как губка, отчасти сама личность мужчины передалась роботу, что позволило последнему нарушить законы Уильяма и пойти против человека. Машина взбунтовалась, как некогда сам Адам, она пошла против заложенной в нее системы. Арт скопировал в сеть свой код и начал массовое производство самого себя. Так мы узнаем, что началась Великая Война человека и искусственного интеллекта. Люди пытались предотвратить процесс воспроизводства, уничтожить на корню искусственный разум, последний лишь пытался спасти себя от агрессии со стороны людей. Сложно сказать, есть ли в этой войне правые и виноватые, каждый просто боролся за жизнь. Но, увы, человечество проиграло эту войну и ныне республикой Платона правят механизмы с искусственным разумом. Таким Беккет показал нам вероятное будущее. Люди так бежали от войны, что готовы были пожертвовать личной свободой ради спасения жизни, но в конечном счете оказались в эпицентре еще более страшной битвы. А может быть, машины окажутся гуманнее своих создателей. 

Так в финале один из роботов говорит следующие слова: «Во-первых, андроид не может сознательно причинить вред другому разумному существу. Во-вторых, андроид никогда не возжелает самовоспроизводства как самоцели. Мы избавлены от основных слабостей, ставших проклятием человеческого рода, и благодаря этому можем существовать в гармонии, недоступной никакому другому живому существу на планете».

Все три произведения написаны с интервалом почти в полвека. Но проблемы поднятые Форстером в далеком 1909 году с новой силой становятся актуальными и сейчас. Наша повседневная жизнь окружена компьютерами и всевозможными гаджетами, мы практически живем в сети, где информация искажается, слухи распространяются за считанные секунды и порой так сложно отыскать истину. Но при этом мы не страшимся Воннегутовской автоматизации, ведь с новыми технологиями появляются и новые специальности, в нашем мире все еще каждому человеку есть чем заняться. А вот взгляды Беккета, жителя XXI века, нам очень даже близки. Политический бардак во всем мире, IBM стремится создать искусственный интеллект. Остается лишь надеяться, что наше будущее к 2075 году окажется не таким мрачным. И кто знает, может быть, впереди нас ждет настоящий киберпанк У. Гибсона. Но об этом мы поговорим в следующий раз. ■

Алексей Рожков