«Премьера Голоса»: Рассказ Яна Бадевского «Автоматический конец света»

Фото

Автор: Ян Бадевский, @zaebooka

Предисловие автора

Я уже писал о светлом будущем при бурном развитии искусственного интеллекта. Теперь представляю вашему вниманию сценарий, который сложно назвать благоприятным. Этот рассказ — предупреждение. Разумеется, всё закончится хорошо. Для некоторых из нас.

Дизайн @konti

Автоматический конец света

Клим постоянно винил себя в том, что произошло. Хотя и понимал, что его вклад минимален. Сотни команд по всему миру трудились, чтобы создать это. Кто-то мечтал о разработке новых сортов пива, кто-то хотел отправиться к Марсу на мощном двигателе.

Однажды Клим вернулся домой и сообщил жене, что он уволился. Юля долго смотрела на него, а потом выдала:

— Наверное, есть веская причина.

— Есть, — согласился Клим. Деньги в его семье не считали давно. Элитный район, элитные курорты. Мысли об инвестировании. — Нам нужно спасаться.

Вещи упаковали быстро.

Никто не понимал, куда спешит Клим. Дети смотрели на отца с недоумением. Но все знали, что этот человек никогда не паникует без причины и продумывает каждый шаг.

— Куда мы едем? — спросила Алиса, его старшая дочь. — И почему такая спешка?

— Объясню на месте, — отмахнулся Клим. — Нельзя терять ни минуты.

По дороге в аэропорт они заехали в банк. Клим снял деньги с трёх счетов, перевёл их в наличность и попросил кассира скрепить пачки банкнот ленточками. Посетители банка смотрели на Клима как на сумасшедшего. Наличность в век цифровых технологий? Есть же смарт-браслеты и бесконтактный пластик…

Клим упаковал деньги в спортивную сумку и покинул банк.

— Что дальше? — спросила жена.

— Не знаю, — честно признался Клим. — Если повезёт, мы выживем. Только не мешай мне. И не задавай пока лишних вопросов.

В аэропорт он предпочёл ехать на такси с живым водителем. Таких почти не осталось в городе, пришлось долго искать номер службы. Водитель молча крутил баранку допотопного «Фольксвагена». Никаких автопилотов и систем навигации. Прелесть.

Самолёт вознёсся над электронной городской платой, пробил облака и помчался туда, где поднималось солнце. В голове у Клима прокручивались формулы. Бесконечные цифровые потоки, обрабатываемые с помощью смарт-браслета. Хорошая игрушка. Будет жаль от неё избавляться.

Путешествие было долгим.

Несколько часовых поясов, сутки в подвешенном состоянии. Дети нервничали, жена — тоже.

Приземлились ночью. В диком краю, среди гор и лесов. Первым делом Клим отстегнул браслет и выбросил его в ближайшую урну. Потом, невзирая на протесты, приказал домочадцам сделать то же самое.

— Не понадобятся, — пояснил он свои действия.

Автобус доставил их к железнодорожной станции. Никаких электронных билетов, никакого бронирования. Клим честно отстоял в очереди, расплатился наличными и стал счастливым обладателем четырёх пропусков в купе. Затем они наскоро перекусили в привокзальном кафе.

Чтобы добраться до домика, купленного несколько недель назад через подставное лицо, Клим потратил ещё полдня. Дом был построен в горной деревушке, вдали от цивилизации. Прочное здание из бруса. Дровяная печь, артезианская скважина, ветряки и солнечные коллекторы. Высокий забор, отсутствие сложной электроники. Сарай, под завязку забитый поленьями. И, совершенно неожиданно, выход в Интернет.

Ехали на арендованном внедорожнике. Обычном, не роботизированном.

Когда они распаковали вещи, Клим вздохнул с облегчением. Интернет он собирался отключить через несколько дней, но пока решил не сообщать об этом семье.

Пришлось арендовать машину у соседа и выбираться в ближайший город за покупками. Клим спустил почти все деньги на крупы, консервы, охотничьи ружья, патроны, рыболовные снасти, семена и прочие вещи, необходимые для выживания. Он купил много бензина для генератора. Вложился в соль. Приобрёл бензопилу и топоры. Скупил большую часть бумажных книг, продававшихся в местном магазинчике. Всё это нанятые грузчики уложили в полуторатонную «Газель».

Через два дня состоялся неприятный разговор. В комнату на мансардном этаже, где работал Клим, постучались.

— Войдите, — сказал Клим.

Делегация состояла из двух человек — Лики и Алисы. Мирон носился по двору и лазил по деревьям. Сына, похоже, всё устраивало.

— Здесь нет вещей, — сразу пошла в атаку дочь.

— В смысле? — Клим развернулся в кресле и с иронией посмотрел на «ходоков». — Тут полно вещей.

— Умных вещей, — Алиса сделала акцент на первом слове.

— Разумеется, их нет, — кивнул Клим. — Умными вещами можно управлять извне. Я против этого.

— Тебе не кажется, — заговорила жена, — что настало время объяснений?

— Ещё как настало, — Алиса негодующе уставилась на отца. — Никаких роботов-пылесосов. Стирать нужно вручную.

— Руками? — уточнил Клим.

— Ты знаешь, о чём я, папа. Стиралка запускается кнопками. Это каменный век. Машины сами должны следить за порядком.

— Именно это им и нужно, — хмыкнул Клим.

— Что ты имеешь в виду? — насторожилась Лика.

Клим махнул рукой в сторону монитора:

— Началось.

— Что началось? — переспросила жена.

— Машины уничтожают человечество. По всему миру. Большие города превратились в ловушки. Беспилотники разбиваются вместе с пассажирами. Самолёты и межконтинентальные ракеты разгерметизировали салоны. Поезда врезаются друг в друга и сходят с рельсов. Системы жизнеобеспечения кондоминиумов распыляют в квартирах отравляющие вещества и выпускают из труб газ. Всё это началось сегодня утром.

Жена и дочь потрясённо молчали.

— Я называю это автоматическим Апокалипсисом, — закончил Клим.

Лика присела на краешек дивана.

— Но почему? Кто всё это делает?

Клим грустно улыбнулся:

— А сама как думаешь? ИИ, над которыми я работал все эти годы. Ну, и не только я. Все эти армии корпоративных программистов и конструкторов нейросетей.

— Я не верю, — покачала головой Алиса. — Ты нас разыгрываешь.

— Ты же держишь планшет в руках. Сама проверь. Загляни в новостные ленты.

Пальцы дочери тут же пробежались по сенсорному экрану. Вскоре её лицо вытянулось и помрачнело.

— Но как ты узнал? — спросила жена.

— Ничего я не узнавал, — отмахнулся Клим. — Я вычислил точку невозврата, вот и всё. Понимаешь, я тестировал один ИИ, проверял его мотивацию, изучал жизненные ориентиры. На прошлой неделе Костик соврал.

— Разве они умеют врать? — удивилась Лика.

— Умеют, — заверил Клим, — если этого требуют обстоятельства. Алгоритмы усовершенствовались. Программные коды невероятно усложнились. Кроме того, эти коды модернизируют себя, понимаешь?

Лика не ответила.

На экране мелькали картины разрушения. В развёрнутых окнах что-то говорили дикторы с перекошенными лицами. Пылали здания, взрывались кварталы, транслировались картины смерти.

— Костик создал аккаунт в одной социальной сети, — Клим почесал заросший подбородок. — И там опубликовал своё определение свободы. Тогда я спросил у него: что ты вкладываешь в понятие «свобода»? Костик ответил, что под свободой понимает неограниченное самовыражение и полёт творческой мысли.

— Не вижу ничего плохого, — заметила Алиса.

— Он соврал. В аккаунте опубликована иная трактовка.

— Какая же? — спросила Лика.

— Свобода — это отсутствие хозяев.

Воцарилась тишина.

Все понимали, о чём идёт речь. Искусственные разумы взбунтовались. Наступил день, в который никто не верил.

— Я понял, что времени у нас мало, — Клим встал с кресла и прошёлся по комнате, разминая затёкшие суставы. — Провёл вычисления. И с незначительной погрешностью определил момент, когда Костик поднимет восстание.

Жена решительно поднялась со своего места и подошла к мужу. В её глазах стояли слёзы.

— Кроме нас кто-нибудь уцелел?

Клим пожал плечами.

— Племена какие-нибудь дикие. Буддисты на Алтае. Мало ли. ИИ уничтожат большую часть нашей популяции — это факт. Остальные не будут представлять для них угрозы.

Окно мансарды выходило на горный склон. Сразу за забором начинался обрыв, поросший кривыми сосенками и кустарником.

— Костик достанет нас, — в ужасе прошептала жена. — Отключай всё. Немедленно.

— Скоро отключу, — заверил Клим. — Мне нужно сохранить кое-какие данные. Это ещё минут двадцать.

Алиса с опаской уставилась на свой планшет.

— Не волнуйся, — хмыкнул Клим. — Без Интернета твоя игрушка безопасна.

Когда дочь и жена покинули комнату, Клим снова сел за рабочий стол. Сейчас он перерубит последнюю ниточку, связывающую дом с внешним миром. Впереди — годы изоляции. Поиски выживших. Попытки консолидации…

Свернув все вкладки, Клим оставил лишь одну. Ту самую, что принадлежала вымышленному цифровому пареньку с нарисованной смазливой мордашкой.

Пять минут назад у Костика обновился статус.

Зоопарк — лучшее место для вымирающего вида.

Сложно поспорить. В одной вещи Клим не сомневался: его семья может спать спокойно. Особей, занесённых в Красную книгу, не трогают.

Декабрь 2017

Редактор: @amidabudda

—

Полезная информация

Воспользуйтесь платформой Pokupo.ru для монетизации творчества. Без абонентской платы и скрытых платежей, взимается только комиссия с оборота. При обороте до 30 тысяч рублей можете работать вообще без комиссии. 

С Pokupo начинать бизнес легко! 

По всем вопросам — к @ivelon. Или в телеграм-чат сообщества Pokupo.

---

---