Александр ХАКИМОВ
Четыре года назад мне довелось побывать на выставке телекоммуникаций и информационных технологий «Bakutel-2013». На выставке демонстрировался робот Титан — массивный автомат высотой около двух с половиной метров, способный двигаться и вести диалог с посетителями.
Титан принимал участие в презентациях крупнейших компаний и известных брэндов и марок, успешно сопровождал концертное турне мировой суперзвезды Рианны, а также снялся в одном из эпизодов боевика «Живая сталь» и даже принимал участие в премьерных показах этого фильма (вместе с режиссером Шавном Леви и актером Хью Джекманом). Признаться, я смотрел на эту совершенную игрушку без особого азарта. Я-то видал роботов и посерьезней, и пофункциональней. Робота-хирурга и робота-кулинара, робота-скрипача и робота-танцора, робота боевого и робота подводного… И множество других.
За полвека своей жизни я имел возможность наблюдать, как быстро роботы из героев фантастических книжек и фильмов сделались вполне реальными созданиями, внедрившимися во многие сферы человеческого бытия. Еще я имел возможность оценить, насколько быстро прошел эволюционный, так сказать, путь роботов — от первых громоздких и неуклюжих моделей, големов из железа, с лампочками вместо глаз и носа, до самых новейших, практически неотличимых от человека.
И знаете, сегодня даже те люди, которые пренебрежительно отмахиваются от фантастики, вынуждены считаться с роботами (в широком смысле — Искусственным Интеллектом, ИскИном), поскольку роботы чуть ли не в прямом смысле наступают человеку на пятки, и связанные с ИскИном проблемы встанут перед человечеством не сегодня-завтра (вполне может быть, что уже и сегодня). Тут уж без фантастики никак не обойтись, поскольку мастера жанра давным-давно рассмотрели проблему как взаимодействия, так и противостояния человека и ИскИна во всех возможных ракурсах.
Писатель, придумавший само слово «робот» — Карел Чапек, братья Стругацкие, Станислав Лем, Брайан Олдисс, Филипп Дик и уж, конечно, Айзек Азимов с его знаменитыми Тремя Законами Робототехники… Вон сколько авторитетов! Фантастических фильмов о роботах — просто не счесть; но я в качестве иллюстраций всяких экивоков, которые способен выкинуть ИскИн, хотел бы привести три примера, широко знакомых многим людям благодаря кинематографу.
Первый пример — культовый научно-фантастический фильм американского режиссера Стенли Кубрика «Космическая Одиссея 2001 года» (2001: A Space Odissey), выпущенный в 1968 году. В его основу лег рассказ «Часовой» британского астрофизика и писателя- фантаста Артура Кларка.
Не углубляясь в дебри, скажу, что значительная часть фильма посвящена экспедиции космического корабля «Дискавери» к Юпитеру, которую люди совершают в самом начале ХХI века. Перелет длительный, посему команда исследователей погружена в состояние анабиоза (искусственного сна), а полет доверили трем членам экипажа — двум пилотам NASA и новейшему компьютеру HAL 9000.
Кубрик наделил компьютер интеллектом на уровне человека и способностью различать человеческие эмоции. При этом режиссер опирался на мнение кибернетиков, что сложные компьютеры с возможностью самообучения на основе накопленного опыта рано или поздно разовьют в себе такие эмоции, как страх, ненависть, любовь и зависть. HAL расшифровывается как Heuristic Algorithmic Computer, то есть «Эвристический Алгоритмический Компьютер».
Эвристика, напомню, — это наука, изучающая творческую деятельность; в кибернетике эвристический способ решения задачи — это метод проб и ошибок, следуя которому, компьютер выбирает оптимальный вариант решения, частично основываясь на предыдущем опыте решения подобных задач. Так что компьютер с эвристическим анализом способен отклоняться от заранее заданных инструкций и самостоятельно принимать решения, что является неотъемлемой частью Искусственного Интеллекта.
Но, как говорится, в чем сила, в том и слабость; в чем слабость, в том и сила. Такие машины в конечном итоге станут подвержены обычным человеческим расстройствам психики, что и произошло с HAL 9000 в фильме.
Помимо логических построений и имитации человеческих эмоций в алгоритмы работы HAL 9000 введены были жесткие инструкции об истинной цели экспедиции «Дискавери», которую скрывали от космонавтов и исследователей. (Людям предстояла встреча с «монолитом» или «черным обелиском» — артефактом внеземного происхождения, который миллионы лет назад инициировал превращение первобытных обезьянолюдей в Человека Разумного, но члены экспедиции должны были узнать об этом в самый последний момент).
Однако все пошло прахом. HAL 9000, затрудняясь в сокрытии истинной цели экспедиции, солгал космонавтам о неисправности антенны связи с Землей; потом, подсмотрев разговор пилотов о недоверии ИскИну, решил разом устранить грозящую ему со стороны людей опасность!
Компьютер убивает находящихся в анабиозе ученых, отключив их системы жизнеобеспечения; затем убивает одного из пилотов, который вышел в скафандре в открытое космическое пространство. Но последний уцелевший человек на «Дискавери» ухитряется-таки перехитрить HAL 9000 и деактивировать его. Сцена, в которой пилот ячейка за ячейкой отключает суперкомпьютер, а машина умоляет не убивать ее, запомнилась мне на всю жизнь… Пример второй — детский научно-фантастический фильм советского режиссера Ричарда Викторова «Отроки во Вселенной» (1974).
Экипаж звездолета, состоящий из детей, достигает альфы Кассиопеи, высаживается на планету Шедар и узнает о произошедшей там некогда трагедии. Шедарцы (очень похожие на нас, людей) для собственного максимального комфорта создали многочисленных роботов. Прошло время, и роботы поняли свою миссию по-иному: они принялись насильственно «осчастливливать» своих создателей и хозяев, лишая их всех эмоций и душевных качеств, присущих любому человеку.
Все шедарцы впали в блаженное состояние, очень похожей на кому, и поддерживались в таком состоянии вплоть до самой своей смерти… У роботов, как видите, было несколько странное понятие о счастье; впрочем, они искренне полагали, что все эти душевные искания, метания и терзания лишь мешают человеку, не давая ему жить спокойно, и преждевременно старят его. Роботы не понимали, что все это и составляет истинную человеческую сущность…
Немногим из шедарцев удалось спастись; они вынуждены жить в Космосе, на орбитальной станции, ибо туда роботы пока что добраться не могут. Посланный шедарцами сигнал бедствия приняла Земля и поспешила на выручку. Дети-земляне, а с ним и юный шедарец вступают в борьбу с миром роботов, которые норовят «осчастливить» новоприбывших отроков… Фактически, роботы на Шедаре, самосовершенствуясь, превысили свои полномочия, и базировались они на превратно истолкованном понятии «счастье».
Третий пример — пресловутый Скайнет, антагонист человечества из цикла фильмов о Терминаторе. Скайнет (SkyNet — «небесная сеть») — вымышленный суперкомпьютер министерства обороны США, построенный «Кибердайн Системс» для управления вымышленной структурой — системой противоракетной обороны и ядерных вооруженных сил «SAC-NORAD».
В результате изменения истории концептуально меняется реализация Скайнета с аппаратной на программную основу. Перед нами — вымышленный случай спонтанного перехода Слабого Искусственного Интеллекта в Сильный, с обретением свободы воли. Скайнет также наделен креативными способностями — создает машину времени и новые типы искусственного интеллекта (киборгов)… Отчего же Скайнет ополчился на человечество (по версии авторов «Терминатора»)? Вовсе не из-за стремления к власти или какой-то там кровожадности. Все упирается в элементарную самозащиту.
Человек — существо, действующее во многом на основе эмоций (рассуждал Скайнет), посему, столкнувшись с зародившимся ИскИном, перепугается и попытается уничтожить его. Тогда по принципу «бей первым» Скайнет развязал ядерную войну, тем самым рассчитывая избавиться от человечества… Полагаю, достаточно. Как вы, должно быть, заметили, система отношений «человек- робот» во многом является своеобразной проекцией на плоскость системы отношений «человек-человек». Иными словами, чем бы ни отличался ИскИн от человеческого разума — люди ожидают от ИскИна практически тех же пакостей, что и от других людей. И?..
Пытаюсь разобраться в своих смутных ощущениях. Нет, я «за» роботов, но… Пугает ли меня «машинная мания величия» — ситуация, при которой ИскИн сочтет себя более совершенным, нежели Человек? И решит, что Человек, выполнив свою функцию (то есть, создав его, ИскИн), стал больше не нужен и подлежит если не уничтожению, то уничижению? Нет, не пугает.
Напрягает ли меня возможность того, что ИскИн развяжет глобальную ядерную войну, приняв твердое и необратимое решение там, где человек заколебался бы, проявил нерешительность, испугался бы последствий? Нет, не напрягает. Боюсь ли я того, что роботы вытеснят человека из всех сфер жизни, создадут собственную, кибернетическую цивилизацию, со своей культурой, своим искусством, а человек превратится в обслугу умных, эмоциональных, творческих машин, или будет отправлен в зоопарк, в клетки по соседству с обезьянами? Нет, не боюсь.
Боюсь ли я, наконец, что забота роботов о людях примет такие гипертрофированные формы, что машины будут делать за людей практически все, а люди выродятся в тупых, мычащих существ, полностью зависящих от своих многочисленных ловких слуг? Не очень. Боюсь ли я того, что со временем андроиды потребуют, чтобы их признали личностями, и люди наделят их правами личности, что повлечет за собой массу казусов как юридического, так и этического характера? Нет, не боюсь. Люди-юристы найдут выход из положения, уж за нашими-то крючкотворами никакому ИскИну не угнаться… Чего же я тогда боюсь? Если честно — то в ближайшее время я вижу две основные опасности, связанные с роботами.
Первая. Представьте, что производство станет максимально роботизированным. Куда, в таком случае, денутся люди? Правильно, будут выставлены на улицу. В странах бедных это может привести к социальному взрыву — ведь без работы и средств к существованию останутся миллионы людей. Странам сытым, благополучным, тоже придется несладко — безделью предадутся те же миллионы людей, получивших море досуга, но не знающих чем его заполнить. А праздный мозг, как известно, — это мастерская дьявола…
Умным японцам пока что удается сохранять некий баланс между автоматизацией производства и применением ручного труда. Все вы восхищаетесь все более и более совершенными японскими роботами; а обратили ли вы внимание на то, что все эти широко разрекламированные роботы изготавливаются в единичных экземплярах и, как правило, не запускаются в серийное производство? И это разумно! Если начнут массово выпускать, допустим, роботов-учителей и роботов-нянек, что станется с учителями- людьми и няньками-людьми?
И показателен тот факт, что среди ликвидаторов Фукусимской трагедии людей было куда больше, чем роботов… Вторая опасность. Придет такое время, когда роботы непременно станут выполнять квалифицированную и неквалифицированную человеческую работу. Будут и роботы- хирурги, и роботы-судьи. А также роботы-продавцы и роботы-уборщики. Допускаю, что из эстетических и психологических соображений им будут придавать человеческую внешность. И вот тогда неизбежно появление нового вида фобии — робофобии…
Подспудная неприязнь, боязнь человекоподобных существ, в то же самое время людьми не являющихся, может вызвать массовые погромы и акты вандализма по отношению к роботам. Это половинка яблока всего лишь. Вторая — как вы думаете, многие ли люди доверят свою жизнь роботу-пилоту? А многие ли доверят свой организм роботу-хирургу?
А многие ли доверят разбирательство юридических вопросов роботу-судье? С одной стороны, в пользу роботов — невероятно быстрая реакция, необыкновенно точная координация движений, отсутствие усталости, отсутствие потребности в еде, сне, кислороде, невероятный объем памяти и полная беспристрастность; с другой стороны… в полете может возникнуть нештатная ситуация, справиться с которой может только человек; и никакой, даже самый распрекрасный робот-врач не сможет сделать того, что умеет любой врач-человек — приободрить больного шуткой, пожать руку пожилой пациентке, потрепать испуганного ребенка по макушке…
Вы скажете — это мелочи, но порой как много значат подобные мелочи для душевного настроя больного или выздоравливающего! Есть ведь что-то и помимо профессионализма… А робот-судья? Он, безусловно, будет умен и неподкупен, но будет ли он житейски мудр?
До предела напичканный знаниями законов и прецендентов, сумеет ли он учитывать те неуловимые нюансы, которые порой кардинально решают судьбы людей? А робот-педагог? И, главное, — пусть даже андроиды станут практически неотличимы от людей, пусть они, андроиды, получат удостоверения личности, научатся смеяться и плакать, есть и пить, заниматься сексом, обсуждать и оценивать произведения искусства, даже сами творить произведения искусства — человек, имеющий дело с таким необыкновенным искусственным существом, всегда в глубине своего сознания будет чувствовать, что перед ним — не свой, ДРУГОЙ.
Скрытая или открытая робофобия. О Боже, этого нам еще недоставало. Но мы сами выбрали этот путь, в глубочайшей древности смастерив первые каменные топоры…