своего изумления. Сидя в соседней комнате, они все видели через прозрачное с
их стороны стекло.
   - Поразительно! - воскликнул Моррис.
   Сотрудники "Развития" ничего не сказали. Наконец один из них  прокашлялся
и добавил:
   - Мягко говоря.
   Моррис примерно представлял себе, о чем они сейчас думают. Долгие годы их
учили  проводить  исследования,  связанные  с  вероятностным   коэффициентом
заболеваемости,   с   прикладным   потенциалом   возможных   результатов   и
промышленного  применения  экспериментов  и  тому  подобное.   Их   приучили
принимать в расчет будущее состояние науки  -  и  вдруг  они  столкнулись  с
настоящим.
   - Этот парень просто электроголик! - заметил один из них со вздохом.
   Концепция электроголизма не так  давно  вызвала  определенный  интерес  и
стала предметом дискуссий в академических кругах.  Понятие  электроголика  -
человека, нуждающегося в электрошоке,  как  другие  люди  нуждаются  в  дозе
наркотиков, - казалось просто-напросто плодом чистой фантазии. Но вот  перед
ними  предстал  человек,  являвший  собой  типичный  пример   потенциального
электроголика.
   - Электричество - самый сильный кайф! - сказал  другой  и  засмеялся.  Но
смех был нервный, почти натужный.
   Моррис  подумал,  что   сказал   бы   Макферсон.   Возможно,   что-нибудь
философическое.  Макферсон  в  последнее  время  интересуется   философскими
проблемами.
   Идея электроголизма была связана с поразительным открытием,  сделанным  в
1950-е годы Джеймсом Олдсом. Олдс обнаружил, что в мозге существуют области,
электрическая   стимуляция   которых   продуцирует   интенсивные    ощущения
наслаждения - эти участки мозгового вещества он назвал  "реками  воздаяния".
Если крысе поместить в этот участок мозга электрод, она могла нажимать рычаг
для стимуляции электрошока до пяти тысяч раз в час.  В  своем  стремлении  к
удовольствию крыса была  готова  забыть  о  пище  и  воде.  Она  переставала
нажимать на рычаг, только дойдя до последней степени истощения.
   Этот поразительный  эксперимент  затем  повторялся  с  золотыми  рыбками,
морскими свинками, дельфинами, кошками и козами. И наконец уже ни у кого  не
возникало сомнения, что "терминалы удовольствия" присутствуют в  мозге  всех
живых существ. Они также имелись и в человеческом мозге.
   Из  этого  заключения  и  возникло  понятие  "электроголик"  -   человек,
нуждающийся в постоянном удовольствии  от  электрического  шока.  На  первый
взгляд, предположение,  что  человек  может  превратиться  в  электроголика,
казалось  невероятным  и   невозможным.   Но   в   действительности   ничего
невозможного в этом не было.
   Например,  технологическое  оборудование  в  настоящее   время   является
довольно  дорогостоящим,  хотя  это  никому  не  выгодно.  Но  разве  нельзя
представить  себе,  что  какая-нибудь  оборотистая  японская  фирма   начнет
производить нейроэлектроды стоимостью в два-три доллара и экспортировать  их
по всему миру?
   Идею нелегальной  операции  также  нельзя  считать  чем-то  из  ряда  вон
выходящим. Было время, когда  до  миллиона  американок  в  год  делали  себе
подпольный аборт.  Имплантация  электродов  в  мозг  немного  более  сложная
процедура, но не настолько, чтобы быть абсолютно невозможной.  А  в  будущем
хирургические  методики  будут  стандартизованы.   Так   что   можно   легко
представить себе клиники, открывшиеся где-нибудь в Мексике или на Багамах.
   Поиск хирургов для проведения подобных  операций  также  не  представляет
собой  неразрешимую  проблему.  Один  квалифицированный  нейрохирург   может
проводить до пятнадцати операций в день. Он, конечно, будет брать за  каждую
операцию по тысяче долларов, - а нещепетильных хирургов с  такими  запросами
найти, конечно же, нетрудно. Сотня тысяч долларов наличными в неделю  -  это
слишком сильное искушение нарушить закон. Если, строго говоря,  такой  закон
вообще существует.
   Похоже, что нет. Год назад  клиника  организовала  совместный  семинар  с
юристами на тему "Биомедицинские технологии и право". Среди обсуждаемых  тем
был  и  электроголизм.  Но  юристы  не   поддержали   дискуссию.   Концепция
электроголиков  не  вписывалась  в  существующую  систему  законодательства,
регулирующего борьбу с наркоманией. Все ныне действующие законы  признавали,
что человек может пристраститься к наркотикам по неведению или под давлением
извне, а это нечто совсем отличное от  человека,  который  сознательно  ищет
возможности  перенести  операцию,  в  результате  чего  он  пристрастится  к
электрошоку. Большинство юристов сочли, что население не  станет  испытывать
нужду в подобных операциях, так что и проблем с законодательством возникнуть
не может вследствие того, что  не  будет  общественной  потребности  в  этой
слабости. Но вот Бекерман продемонстрировал наличие такой потребности.
   - Черт меня побери! - сказал третий сотрудник "Развития".
   Моррис  счел  этот  комментарий  неадекватным   ситуации.   Сам   же   он
почувствовал то, что уже чувствовал раз или два с  тех  пор,  как  пришел  в
Центр. Это было ощущение того,  что  все  меняется  слишком  стремительно  и
опасно, и события развиваются, не поддаваясь обдуманному контролю, и что все
вообще когда-нибудь может выйти из-под контроля -  внезапно  и  без  всякого
предупреждения.

6

   В шесть вечера Роджер Макферсон, заведующий Центром  нейропсихиатрических
исследований, отправился на  седьмой  этаж  осмотреть  своего  пациента.  По
крайней мере, именно так он мысленно называл Бенсона  -  "своим  пациентом".
Чувство собственника, не совсем неуместное в данном случае.  Без  Макферсона
не было бы никакого ЦНПИ, а  без  ЦНПИ  не  было  бы  ни  нейрохирургии,  ни
Бенсона. Вот что он об этом думал.
   В палате  710  стояла  тишина.  Стены  были  омыты  красноватыми  бликами
закатного солнца. Бенсон, похоже, спал. Но когда Макферсон закрыл  за  собой
дверь, Бенсон устремил на него немигающий взгляд.
   - Как вы себя чувствуете? - спросил Макферсон, подходя к кровати.
   - Все только об этом и спрашивают, - улыбнулся Бенсон.
   - Это естественный вопрос, - улыбнулся в ответ Макферсон.
   - Устал я - вот и все. Очень устал... Иногда мне кажется, что  я  часовая
мина и вы тут все ждете, когда я взорвусь.
   - Вы так думаете? -  спросил  Макферсон  и  машинально  поправил  Бенсону
подушку, чтобы лучше видеть монитор. Синусоида нормальная.
   - Тик-так, - сказал Бенсон, закрывая глаза. - Тик-так.
   Макферсон нахмурился. Он уже привык  к  механическим  метафорам  Бенсона:
ведь этот человек, в конце концов, одержим мыслью, что люди - те же  машины.
Но эти его идеи что-то слишком быстро проявились после операции...
   - У вас что-нибудь болит?
   - Ничего. Только немного ноет за ушами, словно после падения. Вот и все.
   Макферсон знал, что это костная боль от бурения черепной коробки.
   - После падения?
   - Ну да - я же падший человек. Я поддался и уступил.
   - Чему?
   - Процессу  превращения  меня  в  машину.  -  Он  открыл  глаза  и  снова
улыбнулся. - Или в мину с часовым механизмом.
   - Вы чувствуете какие-нибудь запахи? Странные ощущения?  -  задавая  этот
вопрос,  Макферсон  смотрел  на  сканер  ЭЭГ  над  головой   пациента.   Там
по-прежнему вычерчивались нормальные альфа-узоры  без  каких-либо  признаков
приближающегося приступа.
   - Нет. Ничего такого.
   - Но вам кажется, будто вы можете взорваться? -  Макферсон  подумал,  что
такие вопросы лучше бы задавать Росс.
   - Вроде того, - ответил Бенсон. - В будущей войне мы все взорвемся.
   - Что вы хотите этим сказать?
   - А вы, похоже, раздражены?
   - Нет, просто немного озадачен. Так что это значит - в будущей войне?
   - В будущей войне между человеком  и  машинами.  Понимаете:  человеческий
мозг отжил свое.
   Это что-то новенькое! Раньше Макферсон не слышал от  Бенсона  такого.  Он
внимательно посмотрел на пациента, лежащего в кровати с  туго  забинтованной
головой и плечами. Из-за повязки верхняя часть его  тела  казалась  толстой,
чрезмерных размеров.
   - Ну да, - сказал Бенсон. - Человеческий мозг  дошел  до  предела  своего
развития. Он исчерпался  -  вот  и  наплодил  следующее  поколение  разумных
существ. Они же... Ох, как же я устал! - Он закрыл глаза.
   - Вас утомила операция.
   - Легкая процедура, - сказал он и улыбнулся с  закрытыми  глазами.  Через
мгновение он захрапел.
   Макферсон постоял у кровати еще несколько минут, потом подошел к  окну  и
стал смотреть на садящееся  в  Тихий  океан  солнце.  Замечательная  палата:
отсюда  видно  заходящее  солнце  на  фоне  фешенебельных  жилых   кварталов
Санта-Моники. Он задержался у окна еще  на  несколько  минут.  Бенсон  спал.
Наконец Макферсон тихо вышел из  палаты  и  отправился  в  кабинет  дежурных
медсестер написать свое заключение в историю болезни пациента.
   "Пациент активен, реактивен и нормально ориентируется".
   Написав эту фразу, он задумался. Он пока  не  мог  понять,  различает  ли
Бенсон людей, ориентируется ли во времени и пространстве -  они  же  еще  не
проверяли специально его ориентации. Но он быстро реагировал на собеседника,
так что Макферсон решил оставить эту запись как есть.
   "Поток мыслей упорядочен и ясен, однако пациента  по-прежнему,  как  и  в
предоперационный период, преследует навязчивая идея о засилье машин.  Сейчас
пока еще рано делать сколько-нибудь однозначные  выводы,  но  представляется
верным  сделанное  ранее  предположение,  что  операция   не   изменит   его
психического состояния между припадками".
   Подпись: "Роджер Макферсон, доктор медицины".
   Он несколько  секунд  рассматривал  написанное,  потом  закрыл  журнал  и
поставил его на полку. Хорошее заключение - спокойное,  четкое,  без  всяких
там радужных обещаний. История болезни - официальный документ,  и  в  случае
чего его могут затребовать в суд. Макферсон вовсе и не  думал,  что  история
болезни Бенсона будет фигурировать в суде, но все же надо  всегда  проявлять
предусмотрительность. Ведь никогда не  знаешь,  что  может  случиться...  Он
твердо верил в реальные факты - и считал, что в них-то и  заключается  смысл
его работы.
   Глава любого крупного научного центра - фигура политическая. С этим можно
не соглашаться, это может не нравиться. Но тем не менее это истинная правда,
это неизбежное условие его работы.
   Необходимо постоянно  поддерживать  ровные  дружелюбные  отношения  между
сотрудниками Центра.  Чем  больше  у  тебя  в  штате  "звезд",  тем  труднее
продвигается работа в коллективе - так ведь и в политике.
   Необходимо постоянно изыскивать источники финансирования  на  стороне,  а
это чистой воды политика! В особенности когда работаешь в  такой  щекотливой
области, в  какой  специализируется  ЦНПИ.  Макферсон  давно  уже  выработал
хренопероксидазный принцип заявок на гранты. <Грант -  денежное  довольствие
на конкретный научный проект.>  Принцип  был  весьма  прост:  когда  просишь
деньги, надо написать в заявке, что эти  деньги  будут  истрачены  на  поиск
энзимы пероксидаза в клубнях хрена, с помощью чего возможно излечивать  рак.
Под такой проект легко можно было выторговать шестьдесят  тысяч  долларов  -
при том, что невозможно было получить и шестидесяти центов на исследования в
области контроля над сознанием.
   Он оглядел батарею  историй  болезни  на  полке  -  вереницу  корешков  с
незнакомыми фамилиями, в которой терялся корешок, помеченный БЕНСОН  Г.  Ф.,
710. В каком-то смысле, подумал заведующий Центром, Бенсон прав:  он  был  и
впрямь ходячей миной с часовым механизмом.  Человек,  для  лечения  которого
применяют технологию контроля за деятельностью мозга, мог бы стать предметом
различных иррациональных предрассудков общества. "Контроль за  деятельностью
сердца" - с помощью кардиостимуляторов -  считался  величайшим  изобретением
века. "Контроль за деятельностью почек"  -  с  помощью  наркотиков  считался
даром  небес.  Но  вот   "контроль   за   деятельностью   мозга"   почему-то
рассматривается как смертный грех, как зло -  хотя  исследования  ЦНПИ  были
аналогичны  подобным  же  исследованиям  в  области  контроля  над   другими
органами. Даже технология была такой же: ядерная  энергетическая  установка,
которую  они  используют,  впервые  была  разработана   для   применения   в
кардиостимуляторах.
   Но предрассудок оказался живуч. Вот и Бенсон рассматривал себя как  бомбу
с часовым механизмом. Макферсон вздохнул,  взял  историю  болезни  и  открыл
раздел  рекомендаций  лечащему  врачу.  И  Эллис,  и  Моррис  написали  свои
послеоперационные  заключения.   Макферсон   добавил   собственное:   "После
интерфейсинга завтра утром назначить торазин".
   Он  перечитал  запись  и  решил,  что  сестры  могут  не  понять   термин
"интерфейсинг". Он  вычеркнул  строчку  и  надписал  сверху:  "Завтра  после
полудня назначить торазин".
   Идя к себе,  Макферсон  размышлял  о  том,  что  теперь  он  будет  спать
спокойно: ведь Бенсону начнут давать  торазин.  Возможно,  им  не  под  силу
обезвредить эту мину - но, по  крайней  мере,  ее  можно  бросить  в  бак  с
холодной водой.

7

   Поздно вечером, сидя в "Телекомпе", Герхард с  беспокойством  смотрел  на
клавиатуру. Он ввел в компьютер новые команды, потом подошел  к  принтеру  и
начал перечитывать длинную  простыню,  испещренную  зелеными  полосками.  Он
быстро просматривал текст, пытаясь  найти  ошибку,  которая,  как  ему  было
известно, вкралась в запрограммированные инструкции.
   Сам компьютер никогда не ошибался. Герхард  уже  имел  десятилетний  опыт
обращения с компьютерами - разными типами в разных учреждениях, - и ему  еще
не  встречалась  машина,  допустившая  ошибку.  Конечно,  временами   ошибки
случались, но они всегда были в программах, а не в машинах. Иногда  подобную
безукоризненность было трудно себе вообразить. Прежде  всего  безошибочность
компьютера никак не укладывалась в схему представлений  об  остальном  мире,
где  машины  постоянно  ошибались:  бомбы  взрывались,   стереопроигрыватели
ломались,  грили  перегревались,  барахлили  стартеры.  Современный  человек
благосклонно смирялся с  этими  ошибками,  оставлял  за  машинами  право  на
ошибочные действия.
   Но компьютеры - совсем другое дело, и работа с ними часто оказывалась для
человека унизительной. Они всегда действовали исправно.  Даже  когда  у  них
уходили недели на поиск решения какой-то проблемы, даже когда  ту  или  иную
программу десять раз проверяло  множество  разных  людей,  даже  когда  весь
персонал  постепенно  приходил  к  выводу,  что  наконец-то  в  первый   раз
компьютерный интеллект дал сбой - всегда в конце концов оказывалось, что все
дело в ошибке человека. Всегда.
   Вошел Ричардс, сбросил блайзер и налил себе чашку кофе.
   - Как дела?
   Герхард покачал головой.
   - У меня проблема с "Джорджем".
   - Опять? Вот черт! - Ричардс взглянул на пульт. - А как "Марта?"
   - "Марта" в порядке. Кажется. А вот "Джордж" барахлит.
   - А который "Джордж"?
   - "Святой Георгий". Просто сукин сын какой-то.
   Ричардс отпил кофе и присел к терминалу.
   - Не возражаешь, если я попробую?
   - Валяй.
   Ричардс начал нажимать клавиши. Он  вызвал  программу  "Святой  Георгий".
Потом - программу "Марта". Потом набрал код взаимодействия.
   Программы  составили  не  Ричардс  и  Герхард  -  это  были   модификации
нескольких программ, разработанных в различных  университетах.  Но  основная
идея осталась неизменной - создать программу,  которая  могла  бы  заставить
компьютер эмоционально  реагировать  -  подобно  людям.  И  вполне  логичным
представлялось обозначить эти программы человеческими именами -  "Джордж"  и
"Марта". Для этого были уже  прецеденты:  "Элиза"  в  Бостоне  и  "Олдос"  в
Англии.
   "Джордж" и "Марта", в сущности,  были  двумя  одинаковыми  программами  с
незначительными вариациями.  В  первоначальном  варианте  у  "Джорджа"  были
запрограммированы нейтральные реакции  на  внешние  стимулы.  Потом  создали
"Марту". "Марта"  была  немного  стервозна.  "Марте"  многое  не  нравилось.
Наконец был составлен новый  "Джордж",  очень  милый  добродушный  "Джордж".
Его-то и назвали "Святой Георгий".
   Каждая программа могла реагировать  тремя  эмоциональными  состояниями  -
любовь, страх и  гнев.  Каждая  могла  продуцировать  три  вида  действий  -
сближение, отход и нападение. Все это,  конечно,  было  чистой  абстракцией.
Эмоции  и  действия  стимулировались  разными  группами   чисел.   Например,
первоначальный "Джордж"  был  нейтрален  к  большинству  чисел,  но  ему  не
нравилось число 751. Он был запрограммирован не  любить  именно  это  число.
Кроме того, он  не  любил  подобные  числа  -  743,  772  и  так  далее.  Он
предпочитал числа вроде 404, 133 и 918. При введении в программу  одного  из
этих чисел "Джордж" отвечал числами, обозначающими любовь и  сближение.  При
вводе 707 "Джордж" давал задний ход. В ответ на 750 "Джордж" свирепо нападал
- судя по числам, которые появлялись на дисплее.
   Сотрудники Центра уже давно играли с этими  программами.  Через  какое-то
время  программу  модифицировали  так,  что   с   компьютером   можно   было
"разговаривать". Числа переводились во  фразы.  Это  было  забавно  и  очень
интересно. Настоящее взаимодействие называлось "Рождественская игра", потому
что этот "диалог" по сути сводился  к  обмену  подарками  -  предметами,  за
которыми, как ранее  за  числами,  закреплялось  определенное  эмоциональное
значение.
   Обычный "Джордж", взаимодействуя с "Мартой", в конечном  счете  одерживал
над ней победу, и ее стервозность подавлялась.
   Но вот "Святой Георгий" оказывал на нее куда более пагубное влияние.  Его
добродушная покладистость сводила ее с ума. Это  когда  все  шло  нормально.
Ричардс следил за выскакивающими на дисплее словами.
   ПРИВЕТ Я СВЯТОЙ ГЕОРГИЙ.
   ПРИВЕТ.
   КАК ТЕБЯ ЗОВУТ?
   МАРТА.
   ТЫ НЕРАЗГОВОРЧИВА МАРТА.
   НЕТ.
   НО ТЫ МНЕ НРАВИШЬСЯ.
   А ТЫ МНЕ НЕТ.
   ЗНАЮ Я МОГУ ПОМОЧЬ?
   - Точки не всегда пропечатываются, -  заметил  Ричардс.  -  И  давно  это
началось?
   - Это еще ничего! Ты дальше смотри.
   ПОМОЧЬ?
   ДА, Я ХОЧУ ТЕБЕ ПОМОЧЬ.
   ПОШЕЛ К КОШКЕ.
   Ричардс  вздрогнул.  "Кошки"  в  программе  символизировали  то,  что  не
нравилось и "Святому Георгию", и "Марте" в одинаковой степени.
   СПАСИБО.
   ПОШЕЛ К КОШКЕ.
   СПАСИБО ТЫ ОЧЕНЬ ДОБРА.
   ПОШЕЛ К КОШКЕ.
   НЕТ СПАСИБО.
   НЕ ЛЮБИШЬ КОШЕК?
   ЛЮБЛЮ НО У МЕНЯ УЖЕ МНОГО КОШЕК.
   ТОГДА ИДИ К ГОРИЛЛЕ.
   - Гадость какая! - сказал Ричардс. - А другие взаимодействия как?
   - Примерно в таком же духе.
   - И так же мерзко?
   - Примерно.
   Они  уже  свыклись  с  мыслью,  что,  когда  компьютеры  взаимодействуют,
результаты этого взаимодействия всегда непредсказуемы. Можно было догадаться
в общих чертах, что произойдет, но конкретные ситуации всегда  были  неясны.
Это все равно что компьютер, играющий в шашки: можно  предположить,  что  он
выиграет, но всякий раз он выигрывал  по-другому,  в  зависимости  от  ходов
противника.
   МНЕ НЕ НУЖНА ГОРИЛЛА.
   НЕ ЛЮБИШЬ ГОРИЛЛ?
   НЕТ СПАСИБО.
   ТЫ ОЧЕНЬ ВЕЖЛИВЫЙ.
   ИЗВИНИ ЕСЛИ Я ТЕБЯ ЧЕМ-ТО ОБИДЕЛ.
   МНОГО БОЛТАЕШЬ.
   ИЗВИНИ.
   КУПИ СЕБЕ БАКЛАЖАН.
   Ричардс с интересом следил за диалогом. В "Святом Георгии"  баклажаны  не
были запрограммированы, но он не любил огурцы и бананы.
   НЕТ СПАСИБО.
   НЕ ЛЮБИШЬ БАКЛАЖАНЫ?
   НЕ ОЧЕНЬ.
   НУ ТАК ВОТ ТЕБЕ ЕЩЕ ОДИН.
   НЕ НАДО СПАСИБО.
   А Я ХОЧУ ЧТОБЫ ТЫ ЕГО ВЗЯЛ.
   НЕТ СПАСИБО.
   НУ-КА БЕРИ.
   НЕТ СПАСИБО.
   Я НАСТАИВАЮ.
   НЕТ СПАСИБО.
   - Что со "Святым Георгием"?  -  спросил  Ричардс.  -  У  него  однотипные
ответы.
   - Это-то меня и беспокоит.
   - И где же он "завис"?
   - Я как раз это пытался найти, когда ты вошел.
   Я НАСТАИВАЮ, ЧТОБЫ ТЫ ВЗЯЛ ОГУРЕЦ.
   Я ОТКАЗЫВАЮСЬ.
   - "Джордж"! - воскликнул Ричардс почти бессознательно.
   ТОГДА БАНАН.
   НЕТ.
   - "Д