еллектом, - сказал Брайан. - Потому  что
то, что мы наработаем, потом будет загружено в программу Дика Трейси.
     - Что-что? - в недоумении переспросил Бен.
     - А вы подумайте немного. Сейчас в вашем расследовании вас интересует
только совершенное преступление. Очень  хорошо  -  надеюсь,  вы  добьетесь
успеха раньше, чем они доберутся до  меня  опять,  потому  что  иначе  мне
крышка. Но мы должны посмотреть на это и с другой стороны. Вы задумывались
над тем, что именно они похитили?
     - Это очевидно - твою машину. Искусственный интеллект.
     - Нет, не только. Они пытались убить всех,  кто  хоть  что-нибудь  об
этом знал, выкрасть или уничтожить все записи. И все  еще  пытаются  убить
меня. Из этого может следовать только одно.
     - Ну конечно! - воскликнул Бен. - Как я сразу не сообразил? Они хотят
не просто владеть искусственным интеллектом, а иметь  на  него  монополию.
Возможно,  они  уже  пытаются  им  торговать.  Они  обязательно  попробуют
использовать его в коммерческих целях, чтобы на  нем  заработать.  Но  они
совершили  убийство  и   ограбление   и,   безусловно,   не   хотят   быть
обнаруженными. Им придется скрывать тот факт, что они  его  используют,  -
значит, они должны использовать его таким способом, чтобы об этом никто не
догадался.
     - Я понимаю, что вы хотите сказать, - вмешалась Шелли. -  Как  только
они  наладят  этот  краденый  искусственный  интеллект,  его  можно  будет
использовать  практически  для  чего   угодно.   Управлять   механическими
процессами,  возможно,  писать  программы,  развивать  новые   направления
исследований, разрабатывать новые продукты - да мало ли что еще.
     Беникоф серьезно кивнул:
     - И поэтому их будет очень трудно поймать. Нам придется быть  начеку,
чтобы обнаружить не что-нибудь определенное, а буквально любой  новый  тип
программ или машин, который окажется необычно оригинальным.
     - Это слишком общее требование, моя программа с ним не  справится,  -
сказала  Шелли.  -  Дик  Трейси  может  работать   только   со   тщательно
структурированными базами данных. У него просто не хватит  ни  знаний,  ни
здравого смысла, чтобы решить проблему, если она поставлена так широко.
     - Значит, его нужно усовершенствовать, - сказал Брайан. - Как  раз  к
этому я и веду. Теперь совершенно ясно, что нам надо делать. Прежде  всего
надо сделать Дика Трейси поумнее, начинить его общими знаниями.
     -  Ты  хочешь  сказать  -  превратить   его   в   усовершенствованный
искусственный интеллектом - спросил Беникоф.  -  А  потом  с  его  помощью
разыскать все остальные? Вроде того, как послать вора ловить вора?
     - Это только полдела. А вторая половина - то, что я собираюсь сделать
с роботом Робином. Я сделаю его похожим на тот искусственный интеллект,  о
котором шла речь в моих заметках. Если мне это удастся,  мы  будем  больше
знать о том, на что способна украденная машина. И это поможет  нам  сузить
поле для поисков.
     - Особенно если мы  сможем  загрузить  все  эти  способности  в  Дика
Трейси, - заметила Шелли.  -  Тогда  он  действительно  будет  знать,  что
искать.
     Они переглянулись. Обсуждать было больше нечего - и  без  того  ясно,
кому что делать. Шелли  и  Брайан  встали  и  собрались  уходить,  но  Бен
остановил их.
     - Остался еще последний важный вопрос. Жилье для Шелли.
     - Жаль, что вы об этом напомнили, - сказала она.  -  Я  чуть-чуть  не
сняла прелестную квартирку, но в самый последний момент из этого ничего не
вышло.
     Бен смущенно сказал:
     - Я прошу прощения, но это дело моих рук. Я все думал о покушениях на
жизнь Брайана и понял, что вы теперь тоже можете стать такой  же  мишенью.
Как только вы  займетесь  искусственным  интеллектом,  та  компания  убийц
захочет... мне нелегко это говорить, но они захотят убить вас так же,  как
и Брайана. Вы с этим согласны?
     Шелли неохотно кивнула.
     - А значит, вам придется обеспечить такую  же  степень  безопасности,
как и Брайану. Здесь, в "Мегалоуб".
     - Я повешусь, если  мне  придется  жить  в  этом  доме  свиданий  для
коммивояжеров, где я помещаюсь сейчас.
     - Нет, об этом не может быть и речи! Я вас прекрасно понимаю,  потому
что сам провел там множество жутких ночей. Могу я  кое-что  предложить?  В
здешних казармах есть отделение для женского  вспомогательного  персонала.
Если бы мы соединили пару комнат и оборудовали их под небольшую  квартиру,
вы бы согласились там жить?
     - Я должна сама решать, как их отделать.
     - Выбирайте, счета мы оплатим.  Электронная  кухня,  ванна-джакузи  -
все, что вам будет угодно. Армейские саперы все установят.
     - Предложение принято. Когда я смогу посмотреть каталоги?
     - Они уже лежат в моем кабинете.
     - Бен, вы страшный человек. Откуда вы знали, что я соглашусь?
     - Я не знал, я просто надеялся. А если посмотреть  на  него  со  всех
сторон, это же действительно единственный безопасный вариант.
     - А можно мне взять каталоги прямо сейчас?
     - Конечно. В этом корпусе, комната 412. Я позвоню своей секретарше  и
скажу, чтобы она их достала.
     Шелли двинулась к двери, но обернулась:
     - Простите, Брайан. Я должна была сначала спросить,  не  нужна  ли  я
вам.
     - Нет, мне кажется, это прекрасная идея. В любом случае сегодня  я  в
лабораторию не  вернусь,  у  меня  есть  кое-какие  другие  дела.  Давайте
встретимся там завтра в девять утра.
     - Хорошо.
     Брайан подождал, пока дверь за ней не закрылась, и повернулся к Бену,
но некоторое время молчал, кусая губы, прежде чем заговорить.
     - Я до сих пор так и не сказал ей о том процессоре, что вживлен мне в
мозг. А она так ничего и не  спросила  насчет  того  разговора,  когда  он
высказал свою догадку. Вас она тоже не спрашивала?
     - Нет, да и не спросит, я думаю. Шелли очень замкнутый человек, и мне
кажется, что она ожидает того же и от других. А это важно?
     - Только для меня. Я же  вам  говорил,  что  чувствую  себя  каким-то
уродом...
     - Ты не урод, как ты  прекрасно  знаешь.  Не  думаю,  чтобы  об  этом
когда-нибудь зашел разговор.
     - Со временем я ей скажу. Только не сейчас. Особенно из-за того,  что
у  меня  назначено  несколько  довольно  длительных  сеансов  с   доктором
Снэрсбрук. - Он взглянул на часы. - Первый из  них  совсем  скоро.  Я  это
делаю в  основном  для  того,  чтобы  ускорить  работу  над  искусственным
интеллектом.
     - Каким образом?
     - Я хочу иначе подойти к проблеме. До  сих  пор  я  занимаюсь  только
одним - просматриваю материалы  той  резервной  базы  данных,  которую  мы
привезли из Мексики. Но это большей  частью  заметки  и  вопросы,  которые
касаются текущей работы. А мне нужно выйти на подлинные размышления  и  на
результаты исследований, которые на них основаны. То, что я делаю  сейчас,
- медленная, нудная работа.
     - Почему?
     -  Я  был...  есть...  мы  были...  -  Брайан  криво  усмехнулся.   -
Грамматически правильно никак не получается. В  общем,  тот  "я",  который
набрасывал заметки, делал это очень неаккуратно.  Вы  же  знаете  -  когда
записываешь что-то  для  себя,  обычно  нацарапаешь  пару  слов,  и  этого
хватает, чтобы восстановить в памяти всю мысль. Но того моего  "я"  больше
не существует, и эти заметки мне ни о чем не напоминают. Поэтому  я  начал
работать с доктором Снэрсбрук -  мы  хотим  посмотреть,  нельзя  ли  будет
воспользоваться вживленным процессором, чтобы связать заметки с отдельными
разрозненными воспоминаниями, которые все еще хранятся  у  меня  в  мозгу.
Чтобы разработать искусственный интеллект в первый раз,  мне  понадобилось
десять лет, и я боюсь, что теперь на  это  уйдет  столько  же  времени.  Я
должен вернуть эти воспоминания.
     - А что-нибудь получается?
     -  Пока  рано.  Мы  все  еще  пытаемся  найти  способ   устанавливать
взаимосвязи, которые я смог бы надежно  активировать  по  своему  желанию.
Процессор  -  машина,  а  я  нет,  и  мы  даже  в  самые  лучшие   моменты
взаимодействуем плоховато.  А  в  остальное  время  это  как  разговор  по
телефону  при  плохой  слышимости.  Знаете,  когда  оба  человека  говорят
одновременно, и ни один другого не слышит. А бывает, что я  просто  ничего
не понимаю в том, что до меня доходит. И  приходится  прекращать  связь  и
начинать сначала. Очень досадно, можете  мне  поверить.  Но  я  справлюсь.
Надеюсь, что дело наладится.
     Бен проводил Брайана до поликлиники "Мегалоуб", распрощался с  ним  у
дверей кабинета доктора Снэрсбрук и, проводив его глазами, некоторое время
стоял неподвижно, погруженный в раздумья. Ему было о чем задуматься.


     Сеанс  прошел  удачно.  Теперь  Брайан  уже  мог  получать  доступ  к
процессору по собственному желанию  и  пользоваться  им,  чтобы  извлекать
нужные воспоминания. Система стала работать лучше, хотя иногда  у  него  в
голове возникали обрывки знаний, которые он не мог понять. Словно это были
чьи-нибудь подсказки, а не его воспоминания. А время от времени,  входя  в
память своего прежнего, взрослого "я", он  обнаруживал,  что  теряет  нить
собственных мыслей, и когда ему удавалось восстановить контроль над  ними,
он с трудом мог припомнить, что за  это  время  происходило.  "Странно,  -
думал он. - Неужели во мне существуют две индивидуальности в одно и то  же
время? Могут ли в одном сознании помещаться сразу две  индивидуальности  -
одна прежняя, другая новая?"
     Такое зондирование, во всяком случае, намного  ускоряло  его  работу.
Немного  привыкнув,  Брайан  стал  все  больше  и  больше  размышлять  над
проблемами, которые все еще возникали в работе искусственного  интеллекта.
Над разнообразными дефектами, которые приводили к сбоям, в результате чего
машина начинала откалывать всевозможные коленца.
     - Брайан, ты меня слышишь?
     - Что?
     - Здравствуйте! Я тебя уже третий раз спрашиваю об одном  и  том  же.
Замечтался?
     - Прошу прощения. Просто все это совершенно  непостижимо,  и  в  моих
заметках нет ничего такого, что помогло бы мне разобраться. Надо бы, чтобы
часть моего мозга следила сама за собой, а  остальная  часть  об  этом  не
знала. Что-то такое, что поддерживало бы равновесие  в  управляющих  цепях
системы. Это не так уж сложно, когда сама система стабильна и  не  слишком
меняется. Но когда она постоянно обучается новым способам обучения, ничего
не  получается.  Нужна  еще  какая-то  система,  что-то  вроде  отдельного
подсознания, которое могло бы хоть в какой-то степени сохранять контроль.
     - Звучит совсем по-фрейдистски.
     - Простите?
     - Напоминает теории Зигмунда Фрейда.
     - Что-то я не помню, чтобы такая фамилия попадалась мне в  литературе
по искусственному интеллекту.
     - Нетрудно понять почему. Это был психиатр, он работал в  90-х  годах
XIX века, когда еще не было никаких компьютеров. Когда он впервые выдвинул
теорию, что сознание состоит из нескольких разных систем, он дал им  имена
- "ид", "эго", "суперэго",  "цензор"  и  так  далее.  Предполагается,  что
подсознательно каждый нормальный человек постоянно испытывает всевозможные
конфликты, сталкивается с  противоречиями  и  несовместимыми  целями.  Вот
почему я подумала, что тебе может что-нибудь  прийти  в  голову,  если  ты
займешься фрейдовской теорией сознания.
     - Звучит заманчиво. Давайте сделаем это прямо сейчас - загрузите  все
эти теории Фрейда мне в память.
     Доктора Снэрсбрук это немного обеспокоило. Она все еще  рассматривала
пользование вживленным компьютером как эксперимент, хотя для  Брайана  это
уже стало привычным  образом  жизни.  Теперь  ему  больше  не  приходилось
корпеть над печатными страницами - достаточно было загрузить что угодно  в
память, а разбираться потом.
     К себе он возвращаться не стал, а ходил взад  и  вперед  по  комнате,
мысленно углубляясь то в одну, то в другую часть учебника, сопоставляя их,
усваивая новые ассоциации. В конце концов он воскликнул вслух:
     - Да это же то,  что  надо!  В  самом  деле,  такая  теория  идеально
подходит  к  моей  проблеме.  "Суперэго"  -  это,  по-видимому,   механизм
целеполагания,  который  появился  после   возникшего   раньше   механизма
импринтинга. Ну, знаете, того механизма, который открыл Конрад  Лоренц,  -
благодаря ему детеныши многих животных держатся вблизи источника заботы  и
защиты. Так  у  ребенка  появляется  сравнительно  постоянная,  стабильная
система целей. После того как ребенок включает  в  нее  образ  матери  или
отца, такая структура может оставаться в его сознании всю жизнь. Но как бы
ввести такое "суперэго" в мой искусственный интеллект? Смотрите: это можно
было  бы  сделать,  если  загрузить  достаточную  часть  моей  собственной
подсознательной системы ценностей. А почему бы и нет? Активировать все мои
К-линии и немы, идентифицировать и записать все связанные с  ними  эмоции.
Потом использовать эти данные, чтобы построить модель моего  сознательного
самоощущения. А потом добавить сюда мой идеал  -  то,  к  чему  "суперэго"
велит мне стремиться. Если удастся загрузить и это, мы далеко  продвинемся
к стабилизации нашего машинного интеллекта и управлению им.
     - Давай попробуем, - сказала доктор Снэрсбрук. - Пусть никто  еще  не
доказал, что все это существует на самом деле. Мы просто предположим,  что
у тебя в голове все это есть. И возможно, окажемся первыми, кто сможет это
обнаружить.  Смотри,  ведь  мы  вот  уже  столько  месяцев  разыскиваем  и
восстанавливаем твою матрицу памяти и мышления. А теперь мы можем  сделать
следующий шаг - только назад во времени, а не вперед. Мы можем попробовать
проследить нити, ведущие из твоего детства, и посмотреть, не  найдутся  ли
такие  немы   или   связанные   с   ними   воспоминания,   которые   будут
соответствовать самым ранним твоим системам ценностей.
     - И вы думаете, что сможете это сделать?
     - Не вижу причин, почему бы нет - разве что того, что мы ищем, вообще
не существует. Во  всяком  случае,  по  ходу  дела  мы,  вероятно,  сможем
локализовать еще несколько сотен тысяч прежних К-линий и немов.  Но  нужно
действовать осторожно. С доступом  к  таким  глубоко  погребенным  эмоциям
может быть связана серьезная опасность. Я хочу сначала попробовать это  на
внешнем компьютере, а твою  внутреннюю  машину  на  время  отключу.  Таким
способом мы сможем зафиксировать структуры, которые будут обнаружены,  вне
мозга - возможно, с их помощью удастся усовершенствовать  Робина.  А  тебя
такие эксперименты не затронут, пока мы не почувствуем себя увереннее.
     - Ну что ж, я готов попробовать.



                           25. 31 МАЯ 2024 ГОДА

     - Брайан Дилени, уж не проработали ли вы  здесь  всю  ночь?  Когда  я
вчера вечером уходила, вы обещали,  что  задержитесь  всего  на  несколько
минут. А это было в десять часов.
     С этими словами в лабораторию вошла рассерженная Шелли.
     Брайан потер рукой предательскую щетину и заморгал  покрасневшими  от
усталости виноватыми глазами.
     - Почему вы так думаете? - попробовал он увильнуть от ответа.
     Ноздри у Шелли сердито раздулись.
     - Ну, для этого более чем достаточно на вас  посмотреть.  Вид  у  вас
ужасный. Кроме того, я попробовала вам позвонить, но ответа не  было.  Как
вы можете понять, я забеспокоилась.
     Брайан схватился за ремень, где у него обычно висел  телефон,  но  не
обнаружил его.
     - Наверное, положил куда-нибудь. Я не слышал звонка.
     Она взяла свой телефон и одним нажатием  кнопки  памяти  набрала  его
номер. Где-то вдалеке послышалось жужжание. Поглядев в ту  сторону,  Шелли
увидела, что телефон лежит около кофеварки. Она  молча  протянула  аппарат
ему.
     - Спасибо.
     - От вас просто нельзя отходить  ни  на  минуту.  Мне  пришлось  идти
разыскивать ваших телохранителей - они и  сказали  мне,  что  вы  все  еще
здесь.
     - Предатели, - пробормотал он.
     - Они так же заботятся о вас, как и я. Нет таких  важных  дел,  чтобы
из-за них стоило рисковать здоровьем.
     - Есть, Шелли, в этом-то все и дело. Помните, когда вы уходили  вчера
вечером, мы бились  с  программой-координатором?  Что  бы  мы  ни  делали,
система норовила свернуться в клубок и умереть. Поэтому я начал с  простой
задачи -  сортировки  кубиков  по  цвету.  Потом  усложнил  ее,  предложив
разноцветные  кубики  разной  формы.  А  когда  я  через  некоторое  время
посмотрел, программа-координатор  все  еще  работала,  но  все  остальные,
видимо, отключились. Тогда я решил записать, что произойдет, когда я снова
все запущу, и на этот раз ввел языковую программу, которая записывала  все
команды, поступавшие от координатора в остальные  блоки.  Теперь  он  стал
работать медленнее, и я наконец понял, что происходит. Вот, смотрите сами.
     Он поставил запись,  сделанную  ночью.  На  экране  показался  робот,
быстро сортирующий разноцветные кубики, потом он стал работать  медленнее,
еще медленнее и наконец совсем остановился. Из динамика слышался  глубокий
бас Робина-3:
     - ...К-линия 8997, выдай  ответ  на  входной  сигнал  10983...  время
реакции  слишком   велико...   отвечай   немедленно...   блокирую.   Задаю
подпроблему 384. Принят ответ от К-4093. Блокирую  замедленные  ответы  от
К-3274 и  К-2314.  Задаю  подпроблему  385.  Ответы  от  К-2615  и  К-1488
противоречат друг другу - блокирую обоих. Задаю...
     Брайан выключил динамик.
     - Понимаете?
     - Не совсем. Одно ясно: эта программа только и делает, что  блокирует
другие.
     - Ну да, в этом-то и дело. Предполагалось, что она  должна  обучаться
на  опыте,  вознаграждая  хорошо  работающие  блоки   и   блокируя   плохо
работающие. Но ей был задан слишком высокий порог - ее  устраивали  только
безупречные и мгновенные  ответы.  Поэтому  она  вознаграждала  только  те
блоки, которые отвечали быстро, а более медленные отключала -  даже  когда
они пытались сделать то, что в конечном счете было бы правильнее.
     - А, понимаю. А дальше  -  эффект  домино:  когда  какой-нибудь  блок
отключался, ослабевала связь других блоков с ним...
     - Вот именно. И тогда реакция этих блоков замедлялась, и они  тоже  в
свою очередь  отключались.  Пока  программа-координатор  не  заблокировала
всех.
     - Какой ужас! Получается, что она совершила самоубийство!
     - Ничего подобного! -  раздраженно  сказал  он  голосом,  хриплым  от
усталости. - Это чистейший антропоморфизм. Машина  -  не  человек.  И  что
такого ужасного, когда одна схема отключает другую схему? Да  там  же  нет
ничего, кроме электроники и программ. К человеку это никакого отношения не
имеет, при чем тут ужас?
     - Не говорите со мной таким тоном!
     Кровь бросилась в лицо Брайану, но он тут же опустил глаза.
     - Простите, беру свои слова обратно. Кажется, я просто устал.
     - Вам кажется, а я точно это знаю.  Ваши  извинения  приняты.  И  это
действительно был антропоморфизм. Но дело не в том, что вы мне говорили, а
в том, каким тоном. Давайте не будем больше цапаться, лучше пойдем подышим
воздухом. И уложим вас спать.
     - Хорошо. Только сначала я кое-что просмотрю.
     Брайан подошел к терминалу и углубился в схему робота. Один за другим
на экране появились чертежи. В конце концов он мрачно кивнул:
     - Ну конечно, опять ошибка. Она появилась после того, как я  исправил
последнюю. Помните, я ввел установку на подавление чрезмерной  блокировки,
чтобы робот не отключался  сам  собой?  А  теперь  он  бросился  в  другую
крайность  -  не  знает,  когда  нужно  остановиться.  Этот  искусственный
интеллект прекрасно отвечает на простые  вопросы,  но  только  если  ответ
можно найти почти не думая. А вы видели, что произошло, когда он  не  знал
ответа. Начал произвольный  поиск,  заблудился  и  не  понимал,  что  надо
остановиться. Он, можно сказать, не знал, чего именно не знает.
     - Мне показалось, что он просто свихнулся.
     - Можно сказать и так. Для ошибок в работе человечес