кого мозга у  нас
есть множество слов - паранойя, кататония, фобия,  невроз,  нерациональное
поведение. Наверное, для всех  новых  причуд,  которые  появятся  у  наших
роботов, придется придумывать новые слова. И можно не надеяться, что новая
конструкция заработает сразу после первого включения. В данном случае  она
пыталась воспользоваться всеми своими экспертными системами, чтобы  решить
одну и ту  же  задачу.  Координатор  оказался  недостаточно  силен,  чтобы
подавить ненужные. Весь этот набор слов свидетельствовал  о  том,  что  он
цеплялся за любую ассоциацию, которая,  казалось,  может  привести  его  к
решению, как бы мало вероятно это ни было.  А  когда  какой-нибудь  подход
оказывался неудачным, эта штука не догадывалась,  что  надо  остановиться.
Даже  если  наш  искусственный  интеллект  будет  работать,  нет   никакой
гарантии, что он не окажется, с нашей точки зрения, ненормальным.
     Брайан потер небритую щеку и взглянул  на  замершую  в  неподвижности
машину.
     - Давайте-ха как следует посмотрим вот здесь, - он  ткнул  пальцем  в
схему на экране. - Здесь видно, что случилось на этот  раз.  У  Робина-3-1
была слишком сильная блокировка, и он отключался. Поэтому я  изменил  этот
параметр, и теперь блокировка недостаточна.
     - Так что же делать?
     - Ответ простой - ответа не существует. Нет, это никакая не  мистика.
Я хочу сказать, что координатор должен знать больше.  Именно  потому,  что
чудес не бывает, что общего решения нет. Не может быть  простого  рецепта,
который срабатывал бы во всех случаях, - потому  что  все  случаи  разные.
Стоит  только  это  признать,  как  все   становится   намного   понятнее!
Координатор должен быть связан с базой знаний. И тогда он сможет на  опыте
учиться тому, что должен делать!
     - Вы хотите сказать, что  он  узнает,  какую  стратегию  применить  в
данной ситуации, вспомнив, какая пригодилась ему в прошлом?
     - Именно так. Вместо  того  чтобы  искать  жесткую  формулу,  которая
срабатывала бы всегда, пусть учится на опыте, от одного случая к  другому.
Потому что нам нужна машина, которая была бы разумна сама по  себе,  чтобы
не приходилось постоянно дежурить поблизости, поправляя ее,  когда  что-то
идет не так. Мы должны научить ее исправлять ошибки по мере их  появления.
Исправлять самостоятельно, без нашей помощи. Теперь я  знаю,  что  делать.
Помните, когда она словно ходила по кругу, повторяя одно и то  же?  Нам-то
легко было видеть, что она бьется на одном месте. Но она не понимала,  что
зациклилась, - и именно потому, что зациклилась, она  не  могла  выйти  за
пределы замкнутого круга и увидеть его  со  стороны.  Это  мы  исправим  -
добавим записывающее устройство, которое будет запоминать, что она  только
что делала. И часы, которые будут то и дело  прерывать  работу  программы,
чтобы она могла просмотреть запись и увидеть, что движется по кругу.
     - Или  еще  лучше  -  добавить  еще  один  процессор,  который  будет
постоянно работать, присматривая за первым. Мозг Б для присмотра за мозгом
А.
     - А может быть, и мозг В для присмотра, не зациклился ли мозг Б. Черт
возьми! Я только  что  вспомнил,  что  в  одной  из  моих  старых  записей
говорилось: "Здесь поставить мозг Б, чтобы подавить зацикливание". Надо бы
мне, конечно, тогда писать пояснее. Дайте-ка я прикину, каким должен  быть
этот мозг Б.
     - Только не сейчас! В таком состоянии вы все испортите.
     - Вы  правы.  Пора  спать.  Лягу,  не  беспокойтесь,  только  сначала
чего-нибудь поем.
     - Я пойду с вами и выпью кофе.
     Брайан отпер дверь и сощурился от яркого солнечного света.
     - Вы мне как будто не доверяете.
     - Да, не доверяю - после сегодняшней ночи.
     Шелли  прихлебывала  кофе,  пока  Брайан  расправлялся  с   завтраком
по-техасски - бифштексом с яйцом и оладьями. Не в состоянии  его  одолеть,
он перевел дух и отодвинул тарелку. Если не  считать  двух  сменившихся  с
дежурства охранников, которые сидели за столом в дальнем углу, они были  в
столовой одни.
     - Вот теперь я чувствую себя более или менее человеком, - сказал  он.
- Еще кофе?
     - Нет, мне более чем достаточно, спасибо. Как вы думаете, сумеете  вы
наладить ваш свихнувшийся искусственный интеллект?
     - Нет, я так на него разозлился, что стер ему  всю  память.  Придется
заново переписать кое-какие программы, прежде чем мы снова  его  загрузим.
Это займет пару часов. Даже ассемблеру "лама-5" требуется для таких  вещей
много времени. И на этот раз, прежде чем запускать новый вариант,  я  хочу
сделать резервную копию.
     - Это значит -  дубликат.  А  как  вы  думаете,  когда  у  вас  будет
работающий человекоподобный искусственный  интеллект,  можно  будет  снять
копию и с него?
     - Конечно. Что бы он ни делал, это все равно  всего  лишь  программа.
Программу всегда можно скопировать, и любая копия ничем не  будет  от  нее
отличаться. А почему вы спрашиваете?
     - Проблема индивидуальности. Будет ли второй искусственный  интеллект
в точности таким же, как и первый?
     - Да, но только в тот момент, как  будет  скопирован.  А  как  только
заработает, начнет думать сам, - станет меняться.  Вспомните:  мы  не  что
иное,  как  наша  память.  Когда  мы  что-то  забываем,  или   чему-нибудь
обучаемся, или нам приходит в голову новая мысль, новая ассоциация,  -  мы
меняемся. Становимся кем-то другим. И это же  относится  к  искусственному
интеллекту.
     - Вы в этом уверены? - спросила она с сомнением.
     - Безусловно. Потому что именно так  функционирует  сознание.  А  это
значит, что мне придется  еще  много  поработать  над  критериями  оценки.
Потому-то  и  оказались  неудачными  столько  прежних  вариантов   Робина.
Проблема в оценке последствий - мы об этом уже  говорили.  На  самом  деле
схема "возбудитель - реакция - вознаграждение" для  обучения  не  годится:
таким способом можно решать только простые задачи, дающие непосредственный
результат. Нет, нужно добиваться  масштабного  мышления,  надо  обдумывать
долгосрочные последствия, выяснять,  какие  стратегии  действительно  были
эффективными, а какие заводили в тупик, какие ходы, казавшиеся  полезными,
на самом деле ничего не дали.
     - У  вас  получается,  что  сознание  -  это  что-то  вроде...  вроде
луковицы.
     - Ну да. - Он улыбнулся этому сравнению. - Хорошая аналогия. Слой  за
слоем,  и  все  соединены  между  собой.  Человеческая  память  не  просто
ассоциативна, она не ограничивается сопоставлением  ситуаций,  реакций  на
них и результатов. Это еще и прогноз. Возникающие ассоциации  тоже  должны
включать долгосрочные цели и планы. Вот почему  так  важна  разница  между
краткосрочной и долговременной памятью.  Почему  требуется  примерно  час,
чтобы запомнить что-то надолго? Потому что должен быть  какой-то  буферный
период, чтобы решить, какое поведение на самом  деле  достаточно  полезно,
чтобы занести его в память.
     Внезапно он ощутил усталость. Кофе  остыл,  голова  начинала  болеть,
надвигалась депрессия. Шелли заметила это и дотронулась до его руки.
     - Пора спать, - сказала она. Он вяло кивнул и с  трудом  поднялся  со
стула.



                           26. 19 ИЮНЯ 2024 ГОДА

     Беникоф постучал, и Шелли открыла ему дверь.
     - Брайан только что пришел, - сказала она. - Я как  раз  достала  для
него пива. Вам тоже?
     - Если не трудно.
     - Заходите, взгляните, как я устроилась, - в конце  концов,  оплатили
все это вы.
     Она ввела его в гостиную, где были  тщательно  вытравлены  все  следы
казармы. Окно обрамляли шторы от пола до потолка  из  яркой  ткани  ручной
работы. Темно-оранжевый ковер  был  подобран  в  тон  их  рисунку,  с  ним
гармонировали и изящные линии датской мебели из тикового дерева,  а  почти
целую стену занимало красочное пятно посткубистской картины.
     - Прекрасно смотрится, - сказал  Бен.  -  Теперь  я  понимаю,  почему
бухгалтерия была в истерике.
     - Вовсе не из-за этого. Ткань и ковер  -  это  израильский  дизайн  и
арабская работа, стоили они не так уж дорого. Картину дала  мне  на  время
художница, моя подруга, она надеется, что  кто-нибудь  ее  купит.  Большая
часть денег пошла на кухню - она оборудована по последнему слову  техники.
Хотите посмотреть?
     - Сначала пиво. Мне нужно к этому подготовиться.
     - Не хотите ли вы раскрыть тайну  этого  приглашения  на  таиландский
обед? - спросил Брайан, уютно развалившийся  в  мягком  кресле.  -  Вы  же
знаете, что мы с Шелли здесь, в "Мегалоуб", на положении  пленников,  пока
вы не выловите убийц. Как мы можем  отправиться  в  этот  ваш  таиландский
ресторан?
     - Если вы не можете отправиться в Таиланд,  Таиланд  может  прийти  к
вам. Когда вы сказали, что хотите ввести меня  в  курс  вашей  работы  над
искусственным интеллектом, я подумал, что это надо отпраздновать. Спасибо,
Шелли.
     Бен сделал большой глоток холодного "Текате" и вздохнул:
     - Хорошее пиво. Все началось на прошлой неделе  с  проверки,  которую
проводит служба  безопасности.  Я  вхожу  в  состав  комиссии  из  военной
разведки  -  она  проверяет  каждого  солдата,   которого   предполагается
перевести  сюда.  Таким  способом  я  и  узнал,  что  рядовой   Лэт   Фроа
завербовался в армию, только чтобы не работать в отцовском  ресторане.  Он
заявил, что ему невмоготу стоять у  плиты  и  хочется  отведать  настоящей
жизни.  Однако  после  года  армейской  кормежки  он  более  чем  счастлив
приготовить настоящий таиландский обед на здешней кухне,  если  я  достану
все нужные приправы. Я их достал. Повара ничего против  не  имеют,  а  для
личного состава это долгожданное разнообразие. С  двух  часов  столовка  в
полном нашем распоряжении. Мы выступаем в качестве  морских  свинок:  если
нам понравится, Лэт пообещал вечером накормить всех остальных.
     - Мне не терпится попробовать, - сказала Шелли. - Не то  чтобы  здесь
так уж плохо кормили, но хочется чего-нибудь необычного.
     - А как идет расследование? - спросил Брайан, который никогда  о  нем
не забывал. Бен хмуро уткнулся в свой бокал.
     - Рад был бы сообщить какую-нибудь хорошую новость, но  мы,  кажется,
зашли в тупик. Мы достали послужной список  Алекса  Тотта.  Пилот  он  был
выдающийся, об этом говорит множество отзывов. Но сильно пил  -  на  грани
алкоголизма,  и  характер  у  него  был  скверный.  После  войны  от  него
избавились при первой же возможности. По адресу, который он тогда оставил,
мы не нашли никаких его следов. Его пилотские права еще действительны, ФБР
проследило по ним, где он работал. Но сам  он  исчез  -  и  след  простыл.
История, которую рассказал Дасти Родс, подтвердилась. Его  впутали  в  это
дело, а потом предоставили выпутываться, как сможет. Происхождение  денег,
переведенных на его счет, выяснить невозможно.
     - А что будет с Родсом? - спросила Шелли.
     - Теперь  -  ничего.  Остаток  денег,  которые  он  от  них  получил,
реквизирован и передан в  фонд  помощи  жертвам  преступлений,  а  он  дал
подробные показания обо всем, что произошло и  что  он  делал.  Теперь  он
будет вести себя паинькой, иначе ему придется  отвечать  сразу  по  многим
статьям. Мы хотим, чтобы вокруг этого дела не было никакого шума, пока  не
закончится расследование.
     Шелли кивнула и повернулась к Брайану:
     - Расскажите мне о ваших успехах. Удалось вам заставить работать этот
мозг Б?
     - Знаете, удалось, и иногда он работает на удивление  хорошо.  Но  не
настолько часто, чтобы на него  можно  было  положиться.  Там  то  и  дело
происходят какие-то необычные и очень любопытные сбои.
     - Неужели? Я думала, что с помощью "ламы-5" отыскивать дефекты станет
проще.
     - Так оно и есть. Но я думаю,  тут  дело  больше  в  конструкции.  Вы
знаете, что мозг Б должен контролировать мозг А и вмешиваться, когда надо,
чтобы он не сбивался с толку. Теоретически это  должно  получаться  лучше,
когда мозг А не знает, что происходит. Но похоже, что у Робина мозг  А  до
того поумнел, что научился замечать такое  вмешательство,  -  и  попытался
найти способ возвращаться в прежнее состояние. Кончилось  тем,  что  между
ними началась борьба за власть, за управление.
     - Напоминает шизофрению у человека - расщепление личности.
     -  Точно.  Безумие  человека  отражается  в  сумасшествии  машины,  и
наоборот. А почему бы и нет? Когда мозг начинает барахлить, одни и  те  же
причины будут приводить к одним и тем же симптомам - что у машины,  что  у
человека.
     - Должно быть, это не  слишком  приятно  -  когда  ничего  не  можешь
поделать с полоумным мозгом в металлическом корпусе.
     - Да нет, я бы не сказал. Это даже ободряет! Чем больше сбои у робота
напоминают то,  что  случается  с  человеком,  тем  ближе  мы  к  созданию
человекоподобного машинного интеллекта.
     - Но если все хорошо, то чем вы так обеспокоены?
     - А что, это видно? Ну, возможно, дело в том, что я уже  добрался  до
конца тех заметок, которые мы привезли. Проделал  почти  все,  что  в  них
описано. Значит, теперь я отправляюсь в плавание по неведомому морю.
     - А разве обязательно, чтобы этот  ваш  искусственный  интеллект  был
таким же, как тот, который похитили?
     - В общем да, если не говорить о мелочах. Дело в том, что  в  нем  уж
слишком много дефектов -  боюсь,  не  застряли  ли  мы  на  второстепенной
вершине.
     - Что это значит? - спросил Бен.
     - Простая аналогия. Исследователь похож  на  слепого  альпиниста.  Он
лезет в гору и в конце концов добирается до вершины -  дальше  подниматься
некуда. Но поскольку он ничего не  видит,  он  не  может  догадаться,  что
поднялся не на главную вершину, а на соседнюю, пониже, и  что  это  тупик.
Цели ему здесь не достигнуть - для этого  надо  снова  спуститься  вниз  и
искать другой путь к главной вершине.
     - В этом есть смысл, - сказал Бен. - Значит, ты хочешь  сказать,  что
искусственный интеллект, который ты только что построил, -  видимо,  почти
такой  же,  как  тот,  что  похитили,  -   это,   возможно,   всего   лишь
второстепенная гора, а не главная вершина?
     - Боюсь, что так.
     Бен весело присвистнул:
     - Так это же самая лучшая новость, какую только можно придумать!
     - Вы случайно не переутомились?
     - А ты подумай! Это значит, что кто бы ни украл твою  старую  модель,
теперь оказался в таком же тупике, - но он этого даже  не  знает!  А  тебе
никто не мешает усовершенствовать свою машину. И тогда у нас будет то, что
нужно, а у них нет!
     После недолгого раздумья на лице у Брайана появилась широкая улыбка.
     - Конечно, вы правы,  это  действительно  самая  лучшая  новость.  Те
жулики застряли в тупике - а я буду двигаться дальше.
     - Только не сейчас, а после обеда, - заявила Шелли,  ставя  рюмку  на
стол и указывая на дверь. - Выметайтесь  отсюда.  Уже  больше  двух,  и  я
умираю от голода. Еда - прежде всего, а все разговоры - потом.
     Когда они управились с си-хронг-му-сам-ротом - который,  несмотря  на
устрашающее название, оказался необыкновенно вкусным и  представлял  собой
кисло-сладко-соленую свиную грудинку, - у них едва хватило сил на  десерт,
состоявший из вареной на пару тыквы со сладкой начинкой.
     - Никогда больше не буду есть армейского пайка, - проворчал довольный
Брайан, похлопывая себя по животу.
     - Скажите это повару - он будет счастлив, - отозвалась  Шелли.  -  Во
всяком случае, я так и сделаю.
     Лэт Фроа принял их похвалы как должное, удовлетворенно кивая:
     - Неплохо получилось, правда? Если  остальным  парням  понравится,  я
постараюсь добиться, чтобы такие блюда включили в обычное  меню.  Хотя  бы
ради меня.
     Бен распрощался и ушел, а Брайан  и  Шелли  решили  немного  пройтись
после обеда, прежде чем идти в лабораторию.
     -  Мне  не  терпится  -  но  немного  страшно,  -  сказал  Брайан.  -
Отправляться в неведомые моря.  До  сих  пор  у  меня  была  карта  -  мои
собственные заметки,  а  теперь  она  кончилась.  Не  слишком  ли  большая
наглость со стороны четырнадцатилетнего мальчишки  -  надеяться  на  успех
там, где осрамился двадцатичетырехлетний?
     - Ну не скажите. Доктор Снэрсбрук говорит, что вы теперь  соображаете
лучше, чем раньше, - ваш имплантат наделил вас  какими-то  необыкновенными
способностями. А кроме того, вы с ней очень многого  добились,  анализируя
работу вашего мозга, - вы узнали о себе,  наверное,  больше,  чем  мог  бы
узнать целый полк психологов. Я убеждена, что вам все удастся,  Брайан.  И
вы подарите миру нечто совершенно новое.
     - Человекоподобный машинный интеллект - не больше и не меньше!



                          27. 22 ИЮЛЯ 2024 ГОДА

     Проснувшись, Бен прослушал  записи  своего  автосекретаря  и  услышал
голос Брайана:
     - Бен, сейчас четыре утра, и дело в шляпе!  Данных,  которые  были  в
Робине, почти  хватило,  а  остальное  добавила  доктор  Снэрсбрук  -  она
раскодировала кое-что из моего мозга. Это была  каторжная  работа,  но  мы
управились.  Так  что  теперь  Робин  теоретически  содержит  копию  моего
"суперэго". Я велел компьютеру заново пересмотреть все программы Робина  и
попытаться интегрировать то, что в них было, с  новым  материалом.  Теперь
мне  надо  немного  поспать.  Если  сможете,  приходите,   пожалуйста,   в
лабораторию после обеда - я вам все покажу.  Конец  связи  -  и  спокойной
ночи.
     - Дело в шляпе, - сказал Брайан, когда они встретились в лаборатории.
- Данных, уже загруженных  в  Робина,  было  почти  достаточно.  А  доктор
Снэрсбрук добавила остальное - то, что можно назвать матрицей, копию моего
"суперэго". Это, можно сказать, копия того,  как  в  моем  мозгу  работают
управляющие функции самого высшего уровня. Всю память, которая не  связана
с управлением, убрали, и осталась, как мы надеемся,  матрица  действующего
разума. Не так просто было совместить эти программы с  уже  заложенными  в
Робина, но в конце концов нам это удалось. Впрочем, по ходу дела случилось
несколько солидных сбоев - о некоторых вы знаете.
     - Вроде погрома в лаборатории на прошлой неделе.
     - И еще одного - во вторник,  -  добавила  Шелли.  -  Но  все  это  в
прошлом. Теперь наш Свен просто прелесть.
     - Свен?
     - На самом деле - Робин-7: выяснилось, что у шестой модели не хватало
объема памяти.
     - Это все Шелли, - сказал Брайан. - Ей кажется, что когда я со  своим
ирландским выговором произношу "seven"  -  "семь",  получается  похоже  на
"свен". Поэтому она тайком от меня ввела в программу  шведский  акцент,  а
кличка так и осталась.
     - Ну-ха, дайте мне послушать, как  робот  разговаривает  со  шведским
акцентом!
     - К сожалению, ничего не выйдет. Акцент  мы  убрали.  Слишком  смешно
получалось, невозможно было работать.
     - Тоже верно. Ну и когда же ты меня познакомишь с вашим искусственным
интеллектом?
     - Сейчас. Только разбужу Свена, - и  Брайан  указал  на  неподвижного
телеробота.
     - Разбудишь или включишь? - спросил Бен.
     - Компьютер, конечно, работает все время. А  новая  схема  управления
памятью, оказывается, вроде сна у человека - она  сортирует  воспоминания,
накопившиеся за день, чтобы  разрешить  возможные  противоречия  и  убрать
лишнее. Нет смысла загружать память тем,  что  человек  уже  знает.  Свен,
можешь проснуться, - произнес Брайан громко.
     Крышки, закрывавшие три линзы, щелкнув, поднялись. Свен  встрепенулся
и повернулся к ним.
     - Добрый день, Брайан и Шелли. И незнакомец.
     - Это Бен.
     - Рад познакомиться с вами, Бен. Это ваше имя или фамилия?
     - Прозвище, - ответил Бен. Робин опять его не узнал -  уже  в  третий
раз; ничего удивительного, ведь у него  заменили  память.  -  Полностью  -
Альфред Дж.Беникоф.
     - Рад с вами познакомиться, мистер или миссис Беникоф.
     Бен удивленно поднял брови, а Брайан рассмеялся:
     - Свен еще не усвоил всю информацию, касающуюся распозна