ным. Таким образом, возникает вопрос: "может ли", то есть "имеет ли право", "организм-предприятие" в случае нужды "пожирать" своих конкурентов? Имеется много таких вопросов; правда, возможно, не столь острых. К чему должно стремиться такое гомеостатическое предприятие - к максимальной производительности или к максимальной прибыли? А что, если с ходом времени неизбежные технологические сдвиги сделают производство стали ненужным? Должна ли "тенденция к выживанию", вмонтированная в "мозг" такой производственной системы, привести к ее полной перестройке, так чтобы, например, она сама преобразовала себя в производителя пластмасс? Чем должна руководствоваться такая система при подобной полной реорганизации - степенью максимальной общественной полезности? Или, опять-таки, величиной прибыли? Бир избегает ответов на подобные вопросы. Он говорит, что над "мозгом" предприятия стоит еще наблюдательный совет владельцев, который и принимает самые общие и важные решения. "Мозг" призван только оптимально реализовывать эти решения. Тем самым Вир отрекается от "автономно-организменного" принципа, входящего в его концепцию, и выносит все моральные проблемы за пределы "черного ящика": в сферу деятельности наблюдательного совета. Но это только кажущийся выход. "Черный ящик", даже ограниченный таким способом, все равно будет принимать решения морального характера, например при увольнении рабочих или снижении заработной платы, коль скоро этого потребует принцип оптимального функционирования предприятия как целого. Легко представить себе также, что предприятие-гомеостат Бира может вступить в "борьбу за существование" с другими предприятиями, которые спроектированы кибернетиками, состоящими на службе у других корпораций. Либо все эти машины будут настолько ограничены в своей деятельности, что им придется непрестанно обращаться за решением к "менеджеру"-человеку (например, запрашивать его, скажем, о том, можно ли сокрушить конкурента, если подвернулся случай), либо же их деятельность, обремененная моральными последствиями, будет расширяться. В первом случае нарушается основной принцип саморегуляции гомеостата-производителя. Во втором случае гомеостаты начнут оказывать на судьбу людей влияние, очень часто непредвиденное их творцами, и дело может дойти до краха экономики страны в целом просто потому, что какой-то из гомеостатов слишком хорошо справляется с порученным ему делом, сметая всех своих конкурентов... Почему в первом случае оказывается нарушенным принцип действия "черного ящика"? Потому что такой "ящик", такой регулятор нисколько не похож на человека - в том смысле, что ему нельзя задавать вопросы об общественных последствиях принимаемых им на каждом этапе решений и ожидать, что он сможет ответить на эти вопросы. Кстати говоря, даже человек-"менеджер" зачастую не знает этих отдаленных результатов своей деятельности. "Черный ящик", который должен "помочь выжить" предприятию, реагируя на всевозможные флуктуации "входов" (цены на уголь, руду, машины, зарплату) и "выходов" (рыночных цен на сталь, спроса на различные ее сорта), и "черный ящик", который к тому же учитывал бы интересы рабочих, а может быть, даже и конкурентов, - это два совсем разных устройства. Первое как производитель будет эффективнее второго. Вред, который гомеостаты наносят рабочим, можно, разумеется, ограничить, введя в исходную программу (в "аксиоматическое ядро" поведения) статьи трудового законодательства, обязательного для всех выступающих на рынке производителей; но тем самым может быть увеличен вред для конкурирующих фирм или производителей стали в других странах. Однако самое важное состоит в том, что "черный ящик" не знает, когда именно он действует во вред кому-то, и от него нельзя требовать, чтобы он информировал людей о таких последствиях принимаемых им решений; ведь ex definitione 4 никто из людей, в том числе и конструктор-проектировщик, не знает его внутренних состояний. Внедрение гомеостатических регуляторов приводит к последствиям такого рода. Их-то и имел в виду Норберт Винер 5, когда в новом издании своего основополагающего труда "Кибернетика" посвятил отдельную главу непредвиденным результатам деятельности гомеостатов. Могло бы показаться, что опасность такого рода можно устранить в зародыше, создав "черный ящик" высшего типа в качестве "машины для управления", но не людьми, а подчиненными ей "черными ящиками" отдельных производителей. Последствия такого шага оказываются чрезвычайно интересными.


1  Катастрофа, вызванная талидомидом, описана в книге Г. Глезера, Новейшие победы медицины ("Молодая гвардия", 1966). - Прим. ред 2  Эвтаназия (греч.) - безболезненное умерщвление, якобы в гуманных целях. - Прим. ред. 3  Ст. Бир, На пути к кибернетическому предприятию, в сб. "Принципы самоорганизации", изд-во "Мир", 1966. 4  По определению (лат.). 5  Н. Винер, Кибернетика, или управление и связь в животном и машине, изд. 2-е, изд-во "Советское радио", 1968.




[  Титульный лист  ]
[  Содержание ]
 <=  Глава четвертая (f) ]
[  Глава четвертая (h)  =>











Станислав ЛЕМ

СУММА ТЕХНОЛОГИИ





[  Титульный лист  ]
[  Содержание ]
 <=  Глава четвертая (g) ]
[  Глава четвертая (i)  =>



ГЛАВА ЧЕТВЕРТАЯ

ИНТЕЛЛЕКТРОНИКА


(h) ОПАСНОСТИ ЭЛЕКТРОКРАТИИ Итак, стремясь избежать общественно вредных результатов, к которым приводит деятельность "черных ящиков" в качестве регуляторов отдельных производственных единиц, мы возводим на трон экономической власти Черный ящик - Регулятор наивысшего ранга. Предположим, что он ограничивает свободу производственных регуляторов и неким программированием, равносильным законодательству, заставляет их соблюдать законы о труде, быть лояльным по отношению к конкурентам, стремиться ликвидировать резервную армию труда (то есть безработицу) и так далее. Возможно ли это? Теоретически - да. На практике, однако, такое программирование обременено огромным числом, мягко говоря, "неувязок". Черный ящик, как очень сложная система, не поддается описанию; алгоритм его никому не известен и не может быть известен, его действия носят вероятностный характер, и, значит, поставленный дважды в одну и ту же ситуацию, он вовсе не обязан поступать одинаково. Кроме того, - и это, наверное, самое важное - Черный ящик есть машина, которая учится на собственных ошибках в процессе предпринимаемых ею конкретных действий. Из самых основ кибернетики следует, что Властелин Экономики - Черный ящик, который был бы заранее всеведущ и умел бы предвидеть все последствия принимаемых им решений, построен быть не может. Лишь с течением времени регулятор будет приближаться к этому идеалу. Как быстро - этого мы определить не умеем. Быть может, он сначала подвергнет государство целой серии ужасных кризисов, из которых постепенно его выведет. Быть может, он заявит, что между аксиомами, введенными в Программу действия, существует противоречие (например, невозможно проводить экономически рентабельную автоматизацию производственных процессов и одновременно стремиться к уменьшению безработицы, если параллельно не будет проводиться множество иных мероприятий, вроде субсидируемого государством или капиталом переобучения лиц, потерявших работу, и т.п.). Что тогда? Трудно вдаваться в детальный анализ столь сложной проблемы. Можно только сказать: Черный ящик, будь то регулятор производства в одном из его звеньев или же универсальный регулятор в масштабах всего государства, всегда действует при неполном знании. Иначе и быть не может. Допустим, что, проделав много проб и совершив много ошибок, сделав при этом несчастными миллионы людей, Черный ящик - Властелин Экономики - приобретет огромные знания, неизмеримо большие, чем знания всех буржуазных экономистов, вместе взятых. Но даже и тогда никто не может поручиться, что очередную порожденную новыми причинами флуктуацию он не попытается ликвидировать такими методами, от которых у всех, не исключая и его создателей, зашевелятся волосы. Рассмотрим такую возможность на конкретном примере. Предположим, что прогнозирующий блок ("подсистема") "черного ящика" замечает опасность, грозящую состоянию гомеостатического равновесия, благополучно достигнутому, наконец, после многих качаний. Опасность возникает из-за того, что прирост населения превышает имеющуюся в данный момент у цивилизации возможность удовлетворять человеческие потребности. Именно, пусть при нынешнем приросте начиная с будущего года или же по прошествии тридцати лет уровень жизни станет неуклонно понижаться. Пусть одновременно по одному из "входов" в "черный ящик" поступила информация об открытии некоего химического соединения, которое вполне безвредно для здоровья и вызывает такое падение возможности овуляции, что при постоянном употреблении этого средства женщина может зачать лишь в считанные дни (а не так, как сейчас: в какой-либо из ста с лишним дней в году). Тогда "черный ящик" принимает решение ввести необходимые микроскопические дозы этого соединения в питьевую воду во всех водопроводных сетях государства. Разумеется, для успеха операции ее нужно держать в тайне; в противном случае прирост населения снова проявит тенденцию к увеличению, так как многие люди наверняка будут стараться пить воду без этого средства, например воду из рек или из колодцев. Следовательно, "черный ящик" станет перед дилеммой: либо информировать общество - и наткнуться на его противодействие, либо не информировать - и тем самым сохранить (для всеобщего блага) состояние существующего равновесия. Допустим, что для охраны общества от стремления "черного ящика" к подобным формам "криптократии" 1 программой "ящика" предусмотрена обязательная публикация всех намеченных изменений. Кроме того, у "ящика" есть специальный "стоп-кран", который пускается в ход всякий раз, как только возникает ситуация вроде вышеописанной. Благодаря всему этому регулятор, принимающий решениями состоящий из людей), отменит план, выработанный "ящиком". Трудность, однако, в том, что столь простые ситуации будут довольно редки, а. в огромном большинстве случаев "орган, принимающий решения", не будет знать, не пора ли как раз дернуть за "стоп-кран". Впрочем, от слишком частого применения этого тормоза вся регулирующая деятельность "ящика" стала бы иллюзорной, а общество поверглось бы в совершенный хаос. Не говоря уже о том, что в высшей степени неясно, чьи, собственно, интересы представлял бы этот "орган". Например, в нынешних Соединенных Штатах Америки подобный "орган" наверняка заблокировал бы введение бесплатной медицинской помощи и системы пенсий (как это в действительности и сделал Конгресс, тогда как роль предложившего такие изменения, но остановленного при помощи "стоп-крана" "ящика" сыграл президент Дж. Кеннеди). Чьи бы интересы ни представлял этот орган, не следует недооценивать способностей "черного ящика". Один, другой, третий раз "заторможенный" в своих начинаниях, он, вероятно, выработает новую стратегию. Он будет, например, добиваться, чтобы люди как можно позже вступали в брак, а малое количество детей было особенно выгодно экономически. А если и это не даст желательных результатов, он постарается уменьшить прирост населения еще более окольным путем. Допустим, что некое лекарство предотвращает кариес зубов. Пусть употребление этого лекарства в определенном проценте случаев вызывает мутацию генов, и пусть новый мутировавший ген сам по себе еще не уменьшает плодовитости, а делает это лишь при встрече с другим, также мутировавшим геном; последний возник благодаря применению другого лекарства, употребляемого довольно давно. Это второе лекарство избавило, скажем, мужскую половину рода человеческого от терзаний, связанных с преждевременным облысением. Тогда "черный ящик" будет всячески распространять лекарство против кариеса, и в результате он добьется своего: по прошествии некоторого срока количество обоих (рецессивных) мутировавших генов в популяции возрастет и они будут соединяться довольно часто, а это уменьшит прирост населения. Почему же, спросите вы, "черный ящик" не информировал вовремя широкие круги об этом своем начинании; ведь мы же сказали, что, согласно введенным в него правилам действия, он о_б_я_з_а_н и_н_ф_о_р_м_и_р_о_в_а_т_ь обо всех изменениях, которые намерен провести? Он не станет информировать общество вовсе не из "хитрого." или "демонического" расчета, а попросту потому, что он сам не будет знать, что, собственно, делает. "Черный ящик" - отнюдь не "электронный сатана", не всеведущее существо, кое рассуждает как человек или сверхчеловек, а всего лишь устройство, которое непрерывно ищет связи, статистические корреляции между отдельными общественными явлениями, исчисляемыми миллионами и тысячами миллионов. Как регулятор, он оптимизирует экономические отношения, поэтому состояние высокого жизненного уровня населения является и состоянием его собственного равновесия. Прирост населения угрожает этому равновесию. В какой-то момент "ящик" обнаружит положительную корреляцию между падением прироста населения и применением лекарства от кариеса. "Ящик" информирует об этом "совет", там проведут исследования и установят, что данное лекарство не уменьшает плодовитости (ученые "совета" будут экспериментировать на животных, а те ведь не употребляют средств против облысения). "Черный ящик" ничего от людей не скрывал, ибо и сам он ничего не знал о генах, мутациях и причинной связи между введением двух лекарств и падением рождаемости. Он всего лишь обнаружил искомую корреляцию и стремится ее использовать. Даже и этот пример грешит упрощенностью, хотя и не является неправдоподобным (как свидетельствует скандал с талидомидом). В действительности "черный ящик" будет идти еще более окольными путями, шаг за шагом, "не ведая, что творит", поскольку он стремится к состоянию ультрастабильного равновесия, а открываемые им и используемые для поддержания этого равновесия корреляции явлений отражают очень сложные процессы, которых он не изучает и о причинах которых ничего не знает (то есть не обязан ничего знать). В конце концов лет через сто может оказаться, что ценой, которую пришлось заплатить за рост жизненного уровня и уменьшение безработицы, служит хвостик, вырастающий у каждого шестого ребенка, или общее падение показателя интеллекта в обществе (ведь более умные люди в большей мере мешают регулирующему действию машины и она будет стремиться уменьшить их число). По моему мнению, совершенно ясно, что "аксиоматика" машины не в состоянии учесть заранее всех возможностей: от "хвостика" до всеобщего кретинизма. Тем самым мы совершили reductio ad absurdum - привели к нелепости теорию Черного ящика как Верховного регулятора человеческого общества.


1  Криптократия - тайновластие (греч.). - Прим. ред.




[  Титульный лист  ]
[  Содержание ]
 <=  Глава четвертая (g) ]
[  Глава четвертая (i)  =>











Станислав ЛЕМ

СУММА ТЕХНОЛОГИИ





[  Титульный лист  ]
[  Содержание ]
 <=  Глава четвертая (h) ]
[  Глава четвертая (j)  =>



ГЛАВА ЧЕТВЕРТАЯ

ИНТЕЛЛЕКТРОНИКА


(i) КИБЕРНЕТИКА И СОЦИОЛОГИЯ Теория "черного ящика" как регулятора общественных процессов потерпела фиаско по нескольким причинам. Во-первых, одно дело - регулировать заранее заданную систему, то есть, например, стремиться создать регулятор, который поддерживал бы гомеостаз капиталистического общества, и совсем другое дело - регулировать систему, з_а_п_р_о_е_к_т_и_р_о_в_а_н_н_у_ю на основе соответствующих социологических знаний. В принципе можно регулировать любую сложную систему. Но отнюдь не обязательно регулируемый - если им является общество - станет приветствовать используемые методы или их результаты. Если формация - как, в частности, капиталистическая формация - склонна к самовозбуждающимся колебаниям (бумы и кризисы), то регулятор может счесть необходимым применить для устранения этих колебаний такие меры, которые вызовут бешеный протест. Легко вообразить реакцию хозяев "предприятия-гомеостата" Стаффорда Бира, если "мозг" этого гомеостата вдруг заявит, что для сохранения гомеостаза нужно обобществить средства производства или хотя бы вдвое уменьшить прибыли. Если задана система, то вместе с тем заданы и законы ее поведения - в определенных границах изменений. Ни один регулятор не может отменить эти законы, ибо это было бы сотворением чуда. Регулятор может только выбирать из доступных для реализации состояний системы. Биологический регулятор - эволюция - может увеличивать либо размеры организма, либо его подвижность. Не может возникнуть кит с маневренностью блохи. Следовательно, регулятор должен искать компромиссные решения. Если определенные параметры представляют собой "табу" (как, например, частная собственность при капитализме), то выбор возможных шагов сокращается, и может оказаться, что единственный способ поддержать "равновесие" в системе - применение силы. Мы взяли слово "равновесие" в кавычки, ибо это равновесие падающего здания, стянутого железными обручами. Тот, кто подавляет самовозбуждающиеся колебания системы, применив силу, тот отбрасывает сам принцип гомеостаза, ибо самоорганизацию он заменяет насилием. Именно так и возникали известные из истории формы власти - тирания, абсолютизм, фашизм и т. п. Во-вторых, с точки зрения регулятора отдельные элементы системы должны располагать только теми знаниями, которые необходимы для их функционирования. Этот принцип, не вызывающий протеста у машины или живого организма, противоречит постулатам людей: ведь мы, как элементы общественной системы, жаждем обладать не только информацией, касающейся наших собственных действий, но и той, которая относится к системе как целому. Поскольку подключенный к обществу "внечеловеческий" регулятор ("черный ящик") тяготеет к тем или иным проявлениям криптократии, постольку нежелательной является любая форма общественного гомеостаза, использующая "правящую машину". Если же имеет место второй из упомянутых выше случаев - регулирование системы, запроектированной на основе социологической науки, - то и тогда нет гарантий, что достигнутое состояние равновесия в будущем не окажется в опасности. Ведь цели, которые ставит перед собой общество, не одинаковы во все времена. Гомеостаз - это не "устойчивость ради устойчивости", это явление телеологическое. Поэтому вначале, при проектировании, цели регулятора и подвластного ему общества будут взаимно покрываться, но впоследствии тут могут возникнуть антагонизмы. Общество не может снять с себя тяжесть решения своей судьбы, отдать эту свободу во власть кибернетического регулятора. В-третьих, количество степеней свободы, каким обладает общество в процессе развития, больше числа степеней свободы процесса биоэволюции. Общество может совершить внезапное изменение формации, может внезапно, скачком улучшить отдельные сферы своей деятельности, введя в них "кибернетических администраторов" с ограниченными, но широкими полномочиями. Все эти революционные изменения для биоэволюции невозможны. Таким образом, общество не только имеет большую свободу внутренних действий, чем живой отдельно взятый организм (с которым его неоднократно сравнивали прежде), но даже большую, чем все организмы в процессе эволюции, взятые вместе. В истории известны различные общественные формации; с точки зрения классификации все они являются как бы "типами" - высшими иерархическими единицами. Динамика связей внутри формации определяется ее экономикой, но неоднозначно. Так, одна и та же формация может использовать различные экономические "модели", варьируя в определенных пределах свои параметры. При этом частные значения этих параметров не позволяют еще установить тип формации. При капиталистической формации может процветать кооперация, но от этого формация не перестает быть капиталистической. Лишь одновременное изменение целого ряда существенных параметров может изменить не только экономическую модель, но и стоящий над ней тип формации, ибо в этом случае меняется вся совокупность общественных отношений. Таким образом, одно дело - регулятор данной формации и совсем иное - такой регулятор, который может преобразовать (если сочтет это необходимым) данную формацию в другую. Поскольку люди сами х