Сингулярность - или чрезвычайное ускорение технических средств - сравнима с возникновением на Земле человека, так как порождает такие же радикальные изменения. Развитие электронных систем становится в принципе неуправляемым и необратимым, просчеты компьютеров - настолько быстрыми и сложными, что оказываются недоступными пониманию. Сутью сингулярности является именно ее нечеловеческая природа. Когда она произойдет, эра Homo Sapiens закончится. Но если сингулярность нельзя ни предотвратить, ни ограничить, то насколько неприятными могут оказаться последствия?

Одна из опасностей - физическое истребление человеческого рода. Но это, возможно, не самое страшное. В постчеловеческом мире будет еще полно ниш, где потребуется автоматика, эквивалентная человеку: встроенные системы в автономных устройствах или осознающие себя роботы в низшей функциональности крупных организаций. Некоторые из этих человеческих эквивалентов могут быть использованы всего лишь для обработки сигналов (“пограничник” и “полицай”, к примеру, или “привитый” - “непривитый”). Другие станут настолько зацикленными на какой-то одной теме - борьба с “пандемией”, рост “экономики” или “углеродная нейтральность”, что в человеческое время их принудительно лечили бы от навязчивых состояний.

Во время сингулярности выбрасывание на свалку всех прежних правил происходит в одно мгновение, и нет ни малейшей надежды его остановить. Случаются события, которые, как считалось ранее, могли произойти “где-то через миллион лет” - если вообще могли.

Технологическая сингулярность - та самая точка, где наши прежние модели перестают работать и наступает новая реальность. Чем ближе мы подбираемся к этой точке, тем сильнее нависает эта угроза над всей человеческой жизнью. И когда она все же осуществляется, это становится огромной неожиданностью и еще большей неизвестностью.

Можно ли избежать такого развития? Если нет, то как направить события таким образом, чтобы у нас была возможность выжить? Именно об этом рассуждал в 1993 году писатель-фантаст Вернор Виндж в эссе“ Технологическая сингулярность”.
- “Сотрудничество человека с компьютером может стать столь тесным, - писал он - что пользователей будут рассматривать как обладателей машинного интеллекта. Большие компьютерные сети - вместе с пользователями - могут осознать себя как сущности, обладающие сверхчеловеческим разумом. Каковы следствия этого события? Во-первых, процесс пойдет намного быстрее. Мы, люди, обладаем возможностью строить модель мира у себя в голове, прокручивать всяческие “что, если”, поэтому многие проблемы мы можем решать в тысячи раз быстрее естественного отбора. Теперь, создавая средства, еще сильнее ускоряющие этот процесс, мы входим в режим, который так же радикально отличается от нашего человеческого прошлого, как отличаемся мы сами от рептилий и рыб.”

Что можно сказать о наступлении самой сингулярности? Как фактически она проявится? Событие, которое вызовет лавину, почти наверняка будет неожиданным, произойдет быстрее, чем любая предыдущая техническая революция, и мы окажемся в постчеловеческой эпохе. И даже если все правительства мира осознают эту угрозу и будут от нее в смертельном ужасе, продвижение к этой цели все равно продолжится - на очень высокой скорости. Трудно сказать, на что этот “сверхчеловеческий” мир станет похож, но различие будет глубоким.

Кстати, с человеком техническая проблема уже решена. Электронным системам проще строить из готового материала - людей - чем сообразить, что мы собой представляем, а потом собирать подобные машины. Биологическая жизнь используется для обеспечения свойств, которые невозможно воплотить в железе: таких, как ходьба, поднятие по лестнице, розлив вина по стаканам в ресторане или рукопожатия “лидеров” на “международном” саммите.

В слиянии сетей и машин с человеком есть нечто очень глубокое. К примеру, создание симбиоза человек-компьютер в искусстве: использование пикселей вместо живых актеров - героев фильмов, картины, “нарисованные” сетью и песни, сгенерированные “машинным интеллектом”. Во многих организациях интернет используется для создания рабочих групп, которые действуют только “по протоколу” и рассматриваются как комбинированный организм.

При этом принципиально важно, что приборы (смартфоны) позволяют человеку связываться с сетью без необходимости быть привязанным к месту - столу перед компьютером. Центральной чертой сверхчеловеческих сущностей становится их способность общаться на различной широте полосы пропускания, в том числе на скоростях куда больших, чем нужно для речи или письменных сообщений.

Именно возникновение языка сделало возможным развитие человечества от животного состояния до цивилизации. Но тот же язык породил непрекращающееся безумие и систематизированную, поистине дьявольски изощренную безнравственность. Благодаря языку люди обращают внимание на вещи, понятия и события даже в тех случаях, когда в реальности вещи отсутствуют, а события не происходят. К примеру, “государств”, “наций” или “денег” не существует вообще - это всего лишь вымысел. Но скольких людей принесли в жертву ради “интересов государственной безопасности” и “блага нации”, а сколько пожертвовали собой сами ради пыльцы из желтого металла, кусков бумаги или учетной записи в компьютере? Назвав же реакцию сгустков обработанного песка (кремния) на электрические разряды “техническим прогрессом”, люди устремились туда, где разрушается все, что делает нас “человеком разумным”.

Что произойдет с фрагментами “я”, когда их можно будет копировать и сливать, когда размер “самосознания” сможет расти или сокращаться в соответствии с решаемой задачей? События, которые произойдут после момента технологической сингулярности, мы можем себе вообразить не лучше, чем плоский червь - оперу. Новая эра просто будет слишком иной, чтобы уместиться в классических рамках добра и зла.

И хотя просто воткнуть в мозг сетку широкополосных приемников недостаточно, но предположим, что она встраивается в существующие структуры мозга в момент их образования - при развитии эмбриона.
Для людей все это создает зловещую перспективу. Ведь сингулярность представляет собой не просто уход человечества со сцены - она противоречит нашим глубочайшим концепциям бытия.

Современная “научная догма” о человеческом поведении - абстракция, абсолютно неадекватная фактам. В качестве иллюстрации можно привести полет стрекозы, полет ракеты и разбивающуюся о скалу волну, которые иллюстрируют один и тот же физический закон - движения. Но разница в этих трех примерах не менее важна.

Точно так же в теории роль индивида в обществе может считаться “винтиком”. На практике, когда в мире совершается какая-то работа, то кто конкретно ее делает? Чьи глаза и уши воспринимают информацию, кора чьего мозга думает, чья воля преодолевает препятствия? Уж точно, не “государства”, не “нации”, не “общества” и не “социального окружения”. Все делается отдельными конкретными индивидами. Конечно, на них сильно влияет культура, табу и нравственные правила, информация и дезинформация, пришедшая из прошлого в виде устной традиции или написаной истории. Но что бы индивид ни брал у общества (точнее, чтобы он ни брал у других индивидов, объединенных в группы, или из записей, сделанных другими индивидами), это будет использовано им лично, уникальным, только ему присущим способом, посредством его особых чувств, биохимических особенностей его организма, его телесного здоровья, характера и темперамента - его, и ничьего больше. Стремление же к “порядку” и навязывание единообразия привело к забвению и игнорированию этого факта.

Но допустим, что мы можем скроить сингулярность по своим меркам. Допустим, мы можем воплотить самые причудливые свои надежды. Чего тогда мы будем просить? Справедливости и бессмертия? Но разум, сохраняющий свою емкость, не может жить вечно: после нескольких тысяч лет он превратится из личности в закольцованную магнитную ленту.

Пришествие сингулярности - неизбежное следствие человеческой конкуренции и неотъемлемых возможностей техники. Но ее инициаторы - мы. Ведь даже самая огромная лавина возникает из-за маленького камешка.
В 1958 году Олдос Хаксли сравнил вымышленный им тридцать лет назад мир далекого будущего с тем, что произошло в реальности за эти десятилетия, и нашел приметы пугающего, опасного и все более явного сходства.
- “Наш мир являлся кошмаром, в котором было мало порядка, в “Дивном новом мире” этого порядка - слишком много. Я полагал, что переход от одной крайности к другой займет весьма значительное время. Но сейчас я испытываю куда меньше оптимизма. Кошмар тотальной организации, которую я описал, переместился из своего безопасного далека и поджидает нас за ближайшим поворотом.”

Многие историки, социологи и психологи исписали груды бумаги, озабоченные ценой, которую человек платит сейчас и будет платить впредь за неконтролируемое развитие техники. Возникшие в результате большие компании контролируются государством, то есть небольшой группой партийных “лидеров”, военных, полицейских и гражданских чиновников, выполняющих ее приказы. Она непосредственно эксплуатирует людей, работающих на ее предприятиях, в учреждениях и магазинах, контролирует еще большее количество, одалживая им деньги на покупку своей продукции. А благодаря монополии в области средств массовой коммуникации влияет на мысли, чувства и поступки практически всего населения. Безличные силы, которые нам практически неподвластны, упорно толкают нас в кошмар дивного нового мира. А непрерывно продолжающийся кризис оправдывает перманентный контроль всего и вся агентами центральных правительств.

Представим себе промышленно развитую “демократическую” страну, в которой наблюдается упадок физического и умственного здоровья нации. Как долго сможет такое общество поддерживать традиции индивидуальной свободы и демократического способа правления?

С биологической точки зрения человек – животное, отличающееся умеренной тягой к общению, в этом отношении люди больше похожи на волков или, скажем, на слонов, чем на пчел или муравьев. Но сейчас термитник становится вполне реализуемым, а по мнению некоторых, даже желаемым идеалом. (Принцип работы сетей интернета такой же, которые уже десятки миллионов лет есть у муравьев. Суть их “коллективного интеллекта” - в оставлении “меток”. Нашедший еду бежит в муравейник, выделяя феромон. Второй, унюхав этот феромон, бежит по нему и тоже выделяет. Таким образом, чем больше муравьев пробежало по этой дорожке, тем сильнее она пахнет, тем сильнее все бегут, толпами устремляясь к еде. Абсолютно так же нашими “цифровыми следами” питается “поисковая” система: куда люди ходят, на какие сайты, какова их популярность и так далее). Этот “идеал” никогда не будет достигнут, но то, что нас ведут в этом направлении, совершенно очевидно.

Ключевыми понятиями этики сейчас являются “приспособление, адаптация, социально ориентированное поведение, работа в команде, жизнь в группе, коллективное мышление и коллективное творчество”. Утверждается, что общественное всегда более ценно, чем индивидуальное, и права коллектива имеют преимущество перед тем феноменом, который еще в восемнадцатом веке был назван правами человека.

Для индивидуального термита служение термитнику есть совершенная свобода. Но люди - не термиты, они всего лишь в меру общительны. Поэтому по-настоящему безнадежные жертвы душевного страдания как раз находятся среди тех, кто выглядит совершенно нормальным. Их человеческий голос был заглушен на такой ранней стадии жизни, что они не боролись, а поэтому и не страдали. Но их идеальная адаптация к ненормальному обществу как раз и является мерой душевного заболевания.

В ходе эволюции природа породила великую проблему, создав индивидов абсолютно непохожими друг на друга. Наследственные факторы комбинируются между собой бесчисленными способами, и в результате каждый из нас уникален - физически и духовно.

Поэтому любая культура, которая в интересах “эффективности” или во имя какой-либо догмы пытается стандартизировать человеческую индивидуальность, совершает преступное насилие над биологической природой человека. Ведь для того, чтобы соответствовать правилам общества, индивидам приходится урезать свою индивидуальность, отказываться от врожденного разнообразия и втиснуться в стандартные рамки - то есть сделать все, чтобы превратить себя в автоматы.

На Нюрнбергском процессе гитлеровский министр вооружений Альберт Шпеер произнес длинную речь, в которой с поразительной ясностью описал фашистскую тиранию и проанализировал ее методы. “Гитлеровская диктатура, - сказал он, - отличалась от всех своих предшественниц в одном фундаментальном пункте. Это была первая диктатура, оснащенная всеми техническими достижениями современности, диктатура, в полной мере воспользовавшаяся техническими средствами ради достижения абсолютного господства. С помощью радиоприемников и уличных громкоговорителей она лишила восемьдесят миллионов человек способности независимо и самостоятельно мыслить”.

За время, прошедшее после правления Гитлера, арсенал технических средств значительно расширился, и Большой Брат стал почти таким же вездесущим, как Бог.

При этом никто не мог предвидеть, что произойдет на самом деле - появление огромной индустрии средств массовой информации, озабоченной не правдой или ложью, а заполнением газет и эфира пустой информацией, не имеющей отношения к реальности. Никогда не было ничего похожего на современное безостановочное отвлечение, которое сознательно используются как политический инструмент, призванный мешать людям обращать внимание на социальные реалии окружающей жизни. Общество, большая которого проводит время не “здесь и сейчас”, а постоянно пребывает в пустых мирах спорта, мыльных опер и виртуальных фантазий, не сможет эффективно сопротивляться посягательствам, стремящихся его контролировать и манипулировать им.

Иррациональная пропаганда предлагает ложные или искаженные свидетельства, избегает логичной аргументации и пытается влиять на своих жертв беспрестанным “вбиванием” слов-ловушек, яростными обличениями и искусным сочетанием низменных страстей с высокими идеалами. Она опирается на повторение, подавление и возбуждение. Повторение лозунгов, подавление фактов, возбуждение страстей, которые можно использовать в чьих-то интересах.

При этом стресс, тяжелый настолько, чтобы спровоцировать полный отказ мозга от работы, можно вызвать с помощью методов, которые, хотя и являются абсолютно антигуманными, не предусматривают физических пыток.

В ходе знаменитых экспериментов по исследованию условных рефлексов Иван Павлов выяснил, что у лабораторных животных, подвергавшихся длительному психическому стрессу мозг либо прекращал работать вообще, либо замедлял свою деятельность и отказывался работать нормально. Даже самые выносливые собаки не могли сопротивляться стрессу до бесконечности. Если он был достаточно сильным и продолжительным, то они ломались так же быстро и необратимо, как и их более слабые собратья.

Каждый человек, как и каждая собака, имеет свой предел выносливости. Но безнадежный невротик никому не нужен и неинтересен. От него нет никакой пользы. Поэтому модели нового поведения внедряются в мозг, когда тот находится у пределов своей выносливости. Искоренить эти новые, усвоенные модели поведения уже невозможно. Выработанный таким образом условный рефлекс сохранится навсегда.

Психологический стресс можно вызвать множеством разнообразных способов. К примеру, когда жертва долго остается в “подвешенном” состоянии, когда мозг теряется от противоречий, которые не имеют никакого смысла в пределах понимания. Интенсивный длительный страх надламывает человеческую психику и способствует состоянию повышенной внушаемости. Нескончаемая травля вызывает у жертвы замешательство, хроническую тревогу и чувство вины.

Промывание мозгов в том виде, в каком оно практикуется сейчас, является гибридной методикой, основанной отчасти на насилии, а отчасти - на психологическом манипулировании, проходя путь от традиций “1984” к “О дивному новому миру”. Представители низшей касты подвергаются дрессуре с раннего детства, им внушается “долг” жить, работать и умирать без всяких протестов, не создавая проблем “высшей”. Сильные мира сего, таким образом, становятся поводырями и конвоирами полностью “одомашненного” вида.

Религия, утверждал, Карл Маркс, есть опиум для народа. В дивном новом мире ситуация опрокинулась - опьянение ради государства стало религией. Современные антидепрессанты позволяют временно избавиться от нервного напряжения. С помощью влияния на химические процессы в головах людей можно избежать недовольства со стороны подданных. Транквилизаторы - для успокоения противников, стимуляторы - для вызывания восторга у равнодушных, галлюциногены - для отвлечения людей от их несчастий. В условиях диктатуры фармацевты просто меняют ассортимент продаж. Во время кризиса в аптеках увеличат продажи стимуляторов. В периоды же между кризисами слишком большая активность населения может создать проблемы. В такие времена подданных необходимо держать на антидепрессантах. Успокоенные этими средствами подданные не станут бунтовать и выдвигать нежелательные требования.

Но хотя слишком большое напряжение - это болезнь, бывают ситуации, когда мы должны быть напряжены, и именно чрезмерное спокойствие является абсолютно неприемлемым. Британский математик Ирвинг Гуд, работавший дешифровальщиком во время Второй мировой войны вместе с Аланом Тьюрингом, утвержал:
- “Первая “интеллектуальная” машина будет последним изобретением, которое придется сделать человеку - это при условии, что машина будет достаточно любезна, чтобы рассказать нам, как удержать ее под контролем”.

Гуд понял суть процесса, но не стал разрабатывать его наиболее тревожные последствия. В шестидесятых-семидесятых годах предвидение катастрофы стало более распространенным - авторы пытались описать, что конкретно может с нами сделать технологии. Они увидели, что их самые тщательные экстраполяции обещают непознаваемое уже в ближайшем будущем.

Впрочем, все это может и не наступить. Хотя бы потому, что мы так и не научились делать нужный софт (или, выражаясь мистически, “находить душу в железе”). Программные проекты, создаваемые для использования возрастающей мощи аппаратуры, заканчиваются все более и более оглушительным крахом. При этом крах настолько глубок, что никаким количеством денег его невозможно замаскировать. Сбои в крупных, полностью автоматизированных проектах приводят к катаклизмам. Так, недосмотр человека-диспетчера приведет к столкновению двух самолетов, глюк в полностью автоматизированной системе сведет в одной точке пространства-времени десяток. Компьютерный сбой может организовать “всемирную пандемию”, любую войну или голод.

Инженеры Google и Facebook считают, что чипы становятся непредсказуемыми именно из-за постоянного уменьшения размеров. Вся микроэлектроника выходит из строя из-за перегрева, интенсивного использования компьютера, перепада напряжения, механического воздействия и огрехов при проектировании и сборке. Они фиксируют рост числа неполадок, связанных с работой процессоров. Например, устройства выявляют несуществующие ошибки в многочисленных приложениях. При этом дополнительная диагностика при их разработке не подтверждает наличие ошибок.

В 1992 году корпорация Thinking Machines Corporation провела семинар по теме “Как мы будем строить машину, которая думает”. Общим мнением было то, что могут существовать разумы на небиологической основе, и что в существовании таких “разумов” основную роль играют алгоритмы. Основные споры шли лишь насчет чисто аппаратной мощности. На этом семинаре лишь очень незначительное меньшинство предположило, что мощность нейронов человеческого мозга может быть гораздо выше, чем это принято считать. Поэтому аппаратное обеспечение любых компьютеров будет на тысячи порядков от него отставать.

В 2015 году профессор Эндрю Эллис предупредил, что линии передачи интернет-трафика не смогут справиться с нагрузкой. Пользователям придется дорого платить за доступ в сеть или же сталкиваться с ограничениями на его использование. За десять лет - с 2005 - по 2015-й скорость доступа в интернет выросла в среднем в 50 раз - с двух до 100 мегабит в секунду. Это спровоцировало появление “трафикоемких” сервисов - например, транслирующих высококачественное видео, которые пользуются большой популярностью. В результате уровень трафика заметно вырос и вскоре достигнет своего максимально допустимого значения, когда каналы физически перестанут справляться с объемами передаваемой информации.

К тому же, кривые роста производительности аппаратуры начинают постепенно снижаться. В конце концов у нас в руках окажется очень мощное аппаратное обеспечение, но усилить его уже не получится. Коммерческая скорость обработки сигналов будет впечатляющей, придающей “реальный” вид даже цифровым операциям, но ничего нигде не “проснется”. Последними падут хранилища данных. Поэтому в итоге у нас будут необычайно хорошие аудио-визуальные продукты для развлечений. Это, вероятно, будет рассматриваться как золотой век.

Впрочем, до этого технологии могут вызвать ужаснейшие разрушения. Даже при самом аккуратном планировании произойдет мегакатастрофа, и в худшем случае на Земле может погибнуть все живое.

Но предположим, что человечество все же переживет начало XXI века. Каковы будут перспективы человеческой эры после выхода из века несбывшихся мечтаний?

К счастью, в глобальном историческом масштабе мы - люди - народ упорный. Человеческая психика пластична и меняется даже за время существования одного поколения. Когда у людей есть надежда, информация и общение, просто диву даешься, как быстро они начинают вести себя с мудростью, далеко превосходящей давление так называемых “элит”.


Ирина Табакова

Дорогие друзья!
Так как счет издателя "Новости Хельсинки" (European values) по требованию финских бюрократов закрыт, вы можете перечислить любую сумму на тот счет, который еще работает:
IBAN FI25 1820 3000 0185 31 BIC NDEAFIHH
Nordea Bank Finland

Наша новая книга "Постгуманизм" уже сверстана - нужны только средства на ее печать: 20 000 евро