Четвертая мировая война. Будущее уже рядом - Курпатов Андрей (читать книги без регистрации полные TXT) 📗
Прошло не так много времени с публикации того моего «снобовского» цикла статей, а количество «критиков» уже существенно поубавилось.
То, что казалось каким-то совершенно отдалённым будущим: машины-беспилотники,
3D-принтеры, позволяющие работать практически с любыми материалами, чипы в человеческих головах, детальная персонализация человека по его поведению в сети и т. д., – всё это уже, так сказать, в дверях.
Речь идёт не о каких-то «нюансах», а о системной проблеме: перед нами не только собственно технологические риски, но и экономические, общественно-политические, экзистенциальные.
• Технологические риски связаны прежде всего с возможностью неконтролируемого развития искусственного интеллекта.
• Экономические риски связаны с массовой безработицей, обусловленной полной автоматизацией производства, что приведёт к системному кризису современной модели экономики.
• Общественно-политические риски – это и возможная кибервойна, и возникновение тоталитарных государств (квазигосударств), управляемых собственниками BigData.
• Экзистенциальные риски в грядущем цифровом мире связаны с утратой человечности в традиционном её понимании, а также с интеллектуальной деградацией общества.
Каждое из этих направлений разрабатывается независимыми экспертами, в университетской среде и исследовательскими компаниями. Идёт активная дискуссия, но общей картины пока, к сожалению, нет.
В этой книге я постараюсь рассказать о проблемах, связанных с наступлением «четвёртой промышленной революции», торжественно провозглашённой на Давосском экономическом форуме его бессменным президентом Клаусом Швабом.
Да, когда представители гигантского транснационального бизнеса самозабвенно рассказывают нам о грядущем счастье, я предпочитаю говорить о реальности. Мы должны оценить, насколько указанные риски взаимосвязаны и какова вероятность, что они вызовут эффект домино.
Ну и, конечно, я добавлю к этому скорбному списку свою «ложку дёгтя». Даже примеряя на себя роль футуролога, я не могу перестать быть врачом-психиатром, а на мой профессиональный взгляд, самой серьёзной проблемой нового времени будет деформация психики человека.
Этому аспекту, этому «слабому звену» обычно уделяется совсем мало внимания, но именно это «звено», как мне кажется, и запустит ту самую цепочку падающих друг на друга костяшек домино.
Но обо всех костяшках по порядку…
Глава первая
Цифровой рай
Лучший способ предсказать будущее – это изобрести его.
В этой главе мы рассмотрим скорое будущее, которое нам обещает главный пророк современных технологий – Рэй Курцвейл.
Рэй Курцвейл – личность, без преувеличения, легендарная. С победами на поприще информатики его поздравляли президенты США – Линдон Джонсон (Рею было тогда 20 лет от роду) и Билл Клинтон, вручивший Курцвейлу в 1999 году информационного Нобеля – National Medal of Technology.
Курцвейл создал первый музыкальный синтезатор, первый планшетный сканер, первую читающую машину для слепых, первым научил компьютеры распознавать человеческую речь. И это только некоторые из его личных достижений, не считая работы на Google, IBM ит. д.
Сейчас Курцвейл работает техническим директором Google, где возглавляет все работы по искусственному интеллекту. А в качестве хобби создаёт помощника, «способного отвечать на наши вопросы ещё до того, как вы их сформулируете». Нет, я не шучу. Это цитата.
Впрочем, Рэй Курцвейл, конечно, более известен широкой общественности как футуролог. В книге «Эпоха духовных машин» он сформулировал «закон ускоряющейся отдачи», который позволяет ему с удивительной точностью предсказывать – буквально по годам – достижения в области развития компьютерных технологий и искусственного интеллекта.
Да будет так!
Я придумал закон ускоренной отдачи, чтобы правильно рассчитывать время в моих собственных технологических проектах: чтобы я мог начинать их за несколько лет до того, как они станут осуществимыми.
Согласно закону ускоряющейся отдачи, развитие технологий происходит экспоненциально: то есть чем мощнее становится та или иная технология, тем большее ускорение в своём развитии она приобретает.
«За семь лет проект “Геном человека” [2] собрал один процент генома, – рассказывает Курцвейл. – Мейнстримовые критики заявляли: “Я же говорил, что ничего не получится. За семь лет – один процент, значит, на весь геном уйдёт 700 лет”. Моя реакция была другой: “Ого, мы уже сделали один процент? Мы почти закончили!” Дело в том, что один процент – это всего семь удвоений до ста процентов. Удвоение происходит каждый год. И действительно, проект закончили уже через семь лет. То же самое произошло со стоимостью: первый геном стоил миллиард долларов, а сейчас эта процедура стоит всего 1000 долларов».
Чтобы представить себе, о чём говорит Курцвейл, вспомните знаменитую притчу о создателе шахматной игры – бедном мудреце и математике Сета.
Шахматы так впечатлили индусского царя Шерама, что он решил беспримерно наградить Сета.
– Я настолько богат, что могу исполнить любое твоё самое смелое желание, – сказал царь мудрецу Сету. – Назови награду, и ты получишь её.
– Велика доброта твоя, повелитель, – ответил мудрец. – Выдай мне за первую клетку шахматной доски одно пшеничное зерно.
– Одно пшеничное зерно? – изумился царь.
– Да, повелитель. За вторую клетку прикажи выдать два зерна, за третью – четыре, за четвертую – восемь, за пятую – шестнадцать, за шестую – тридцать два…
– Довольно, – с раздражением прервал его царь. – Ты получишь свои зёрна за все 64 клетки доски, согласно твоему желанию: за каждую вдвое больше против предыдущей. Но знай, что просьба твоя недостойна моей щедрости. Ступай! Слуги вынесут тебе твой мешок с пшеницей.
Сета улыбнулся, покинул залу и стал дожидаться последствий своей просьбы у ворот царского дворца. А развязку этой истории вы все, конечно, знаете.
Да, наше мышление, по самой сути своей, линейное – мы привыкли наблюдать постепенное приращение чего бы то ни было: вода в реке или в море поднимается или убывает медленно, растения, животные и даже наши дети растут год за годом и по чуть-чуть, так же незаметно меняются климат, отношения между людьми и т. д., и т. п. Всё постепенно.
Вот почему экспоненциальный рост, о котором говорит Курцвейл в своём законе ускоряющейся отдачи, для нас контринтуитивен: мы не привыкли так думать, а потому и не можем представить себе его последствий.
Царь Шерам решил, что мудрец Сета попросил у него мешок пшеницы, не больше. Но такова действительная реальность экспоненциального роста: если соблюсти последовательность, о которой просил мудрец, то к 64-й клетке количество зерна на доске будет в 1800 раз превышать ежегодный современный мировой урожай пшеницы.
То есть Сета попросил у наивного царя весь урожай пшеницы, собранный за всю историю человечества до настоящего момента, а общая масса этого зерна равнялась бы 1200 миллиардам тонн.
В своих прогнозах мы основываемся на опыте тех технологических трансформаций, которые произошли за последние десятилетия. Пережитый опыт диктует нам и наши представления о будущем – таковы особенности мышления человека, его, так скажем, интуиции.
Да, произошёл существенный скачок в развитии технологий – мы все это признаём. «Но что ещё может случиться, чтобы удивить нас? – рассуждаем мы по-стариковски. – Нет, мы уже всё видели…»
Но взгляните на эти два графика: на первом – мы с вами, вместе с тем самым индусским царём Шерамом, а на втором – экспоненциальная кривая технологического прогресса и те самые миллиарды тонн зерна, которые причитаются мудрецу Сете и о которых нас предупреждает Рэй Курцвейл.
