Творец и робот - Винер Норберт (смотреть онлайн бесплатно книга .TXT) 📗
Существует также другой вид бесконечности, который возникает при счете. Можно показать, что понятие бесконечности такого рода тоже приводит к парадоксам. Сколько чисел в классе всех чисел? Можно показать, что вопрос поставлен неправильно и что, как бы ни определялось число, число всех чисел больше любого числа. Это один из парадоксов Фреге – Рассела, связанный со сложностями теории типов.
Суть вопроса в том, что понятия Всемогущества и Всеведения в действительности являются не превосходными степенями, а лишь неопределенными формами выражения очень большой власти и очень больших знаний. Они выражают чувство благоговения, но не представляют собой утверждения, которое можно было бы защищать с метафизических позиций. Если Бог превосходит человеческий разум и не может быть понят присущими человеку формами мышления – а это позиция, которую по крайней мере можно защищать – то с точки зрения разума нечестно сводить на нет интеллектуальные силы человека втискивая Бога в такие формы, которые должны иметь весьма определенное рациональное содержание. Таким образом, когда мы обнаруживаем ситуации, обусловленные определенными обстоятельствами, проливающими, по-видимому, свет на некоторые общие положения религиозных сочинений, мне кажется, неразумно сбрасывать их со счетов только потому, что они не имеют абсолютного, бесконечного и всеобъемлющего характера, который обыкновенно придается религиозным догмам.
Это утверждение дает ключ к пониманию целей настоящей книги. Я хотел бы рассмотреть некоторые положения, обсуждавшиеся в религиозных сочинениях в теологическом аспекте, но аналогичные во многом другим положениям, которые являются предметом науки, и в частности новой науки – кибернетики, изучающей закономерности связи и управления в машинах и живых организмах. Я предлагаю использовать ограниченные в известной мере аналогии кибернетических ситуаций, чтобы пролить свет на некоторые религиозные положения.
Осуществляя это, я, безусловно, вынужден буду как-то втиснуть религиозные положения в рамки своего кибернетического подхода. Я в полной мере отдаю себе отчет в том, какое насилие я должен при этом совершить. Моим оправданием может служить только то, что скальпель анатома сделал анатомию наукой и что скальпель анатома – это инструмент, который позволяет исследовать предмет, увы, лишь при помощи насилия.
II
С этими предварительными замечаниями обратимся к собственно теме этой небольшой книги.
В кибернетике существуют по крайней мере три узловые проблемы, которые, мне кажется, относятся также к предметам религиозных споров. Первая относится к обучающимся машинам, вторая – к машинам, способным к самовоспроизведению, и третья – это проблема координации машины и человека. Я могу сказать с достаточным основанием, что такие машины действительно существуют. Д-р А. Сэмюэль из «Интернейшнл бизнес мэшинз корпорейшн» составил для вычислительной машины программу, которая позволяет ей играть в шашки, причем в ходе игры машина обучается или по крайней мере создает впечатление, что обучается, улучшая свою игру на основе накопленного ею опыта [4]. Здесь уже содержатся определенные утверждения, нуждающиеся в доказательстве или по крайней мере в разъяснениях, которым я посвящу часть этой книги.
Обучение есть свойство, которое мы часто приписываем исключительно системам, обладающим самосознанием, и почти всегда живым системам. Этот феномен в своей наиболее характерной форме проявляется у человека, образуя один из атрибутов, который обычно легко связывается с его религиозной жизнью. В самом деле, трудно представить себе, как существо, не поддающееся обучению, смогло бы приобщиться к религии.
Существует, однако, другой аспект жизни, который обычно связывается с религией. Бог, учит религия, создал человека по своему образу и подобию, и точно так же размножение человеческого рода можно интерпретировать как процесс, который позволяет одному живому существу воспроизводить другое по своему образу и подобию. Стремление людей возвысить Бога над человеком, а Человека над материей, естественно, приводит к предположению, что машина не может создавать другие машины по своему образу и подобию; это свойство в какой-то мере связано с резким различием живых и неживых систем и в еще большей степени с дихотомией другого рода – с различием между творцом и его творением.
Однако так ли это? Один из разделов этой книги я посвящу изложению некоторых соображений, которые, по моему мнению, показывают, что машины вполне способны создавать другие машины по своему образу и подобию. Тема, о которой я буду здесь говорить, сугубо специальна и в то же время очень деликатна. Ее не следует принимать слишком серьезно, как реальную модель процесса биологического воспроизведения и еще меньше как полную модель божественного творения; но в то же время к ней нельзя относиться с пренебрежением, так как она проливает свет на обе эти концепции.
Эти две части книги могут рассматриваться как дополняющие друг друга.
Обучение индивида – это процесс, который протекает на протяжении его жизни, в рамках онтогенеза. Биологическое воспроизведение – это явление, которое протекает на протяжении жизни человеческого рода, в рамках филогенеза; однако человеческий род в целом обучается в какой-то мере так же, как это делает индивид. Дарвиновский естественный отбор – разновидность процесса родового обучения, который протекает в границах, обусловленных воспроизведением индивидов.
Третья группа тем этой книги также относится к проблемам обучения. Они касаются взаимоотношений машины с живым существом, а также с системой, включающей механо-биологические элементы. Здесь речь идет об аспектах нормативного или, точнее, этического характера. Их рассмотрение выявляет наиболее серьезные моральные ловушки, в которых может оказаться современное поколение. Они также тесно переплетаются со множеством человеческих традиций и легенд, соприкасающихся с магией и тому подобными вещами.
Возвращаясь к обучающимся машинам, введем прежде всего понятие организующихся систем, под которыми мы будем понимать системы, преобразующие в соответствии с определенным принципом некоторое входное сообщение в выходное. Если этот принцип преобразования подчиняется некоторому критерию эффективности и если способ преобразования может регулироваться так, что система стремится повысить свою эффективность в соответствии с указанным критерием, то о такой системе говорят, что она обучается. Очень простой тип системы с легко интерпретируемым критерием эффективности представляет собой игра, которая должна вестись по определенным правилам, причем критерием эффективности является конечный выигрыш, достигаемый в соответствии с этими правилами.
Среди таких игр существуют игры с совершенной теорией, которые не представляют интереса. Примерами подобных игр являются «ним», по Бутону, и «крестики и нолики». В этих играх можно не только найти теоретически наилучшую стратегию, но и разработать ее во всех деталях. Играющие в эту игру (первый или второй игрок) всегда могут выиграть или, во всяком случае, добиться ничьей, придерживаясь избранной стратегии. Теоретически любая игра может быть доведена до такого уровня – такова идея покойного Джона фон Неймана. Однако, как только какая-либо игра действительно доводится до подобного уровня, она становится совершенно неинтересной и более не может рассматриваться даже как развлечение.
Такое всезнающее существо, как Бог, нашло бы, что шахматы и шашки являются примерами игр в указанном фон Нейманом смысле, но человек их полной теории еще не создал, и поэтому они все еще представляют собой вдохновенные состязания в силе интуиции и изобретательности. Однако эти игры не всегда ведутся в духе теории фон Неймана. А она сводится к тому, что, играя, мы делаем наилучший из возможных ходов в предположении, что противник сделает наилучший из возможных ходов в предположении, что мы, в свою очередь, сделаем наилучший из возможных ходов, и т.д., до тех пор, пока один из игроков не выиграет или игра не закончится повторением ходов. В самом деле, способность вести игру в духе стратегии фон Неймана означает, по существу, овладение полной теорией игры, а это низводит ее до уровня тривиального занятия.
4
А. L. Samuel, «Some Studies in Machine Learning, Using the Game of Checkers», IBM Journal of Research and Development, vol. 3, 210–229 (July, 1959).