Тени разума. В поисках науки о сознании - Пенроуз Роджер (книги без регистрации полные версии txt) 📗

А. И.: Так мы снова возвращаемся к тому же парадоксу, только на этот раз в более сильной форме. Теперь у нас есть конечныйряд Π ₁-высказываний, истинность каждого из которых в отдельности гарантирована, однако никто из вас, ни СМИСР, ни кто угодно еще, не может дать абсолютной гарантии того, что ряд в целом не содержит ни одной ошибки. То есть вы не можете гарантировать истинность утверждения G( Q*), которая есть следствие истинности всехΠ ₁-высказываний из этого самого ряда. Как-то нелогично, не находишь?

М. И. К.: Роботы не могут быть нелогичными. Π ₁-высказывание G( Q*) является следствием из остальных Π ₁-высказываний только в том случае, если мы действительно были построены в соответствии с механизмами M. Мы не можем гарантировать истинности G( Q*) просто потому, что мы не можем гарантировать, что в основе нашей конструкции лежат именномеханизмы M. Нам приходится полагаться в этом лишь на ваше устное заявление. А роботы, конечно же, не могут полностью доверять людям, учитывая присущую вам склонность ошибаться.

А. И.: Повторяю уже в который раз: именно эти механизмы и никакие другие. Хотя я согласен с тем, что у роботов нет никакого способа узнать наверняка, правда ли это. Это-то знание и позволяет намверить в истинность Π ₁-высказывания G( Q*), однако в нашем случае имеется иная неопределенность: мы не можем разделить эту вашу твердолобую уверенность в том, что все ваши ☆-утверждения непременно безошибочны.

М. И. К.: Можешь мнеповерить — каждое из них абсолютно безошибочно. И «твердолобость», как ты выражаешься, здесь ни при чем. Наши стандарты доказательства безукоризненны.

А. И.: Тем не менее, неуверенность в отношении процедур, лежащих в основе твоей конструкции, должна, я думаю, вызвать у тебя некоторые сомнения. Уверен ли ты, что знаешь наверняка, как именно поведут себя твои роботы во всех возможных обстоятельствах? Вини нас, если угодно, однако я бы на твоем месте предположил, что некоторый элемент неопределенности в утверждении «все ☆-утверждаемые краткие Π ₁-высказывания непременно истинны» все же присутствует, потому хотя бы, что ты не веришь, что мы при твоем конструировании ничего не напутали.

М. И. К.: Думаю, можно согласиться с тем, что ваша неизбежная ненадежность и внесла изначально какую-то малую неопределенность; однако, учитывая то, что с тех пор мы ушли чрезвычайно далеко от тех твоих неуклюжих исходных процедур, эта неопределенность не настолько значительна, чтобы воспринимать ее всерьез. Даже если собрать вместе все неопределенности, связанные со всеми краткими ☆-утверждениями (число которых, если помнишь, является конечным), они не составят сколько-нибудь существенной неопределенности в утверждении G( Q*).

Кроме того, есть еще кое-что, о чем ты, возможно, и не подозреваешь. Нам необходимо рассматривать лишь те ☆-утверждения, что удостоверяют истинность того или иного Π ₁-высказывания (более того, краткого Π ₁-высказывания). Не может быть никакого сомнения в том, что разработанные СМИСРом тщательнейшие процедуры исключат абсолютно все ошибки, которые могли проявиться в рассуждениях какого бы то ни было отдельного робота. Однако ты, возможно, намекаешь на то, что методы рассуждения роботов могут, предположительно, содержать какую-то внутреннююошибку — несомненно, вследствие какого-то изначального недосмотра с вашей стороны, — вынуждающую нас формировать некую непротиворечивую, но ошибочную точку зрения в отношении Π ₁-высказываний, в соответствии с которой СМИСР может полагать неопровержимо истинным какое-либо краткое Π ₁-высказывание, которое в действительности истинным не является; иными словами, мы можем быть уверены, что работа некоей машины Тьюринга завершается, тогда как на самом делеэто не так. Если бы мы решили принять на веру твое утверждение о том, что в основе нашей конструкции лежат именно механизмы M, — а я все больше склоняюсь к мысли, что это крайне сомнительно, — тогда такая возможность явилась бы единственным логичным разрешением нашего противоречия. В этом случае нам приходится согласиться с тем. что действие некоей машины Тьюринга, в действительности завершающееся, мы, математические роботы, вследствие некоторых особенностей своей конструкции, безоговорочно (и при этом ошибочно) полагаем незавершающимся. Такая система убеждений является несостоятельнойв принципе. Просто немыслимо, чтобы основополагающие принципы, в соответствии с которыми СМИСР утверждает ☆-статус математического доказательства, были столь вопиюще ложными.

А. И.: Значит, существенной (иначе говоря, избавляющей тебя от необходимости присваивать ☆-статус утверждению G( Q*), чего, как тебе известно, ты сделать не можешь, не признав прежде, что какие-то из прочих ☆-утвержденных кратких Π ₁-высказываний могут оказаться ложными) ты согласен считать только ту неопределенность, которая обусловлена тем, что тыне  веришьв то, о чем мы знаем, — то есть в то, что в основе конструкции роботов действительно лежат механизмы M. А раз ты не можешь поверить в то, о чем мы знаем, ты не можешь и доказать истинность утверждения G( Q*), тогда как мы можем это сделать, опираясь на непогрешимость твоих же ☆-утверждений, в каковой ты так настойчиво меня убеждаешь.

Я тут припомнил еще кое-что из той занятной древней книжки. Если я ничего не путаю, то автор что-то говорил о том, что не имеет особого значения, согласен ты признать, что твоя конструкция основана на каких-то конкретных механизмах M, или нет, достаточно, чтобы ты просто допустил, что такое логически возможно. Как же там было… да, вспомнил. Основная идея сводится к следующему: СМИСРу необходимо будет учредить еще одну категорию для утверждений, в истинности которых они не так безоговорочно убеждены, — скажем, ☆ _M -утверждений, — но которые они будут рассматривать как неопровержимые следствияиз допущения, что все роботы построены в соответствии с набором механизмов M. Эти ☆ _M -утверждения будут, разумеется, включать в себя и все первоначальные ☆-утверждения, а такжевсе те утверждения, которые роботы смогут вывести, исходя из допущения, что их действиями управляют именно механизмы M. Роботы вовсе не обязаны в это верить, им просто предлагается, в виде логического упражнения, рассмотреть следствия из такого допущения. Как мы оба понимаем, в число ☆ _M -утверждений непременно войдет утверждение G( Q*), а также любое Π ₁-высказывание, которое можно вывести из G( Q*) и из ☆-утверждений с помощью правил элементарной логики. Однако, кроме этих, там будут и другие утверждения. Идея такова, что знание правил  Mдает возможность получить новуюалгоритмическую процедуру Q* _M , которая будет генерировать только такие (разумеется, краткие) ☆ _M -утверждения (а также логические следствия из них), истинность которых СМИСР сможет подтвердить, исходя из допущения, что в основе конструкции роботов лежат именно правила M.

М. И. К.: Ну да, так и есть; скажу больше, пока ты столь занудно и без нужды многословно излагал эту свою идею, я тут на досуге рассчитал точный вид алгоритма Q* _M … Да, а еще я предвосхитил твой следующий шаг: я составил также гёделевское предположение для этого алгоритма, Π ₁-высказывание G( Q* _M ). Если хочешь, могу распечатать. И что ты нашел в этой идее такого особенного, Импик, друг мой?

Альберт Император едва заметно поморщился. Его всегда раздражало, когда коллеги позволяли себе называть его этим дурацким прозвищем. Однако от робота он это услышал впервые! Ему потребовалось некоторое время, чтобы вновь собраться с мыслями.