Тени разума. В поисках науки о сознании - Пенроуз Роджер (книги без регистрации полные версии txt) 📗
С помощью в точности тех же рассуждений, какими мы воспользовались в §3.2применительно к человеческому математическому пониманию, непосредственно из вышеизложенных соображений выводится, что робот никоим образом не способен твердо поверить в то, что совокупность его собственных — и, на его взгляд, неопровержимых — математических убеждений действительноэквивалентна некоей формальной системе Q( M). И это несмотря на тот факт, что мы (выступая в роли соответствующих экспертов по проблемам ИИ) прекрасно осведомлены о том, что в основе системы математических убеждений робота лежит не что-нибудь, а именно набор механизмов M, что автоматически означает, что система неопровержимых убеждений робота являетсяполным эквивалентом системы Q( M). Если бы робот вдруг твердо поверил в то, что все его убеждения укладываются в рамки системы Q( M), то тогда ему пришлось бы поверить и в обоснованность этой самой системы Q( M). Соответственно, ему также пришлось бы одновременно поверить и в истинность утверждения G( Q( M)), и в то, что упомянутое утверждение в его систему убеждений не входит — неразрешимое противоречие! Иначе говоря, робот никак не может знать о том, что он сконструирован в соответствии с тем или иным набором механизмов M. А поскольку об этойособенности его конструкции знаем — или по крайней мере, в состоянии узнать — мы с вами, то получается, что нам доступны такие математические истины (например, утверждение G( Q( M))), которые роботу оказываются не по силам, хотя изначально предполагалось, что способности робота будут равны способностям человека (или даже превысят их).
3.15. Способы устранения фундаментального противоречия
Приведенное выше рассуждение можно рассматривать двояко — с точки зрения создавших робота людей либо с точки зрения самого робота. С человеческой точки зрения существует некоторая неопределенная вероятность того, что математику-человеку претензии робота на обладание неопровержимой истиной покажутся неубедительными, разве что упомянутый математик-человек примет во внимание какие-то отдельные конкретные аргументыиз тех, что использует робот. Возможно, не все теоремы системы Q( M) человек сочтет неопровержимо истинными, кроме того, как нам помнится, интеллектуальные способности робота могут существенно превышатьтаковые же способности человека. Таким образом, можно утверждать, что одно лишь знание о том, что робот сконструирован в соответствии с неким набором механизмов M, не следует рассматривать в качестве неопровержимо убедительной (для человека) математической демонстрации. Соответственно, мы должны пересмотреть все вышеприведенное рассуждение — на этот раз с точки зрения робота. Какие огрехи в нашем обосновании в состоянии заметить (и использовать)робот?
По-видимому, наш робот располагает всего лишь четырьмя основными возможностями для нейтрализации фундаментального противоречия — при условии, конечно, что сам робот осведомлен о том, что он является в некотором роде вычислительной машиной.
(a) Возможно, что робот, принимая в целом утверждение о том, что в основе его конструкции лежит некий набор механизмов M, тем не менее, неизбежно остается неспособен безоговорочноповерить в этот факт.
(b) Возможно, что робот, будучи безоговорочно убежден в истинности каждого отдельного ☆-утверждения в тот момент, когда он его формулирует, все же сомневается в достоверности полнойсистемы своих ☆-утверждений — соответственно, робот может не верить в то, что формальная система Q( M) и в самом делележит в основе всей его системы убеждений в отношении Π 1-высказываний.
(c) Возможно, что подлинный набор механизмов Mсущественно зависит от случайныхэлементов и не может быть адекватно описан через посредство неких известных результатов псевдослучайных вычислений, подаваемых на входное устройство робота.
(d) Возможно, что подлинный набор механизмов Mв действительности непознаваем.
В последующих девяти разделах представлен ряд веских аргументов, убедительно демонстрирующих, что первые три лазейки ((a), (b) и (c)) оказываются для робота, задавшегося целью обойти фундаментальное противоречие, совершенно бесполезными. Соответственно, робот (а вместе с ним и мы — если мы, конечно, продолжаем настаивать на том, что математическое понимание можно свести к вычислению) начинает всерьез подумывать о не очень привлекательной возможности (d). Уверен, что непривлекательной возможность (d) нахожу не я один — думаю, в этом со мной согласятся и те читатели, которым не безразлична судьба идеи искусственного интеллекта. Ее, пожалуй, приемлемо рассматривать лишь в качестве возможной мировоззренческой позиции, укладывающейся, по сути своей, в рамки той самой комбинации точек зрения Aи D, о которой мы говорили в конце §1.3и согласно которой для внедрения непознаваемого алгоритма в «мозг» каждого из наших роботов требуется, ни много ни мало, божественное вмешательство(от «первого в мире программиста»). В любом случае, вердикт «непознаваемо», вынесенный в отношении тех самых механизмов, которые, в конечном счете, ответственны за наличие у нас какого ни на есть разума, вряд ли обрадует тех, кто намерен, вообще говоря, построитьробота, наделенного подлинным искусственным интеллектом. Не особенно обрадует он и тех из нас, кто все еще надеется понять, принципиально и не выходя за рамки строго научного подхода, каким образом в действительности возникло у человека такое свойство, как интеллект, объяснить его происхождение посредством четко формулируемых научных законов — законов физики, химии, биологии, законов естественного отбора, в конце концов, — пусть даже и не имея в виду воспроизвести этот самый интеллект в каком бы то ни было робототехническом устройстве. Лично я полагаю, что подобный пессимистический вердикт не имеет под собой никаких оснований — по той хотя бы простой причине, что «научная постижимость» имеет весьма мало общего с «вычислимостью». Законы, лежащие в основе мыслительных процессов не являются непостижимыми, они всего лишь невычислимы. На эту тему мы еще поговорим во второй части книги.
3.16. Необходимо ли роботу верить в механизмы М?
Вообразим, что у нас имеется робот, снабженный некоторым возможным набором механизмов M, — каковой набор может оказаться тем самым, на основе которого и построен наш робот, но это не обязательно. Я попробую убедить читателя в том, что робот будет вынужден отвергнуть возможность того, что его математическое понимание опирается на набор механизмов M, — независимоот того, как обстоит дело в действительности. При этом мы на время допускаем, что робот по тем или иным причинам уже отбросил варианты (b), (c) и (d), и приходим к выводу (несколько даже неожиданному), что сам по себе вариант (a) избежать парадокса не позволяет.
Рассуждать мы будем следующим образом. Обозначим через Mгипотезу
«В основе математического понимания робота лежит набор механизмов M»
и рассмотрим утверждение вида
«Такое-то Π 1-высказывание является следствием M».
Такое утверждение (в том случае, когда робот твердо верит в его истинность) я буду называть ☆ M -утверждением. Иначе говоря, под ☆ M -утверждениями не обязательно понимаются те Π 1-высказывания, в истинность которых как таковых неопровержимо верит робот, но те Π 1-высказывания, которые робот полагает неопровержимо выводимыми из гипотезы M. Изначально от робота не требуется обладание какими бы то ни было взглядами относительно возможности того, что в основе его конструкции действительнолежит набор механизмов M. Он может даже поначалу счесть такое предположение абсолютно невероятным, но, тем не менее, ничто не мешает ему рассмотреть (в подлинно научной традиции) возможные следствия из гипотезыо таком вот его происхождении.
