Joss Earl
Это письмо представляется как рассмотрение разума с другой (но совместимой) точки зрения, чем в R4.
Разум есть процесс обновления вашего внутреннего представления о себе.
Я имею в виду "процесс" ("process") в смысле классической компьютерной науки, т.е. "программу во время исполнения" ("a program in execution"). Ни "железо" (hardware) вашего мозга, которое сознает, ни его "программа" ('software') - статический слепок, описывающий точное состояние нейронов, не могут быть разумны. Разум имеет здесь более ограниченное значение: "самосознание" ("self awareness"), или мысли в вашей голове. Для обозначения ума в целом я буду использовать термин "чувствительность" (sentience), который демонстрирует это явление.
Другими словами, каждый несет в своей голове внутреннее представление вселенной (тема, исследованная в "Призрачном НЕ"). Нам это нужно для интерпретации наших ощущений (senses), и это существенно для выживания. Фотоны, попадающие в ваши глаза, индицирующие приближающийся грузовик, не несут информации, что грузовик вас задавит. Эта информация получается отслеживанием грузовика в нашей внутренней модели вселенной. Естественно, самая важная вещь во внутренней вселенной любого - он сам, поэтому подробности, которые люди хранят о себе больше, чем что-либо другое, и часто неточны. Вообще говоря, чем у человека менее точное внутренне представление себя, тем труднее ему с ним обращаться. Итак, это обычная стандартная психология.
Дело в том, что я не думаю, что это заходит достаточно далеко. Я уверен, что разум -- это глубоко неадекватная и поверхностная внутренняя модель того, над чем мы размышляем. Мы осознаем, что у нас была мысль, после того как она у нас появилась, но люди цепляются за смешное (для меня) утверждение, что их сознание под контролем. Термин подсознание в большой степени дизориентирует. Подсознание -- это 99.99% того, что происходит, в то время как сознание -- это слабое (но важное) эхо того, что происходит в вашем мозгу.
Этот способ посмотреть на вещи делает понимание многого более простым. Когда вы первый раз садитесь в автомобиль, вы осознаете многие детали, "Я проверяю зеркало", "Я вставляю ключ в зажигание", "Я верчу баранку" и т.д. Через некоторое время мы перестаем беспокоится об этом и остается единственное сообщение: "Я еду, еду, еду" и ваш фокус уходит в сторону. Иногда наше сознание езды возвращается к деталям: "Я еду, еду, еду, сейчас столкнемся, эй - что там было последнее". Временами вы снова сознаете детали езды, вы уже тормозите, сигналите, избегаете столкновения с едущей навстречу машиной. Все необходимые действия были выбраны вашим "подсознанием" и вы чувствуете себя очень счастливо. Есть чувство "благодарности богу, что я делал правильные вещи, даже не смотря на то, что мой сознающий ум не работал над проблемой".
Ключевой момент здесь в том, что крутится кольцо вопрос-ответ. Части нашего мозга могут взаимодействовать с другими частями. Грубо говоря, часть, ответственная за поддержание символьного представления метауровня может опрашивать часть, ответственную за управление автомобилем и получать почти все детали, если ей интересно, что та часть делает. Если ее не спрашивают, она не говорит, но при этом не исчезает ее способность управлять автомобилем. На самом деле, более вероятным кажется обратное - если центр символьного вывода (рассуждения) постоянно надоедает другому процессу, это будет мешать процессу. Конечто же, некоторое взаимодействие между процессами необходимо - процесс вождения не знает, куда на самом деле вы едете.
Разум (consiousness) можно рассматривать как артифакт чувствительности (sentience), вовсе не обязательно, что он raison d'etre (причина бытия ? -фр.). Наше внутреннее представление внутренностей телевизора - это пучки проводов и куча ламп. Мало кто может полностью представить работу телевизора со всеми необходимыми компонентами, выполняющими требуемые задачи. Для своего функционирования телевизору требуется гораздо более богатая внутренняя структура, чем та, которую способны удержать в своем внутреннем представлении мира большинство людей. Мозг в 10^? раз более сложен, чем телевизоры, и это забавно, что люди могут с гордостью думать, что они имеют какое-либо понимание того, как они думают.
Осознанное мышление, как представляется, не обязательно для дедуктивного вывода. Дедуктивный вывод - полезный инструмент, но инструмент, который часто скрывает от людей их истинные возможности, и он редко бывает источником озарения. Недавняя статья в "New Scientist" рассказывала об экспериментах, которые показывали, что люди могут решать нкоторые проблемы гораздо лучше, когда они не пытаются о них думать. Исследователям это показалось удивительным. Однако, я думаю, в этом принципиальная разница между сверхпродуктивными и средними программистами. Картостроители позволяют своему уму работать над проблемой и не калечат себя, постоянно пытаясь поместить свои мысли в сознание. Хорошие программисты могут делать вещи, несмотря на то, что они часто не способны рассказать, как они это делают. Если вы постоянно пытаетесь следовать процедуре, то вы собираетесь использовать лишь данные, отфильтрованные лингвистической частью мозга.
Конечно, эта точка зрения - огромное упрощение. Лучше рассматривать ее как аналогию, а не точное описание. Упущены некоторые важные моменты, больше всего в глаза бросается замечание, что отдельный "поток сознания" также является иллюзией. Определенно, мозг - пристанище разума, но попытка более точно определить его расположение - заблуждение. Тому, что мы называем разумом, дают основу различные процессы, происходящие параллельно в разных частях мозга.
Это противоречит модели "декартова театра", в которой мозг действует как фильтр, собирающий и интерпретирующий данные для показа нашим душам в маленьких театриках внутри наших голов.
Модель "декартова театра" ошибочна, но от нее очень трудно отказаться - она возникает в великом множестве обличий. Почитайте "Объяснение разума" ("Consciousness Explained"), где это рассмотрено более детально. Хотя в их дуалистком подтексте часто это смешно, основные (mainstream) теории разума часто неявно требуют некоторого рода декартов театр.
Я полностью согласен с идеей основной науки, что нам следует устранить дуализм. Наше мышление вызвано чисто физическими событиями внутри этой вселенной. Однко, я верю, что это логически ведет к гораздо более необыкновенному и богатому взгляду на вселенную, чем обычно.
По изложению вы можете заметить, что это точка зрения программиста. Давайте конкретизируем, чтобы проиллюстрировать эту точку зрения.
Я мог бы написать программу - скажем некую разновидность программы Eliza. Программа Eliza отвечает на вопросы, максимально приближаясь к тому, как это делал бы человек. Это может быть очень убедительно, но на самом деле это просто дешевый трюк. Вот пример из http://www-ai.ijs.si/eliza-cgi-bin/eliza_script
Q "Why is my boss so stupid" ("Почему мой начальник
такой глупый?")
Eliza "Why do you say your boss so
stupid?" ("Почему ты сказал, что твой
начальник такой глупый?")
Q "Because he asks me to perform mutually exclusive tasks" ("Потому
что он ставит передо мной взамоисключающие
задачи")
Eliza "Do any
other reasons not come to mind?" ("Другие соображения не
приходят на ум?")
Теперь предположим, что я сделал программу более сложной и дал ей некоторые метапредставления (meta representation), так что программа поддерживает внутреннюю ткань происходящего, имея возможность получить обратную связь относительно своего внутреннего состояния и получив способность отвечать на вопросы типа
Q "Why do you often answer questions with another question" ("Почему ты часто отвечаешь на вопрос вопросом?")
Eliza "Often I don't really understand the question, I'm programmed to
reflect the question in order to disguise this fact". ("На
самом деле я часто не понимаю вопрос и
запрограммирована отразить вопрос, чтобы
скрыть этот факт")
Я утверждаю, обновление этого представления о себе (self-representation) аналогично нашему собственному самосознанию. Означает ли это, что когда мы запускаем эту программу, то этот процесс думает аналогично нашему собственному разуму?
Это точка, где "серьезные" люди обычно отступают. Вы увидите, как разводят руками, доказывая, что прохождение теста Тьюринга показывает "эквивалентность", поэтому "бессмысленно" рассуждать, демонстрирует ли это "истинный разум". Есть патологическое отвращение к дальнейшим рассуждениям. Вы можете просто послушать вопли пораженных Призрачным НЕ: "Я не могу представить, как могла бы мыслить машина, поэтому было бы ошибочным утверждать, что машина может быть мыслящей". Кого волнует, можете ли вы это представить? Какое отношение это имеет к этой ситуации?
У меня нет проблемы с тем, кто настаивал бы, что это не одно и то же, поскольку "в ней нет души" - по крайней мере их точка зрения логически непротиворечива. Тем, кто настаивает, что они различны, поскольку мозг сделан из биологических компонентов, нужно дать подзатыльник. На самом глубоком уровне нет такой вещи как биология - она сделана миром. Есть атомы и молекулы. На самом деле их не волнует, называем ли мы эти структуры биологическими или нет.
Ответом на вопрос, приводит ли запуск этой программы к появлению разума, конечно же: вероятно.
Давайте сведем все к абсурду. Предположим, что вместо запуска этой программы на компьютере, мы запускаем ее на виртуальной машине Тьюринга, управляемой натренированными мартышками. Конечно, она работала бы очень медленно. В самом деле, для выполнения программы могло бы потребоваться время жизни нескольких поколений мартышек. Мы можем ускорить работу, имея несколько команд мартышек, работающих в Париже, Лос Анжелесе и Оксфорде и общающихся посредством телеграмм. Однако, скорость и интеллектуальность -- ортогональные концепции. Представим разговор по радио с жителем другой галактики. Каждый обмен мог бы занять тысячи лет, но это не оказывает влияиия на интеллектуальность корреспондентов. Интеллектуальность любой беседы может быть доказана в не зависящей от времени манере.
Итак, если принять, что мозг человека зависит от чисто детерминированных процессов, то необходимо принять, что манипуляции с информацией смогут привести к появлению разумного сознания. Можно сконструировать машину, которая была бы способна проходить тот же мыслительный процесс, что и наш. Этот разум существует как нечто не зависящее от времени и пространства. Если вы настаиваете, вы можете думать о плавающей составляющей этого разума как существующей в данный момент в точке, где участок ленты считывается в Лос Анжелесе, затем то же самое как существующее в Париже в следующий момент, или даже одновременно. Это на самом деле не сильно помогает. Физические манипуляции с информацией приводят к возникновению интеллектуальности сознания, а это нечто отдельное по отношению к аппаратуре, которая его производит.
Изложите этот аргумент типу с "рационально научным" Призрачным НЕ. Понаблюдайте его отвергание реальности мысли, поскольку он борется с проявлениями смысла этого. "Cogito ergo Dio ergo non cogito". (Я думаю, следовательно мог бы существовать Бог, следовательно я не думаю).
В этой реализации, просто то, что нечто абсурдно, не означает, что это неправильно.
Отсюда возникают два важных вороса:
1. Действительно ли человеческий мозг просто эквивалент машины Тьюринга?
2. Какое качество физического процесса необходимо для того, чтобы этот процесс привел к появлению разумного интеллекта?
Я не знаю ответов на эти вопросы, но вот моя лучшая попытка ответить на них:
Я искренне в этом сомневаюсь
Машина Тьюринга (a) дискретна и (b) детерминированна
Хотя мы можем апроксимировать континуум с помощью дискретных чисел с любой заданной точностью, на самом деле есть качественное различие между целыми и действительными числами, что доказано Кантором (Cantor's diagonal strip). Я не знаю достаточно, чтобы сказать, насколько это существенно.
Вопрос детерминизма также неясен. В чисто детерминированном мире невозможно существование свободы воли, и я склоняюсь к утверждению, что у нас недвусмысленно есть свобода воли. Неким образом наши наблюдения квантовых явлений могут приводить к существованию эффектов движения в обратном направлении во времени. Наше решение определить состояние вселенной достаточно, чтобы привести наши мозги в состояние необходимости принять это решение. Это, очевидно, не определяется нашим стандартным "пониманием" квантовой механики. В модели R3 это менее странно.
С другой стороны, может быть, мы просто непредсказуемы. Я много работал над генетическими алгоритмами, нейронными сетями, моделированием отжига (закалки) и подобными вещами. Здесь у нас стохастические алгоритмы, в которых поведение зависит от большого числа случайных чисел. Хотя алгоритмы полностью детерминированы, они кажутся непредсказуемыми, а если они получают входные переменные от настоящего генератора случайных чисел, то это поведение полностью непредсказуемое. Я думаю, что процесс, основанный на таких стохастических алгоритмах, подключенный к RND может "вести себя" так, как будто у него есть свобода воли.
Чего такого особенного в физических процессах в мозге, что они приводят к появлению мышления? Думает ли нейрон? а планета? а водопад? а вселенная?
У меня почти нет идей по этому поводу. Возможно, конечно, что начало разумным мыслям могут дать только процессы, подобные возникающим в мозге человека. Возможно, но представляется патологической самонадеянностью (эгоцентричностью) верить, что это так. Я уверен, что чем дальше вверх по шкале фрактальной композиции мы поднимаемся, тем глубже уровень разума, который может возникнуть. У нейрона, амебы, насекомого, вероятно, очень тонкий уровень сознания. Мозг или рой насекомых немного более интеллектуальны. В этой модели кажется совешенно естественным предположить, что вселенная в целом разумна. Но для меня это не очевидно.
Также, очень похоже, что уровень взаимодействия между компонентами относителен к сложности компонентов. Существует много проблем, которые можно лучше решить с помощью десяти PC, соединенных посредством 2400 бодовых модемов, чем одной немного более мощной рабочей станцией. И опять, это просто аналогия, 1000 процессорный суперкомпьютер и отдельный 486 являются эквивалентами отдельной машины Тьюринга. Я не думаю, что имеет значение скорость -- важна сложность процесса, а не скорость процессора. Разум живет в максимуме сложности, которую можно найти во фрактальном пространстве на грани хаоса.
Это соотносится с моими комментариями о HumaNet. Если человечество в целом уже обладает разумом, то сейчас он в очень зачаточном состоянии. Малая пропускная способность может оказаться препятствием для его возникновения (см. примечание Алана), но по мере его развития, полоса пропускания будет увеличиваться, и узлы (люди) будут постепенно учиться использовать эту полосу эффективно. Поскольку HumaNet становится реальностью, разум человечества проснется.
Перевод: Prog.Stone
Русский сайт Programmers' Stone / Reciprocality: http://progstone.narod.ru
8 февраля 2000
7 января 2002 - вторая редакция