Красный апельсин
Трудная проблема сознания: почему между «нейрон V4 сработал» и «я вижу красное» стоит пропасть
Цели урока
К концу этого урока вы:
- Поймёте, чем лёгкая и трудная проблемы сознания отличаются — и почему их постоянно путают.
- Получите сквозную аналогию ночного города, в котором надо понять, где горит свет, а где темно.
- Узнаете зомби-аргумент и почему «ощущения нужны для выживания» не закрывает трудную проблему.
- Разберёте, почему боль — самый сильный аргумент функционалиста, и почему даже он не дотягивает.
- Услышите четыре основных лагеря в одну строку каждый — чтобы не терять контекст до Урока 8.
Ну наконец-то! Заходи, я как раз тебя ждала. Погнали.
Красный апельсин
Представьте красный апельсин. Прямо сейчас, на секунду. Вот этот самый красный цвет, который вы только что вызвали у себя в голове, — его нигде нет в физическом пространстве. Снаружи есть только электромагнитные волны определённой длины, отражённые от кожуры. «Красное» как ощущение не висит в воздухе, не лежит на апельсине и не летит к вам в глаз. Оно возникает где-то внутри.
И мы знаем, где. С почти неприличной точностью. Это делает группа нейронов в зрительной коре под названием V4. У взрослого, у ребёнка, у мартышки. Внутри одного нейрона мембрана открывает каналы, впускает ионы натрия, пускает разряд по аксону к соседям — и вы ощущаете красное. Прикиньте? Не «регистрируете длину волны». Ощущаете.
Это первое странное чувство курса. Не «я не знаю, как работает мозг» — работу мозга мы знаем всё лучше. А «в принципе непонятно, как любая физическая активность — в нейроне или в кремнии — может сопровождаться переживанием изнутри». Эта брешь и есть наш предмет на восемь уроков.
Что вы возьмёте из этого урока
- Поймёте, чем лёгкая и трудная проблемы сознания отличаются — и почему их постоянно путают.
- Получите сквозную аналогию ночного города, в котором надо понять, где горит свет, а где темно.
- Узнаете зомби-аргумент и почему «ощущения нужны для выживания» не закрывает трудную проблему.
- Разберёте, почему боль — самый сильный аргумент функционалиста, и почему даже он не дотягивает.
- Услышите четыре основных лагеря в одну строку каждый — чтобы не терять контекст до Урока 8.
Часть 1. Лёгкая проблема и трудная
В 1995 году австралийский философ Дэвид Чалмерс сделал то, что философы любят больше всего: разделил один тяжёлый вопрос на два. До него всё называлось «проблемой сознания» и обсуждалось как одно целое. После него стало невежливо смешивать. [1]
Лёгкие проблемы — это всё, что в принципе решаемо инженерией мозга. Как зрительная кора различает контуры. Как лобная доля переключает внимание. Как гиппокамп пишет память. Они называются «лёгкими» не потому, что их завтра решат — мы сто лет копаем зрительную кору и ещё долго будем копать. А потому, что у этих задач есть понятная форма ответа: нашли цепь нейронов, описали её работу, проверили предсказания. Дальше дело техники и времени.
Трудная проблема — одна. Она звучит так: почему все эти процессы вообще сопровождаются переживанием? Можно полностью описать физику зрения — ионы натрия летят через мембрану, V4 срабатывает, дальше каскад, дальше моторные команды — и это никак, вообще никак не объясняет, почему при этом что-то ощущается. Почему «темно внутри» — не вариант по умолчанию, а оказывается какой-то свет.
Ключевая мысль урока 1: различие между лёгкими и трудной проблемой — не педантизм. Когда вам говорят «наука уже знает, что мозг порождает сознание», почти всегда имеют в виду решённую лёгкую проблему («мы знаем, какой участок коры коррелирует с каким ощущением») и тихо подменяют ею трудную.
Лектор: «Открыто 86 миллиардов нейронов и 100 триллионов связей.»
Студент: «Это не ответ.»
*лектор медленно отступает к двери, забирая указку*
Это не ответ. Это пересчёт — и его постоянно принимают за объяснение.
«Каково это быть» — формулировка, с которой всё началось
За двадцать лет до Чалмерса, в 1974 году, философ Томас Нагель написал статью с обманчиво детским заголовком: «Каково это — быть летучей мышью?» [2] Его мысль: мы можем узнать про мышь всё — как работает её эхолокация, какие нейроны срабатывают, как она ловит мотылька в темноте. Но мы никогда не узнаем, каково это изнутри — воспринимать мир сонаром. У мыши есть точка зрения. У её опыта есть «каково это быть».
И вот это «каково это быть» — то самое, чего нет ни в одном физическом описании. У камня нет «каково это быть камнем». У вас — есть. Где-то между камнем и вами свет включился. Трудная проблема — ровно про этот переход.
Часть 2. Тёмное окно, светлое окно
Этот курс — вторая половина пары. В курсе «Введение в нейробиологию сознания» мы строили древний город при свете дня: жители-нейроны, дороги-аксоны, рукопожатия-синапсы, кварталы коры. Мы разобрали железо. Здесь мы возвращаемся в тот же город — но ночью. И задаём один вопрос, который железо не решает: в каком окне кто-то на самом деле есть?
Город ночью — это тысячи окон. В большинстве темно. В некоторых горит тёплый свет. Снаружи вы видите фасады, провода, можете замерить, в каком доме работает электричество. Но «горит ли там свет» в нашем смысле — есть ли там кто-то, кому каково-то — этого с улицы не видно. Вот наш рабочий словарь на восемь уроков:
| В науке о сознании | В ночном городе | Что это значит |
|---|---|---|
| Феноменальное переживание | Освещённое окно | «Каково-то быть» этим — есть опыт изнутри |
| Бессознательная обработка | Тёмное окно | Сигнал идёт, работа делается — но «никого нет дома» |
| Третьеличное наблюдение | Заглянуть в окно снаружи | Видно активность, ЭЭГ, поведение — но не сам свет |
| Философский зомби | Дом со светом по таймеру | Сложное поведение без всякого переживания |
| Внимание / рабочее пространство | Городской диспетчер | Решает, какие кварталы запитать — что станет переживанием |
| Невнимательная слепота, неглект | Кварталы без света | Обработка идёт, а доступа к ней нет |
| Сознание животных | Другие города на горизонте | Горит ли свет в совсем другой архитектуре |
| Теории сознания | Споры, что такое «свет» вообще | Расходящиеся карты одного города |
Вы стоите на холме над спящим городом. Где-то внизу — вокзал: всю ночь стрелки переводятся, составы расходятся по путям, табло обновляется. Сложнейшая работа, и в окнах диспетчерской темно. Автоматика. Рядом — одно окно квартиры, в нём горит лампа: кто-то не спит, читает, ему холодно, ему скучно, ему каково-то. И вокзал, и это окно — части одного города. Весь курс мы будем ходить по улицам и спрашивать: тут свет или просто исправная проводка?
Сразу честно: аналогия города — леса, а не здание. Она помогает носить понятия, расставлять их по местам и не терять. Но саму трудную проблему она не решает — ни одна метафора не решает. Когда мы дойдём до края, я об этом скажу прямо.
Часть 3. Зомби, которым хватило бы эволюции
Теперь — возражение, с которым нужно познакомиться сразу, чтобы дальше не путаться. Оно называется аргументом философского зомби. [4]
Если такой зомби хотя бы логически возможен — значит, поведение и физика это одно, а наличие переживания — что-то отдельное. Тогда чисто функциональное описание мозга («при сигнале X делай Y») в принципе не дотягивается до вопроса «откуда внутри свет». Будет полное описание машины — и пустота под капотом.
И вот тут всплывает мысль, которую почти каждый предлагает первой: да ведь ощущения нужны — чтобы моделировать мир и принимать сложные решения! Звучит убедительно. Но смотрите, что с ней не так.
«Моделировать реальность» и «принимать решения» — это функциональные вещи. Их можно целиком описать как обработку информации. Беспилотный автомобиль моделирует реальность и принимает довольно сложные решения. Шахматный движок тоже. И вопрос остаётся ровно тем же: а им-то каково? Похоже, никаково. Внутри темно. Эволюции, по всей видимости, хватило бы зомби: видишь красное → тянешься → ешь → размножаешься. Никакое «я», которому каково-то, для этой цепочки не требуется. А получились существа, которые моделируют себя, моделирующих себя — и неясно, зачем к этому прилагается переживание изнутри.
Контраргумент функционализма, с которым де-факто живёт большинство нейробиологов: можно вообразить — не значит возможно на самом деле. Когда я воображаю «зомби», я просто плохо представляю, что значит в точности воспроизвести нейронные процессы. Воспроизведите их по-настоящему — и свет включится сам, бесплатно. Это позиция «опыт = определённый тип вычисления».
Кто прав — не решено, и мы вернёмся к этому в Уроке 8. Что важно сейчас: оба лагеря согласны, что мост от физики к переживанию не построен. Деннетт сказал бы, что моста и не нужно — никакой отдельной загадки нет, мы её сами выдумали. Чалмерс — что без моста мы подменили трудную проблему лёгкой. Спор не решён. Но «ощущения нужны для выживания» его точно не закрывает.
Часть 4. Боль против красного
У функционального аргумента есть гораздо более сильная версия — и честно будет показать её во всю мощь, прежде чем критиковать.
«Красное» функционально оправдать трудно: ну различается длина волны, ну и что. А вот боль будто реально что-то делает. Она не просто сообщает «повреждение ткани такой-то интенсивности». Она хватает всю систему за шиворот: бросает все приоритеты, заставляет отдёрнуть руку, въедается в память так, что вы год будете обходить ту плиту. Кажется, вот он — случай, где переживание явно несёт нагрузку. Где свет работает.
Но зомби-возражение возвращается и сюда. Можно без противоречия представить «сигнал повреждения с высшим приоритетом» — который перехватывает управление, отдёргивает руку, пишет память — и который при этом нисколько не саднит. Вся работа боли сделана. Переживания нет. Если такое представимо — значит, даже у боли «каково это» и «что это делает» расходятся. Функция объясняет, зачем система так себя ведёт. Она не объясняет, почему вдобавок горит свет.
Тонкость, которую легко проскочить: заметьте, мы дважды поймали один и тот же манёвр. Сначала «ощущения нужны для моделирования», потом «боль ведь делает работу». Оба раза мысль соскальзывает с «это нужно для поведения» на «значит, при этом что-то переживается». Первое — правда. Второе — отдельное утверждение, и оно не следует из первого. Учитесь слышать этот щелчок: на нём спотыкаются почти все разговоры о сознании.
Часть 5. Где упирается объяснение
Вернёмся к красному апельсину из начала урока. Мы знаем цепочку: волна → колбочки сетчатки → V1 → V4 → «красное». Задайте теперь строго технический вопрос: в какой точке этой цепочки появляется «что-то изнутри»?
в мембране?
Когда натрий хлынет внутрь нейрона V4? Тогда «что-то» должно быть при каждом импульсе у каждой нервной клетки — включая нейроны вашего кишечника.
в синапсе?
В момент, когда медиатор выброшен в щель? Это просто другая форма того же возражения — молекулярный щелчок, и снова непонятно, почему он «светится».
в сети?
В определённой конфигурации связей? Тогда назовите, в какой именно. И почему дыхательный центр, тоже сеть, не сопровождается «опытом дыхания».
не знаю
Самый честный ответ. Это не временная пауза в знании — это структура проблемы. К ней мы вернёмся в Уроке 8.
Заметьте: вопрос «где» ставится осмысленно для всего, что есть в физическом мире — молекулы, токи, поля, области коры. Для переживания он буксует. И главное — у этого вопроса нет третьеличного следа. Активность V4 можно измерить прибором. Сам свет — нельзя. Он виден только изнутри той штуки, в которой горит. Вот это отсутствие следа снаружи и есть трудная проблема в чистом виде.
В нашем ночном городе можно с холма показать, где почта, где вокзал, где электростанция. Можно проследить каждый провод. Но нельзя с холма увидеть, горит ли в окне тёплый свет в нашем смысле — есть ли там кто-то, кому каково-то. Не потому, что мы плохо смотрим или у нас слабый бинокль. А потому, что «свет» в этом смысле по своей природе виден только из той комнаты, где он есть.
Часть 6. Четыре лагеря на горизонте
Чтобы дальше не теряться, держите четыре основных позиции по сознанию. В Уроке 8 мы разберём их подробно — пока запоминаем как четырёх игроков на поле.
| Лагерь | Ставит на | Слепое пятно |
|---|---|---|
| Функционализм | Опыт = определённый тип вычисления. Воспроизведи структуру обработки информации — свет включится «бесплатно». | Зомби-аргумент: вроде бы можно вообразить ту же функцию без света. |
| ИИТ (Тонони) [3] | Сознание — физическая величина Φ («фи»), мера интегрированной информации. Больше система объединяет данных в одно целое — ярче свет. | Неясно, почему именно интеграция, а не другое математическое свойство, должна «светиться». |
| Панпсихизм | Сознание — фундаментальное свойство материи, как масса или заряд. Большие опыты собираются из микро-опытов частиц. | Проблема композиции: как именно микро-опыты складываются в один ваш опыт? |
| Иллюзионизм (Деннетт) [5] | Никакого «света сверх функции» нет. Мозг строит убедительную модель самого себя, и эта модель кажется ему переживанием. | Если переживание иллюзорно — кому именно оно кажется? Иллюзия без зрителя странно звучит. |
Часть 7. Что мы из этого делаем
Курс — не про то, чтобы выдать вам готовый ответ на трудную проблему. Ответа нет. Курс — про то, чтобы вы умели смотреть на любое утверждение о сознании (своё, чужое, прочитанное в ленте, сказанное языковой моделью) и быстро прогонять его через три фильтра:
Это лёгкая проблема или трудная?
«Как мозг распознаёт лица?» — лёгкая, форма ответа понятна. «Почему распознавание сопровождается узнаванием изнутри?» — трудная.
Это корреляция, причинность или тождество?
«Активна V4 → видны цвета» — корреляция. «Повредили V4 → цвета пропали» — причинность. «V4 и есть переживание цвета» — тождество. Это три разных утверждения.
Это объяснение или пересчёт?
«86 миллиардов нейронов» — пересчёт. «Сложность порождает сознание» — тоже: сложность сама ничего не объясняет, нужно показать как.
Зачем это вам: те же три фильтра вы начнёте автоматически прикладывать к любой системе, которая делает вид, что «понимает» и «чувствует» — от языковой модели до спора в комментариях. «Модель написала, что ей больно» — корреляция между токенами. «Модель ведёт себя так, будто ей больно» — функция от обучающих данных. «Модели больно» — третий шаг, требующий отдельного аргумента, а не пересчёта параметров. Этот навык пригодится чаще, чем кажется — и в Уроке 8 мы наведём его прямо на ИИ.
Резюме
Лёгкая ≠ трудная
Лёгкие проблемы про как работает мозг. Трудная одна — про почему это сопровождается переживанием. Их постоянно путают и продают первую за вторую.
Аналогия — ночной город
Светлое окно = переживание, тёмное = бессознательная обработка, заглянуть снаружи = третьеличное наблюдение. Эта таблица будет расти восемь уроков.
Зомби-аргумент
Инструмент, проверяющий, не подменили ли мы «переживание» «поведением». «Ощущения нужны для выживания» трудную проблему не закрывает.
Даже боль не спасает функционалиста
Боль явно делает работу — но «сигнал высшего приоритета без саднения» представим. Функция объясняет поведение, не свет.
Четыре лагеря на горизонте
Функционализм, ИИТ, панпсихизм, иллюзионизм. У каждого своё слепое пятно. Урок 8 разберёт их по косточкам.
Что дальше в Уроке 2: от философии — к нейробиологии. Возьмём ту самую V4 и спросим: а если вырезать её и активировать отдельно — это уже переживание красного или просто сигнал? Окажется, что ваш мозг прямо сейчас обрабатывает кучу цвета, которого вы не видите. Тёмные окна обнаружатся внутри вас самих.
Источники / Sources
- research David Chalmers (1995). «Facing Up to the Problem of Consciousness». Journal of Consciousness Studies, 2(3): 200—219.
- research Thomas Nagel (1974). «What Is It Like to Be a Bat?». The Philosophical Review, 83(4): 435—450.
- research Giulio Tononi (2008). «Consciousness as Integrated Information: A Provisional Manifesto». Biological Bulletin, 215(3): 216—242.
- books David Chalmers (1996). «The Conscious Mind: In Search of a Fundamental Theory». Oxford University Press.
- books Daniel Dennett (1991). «Consciousness Explained». Little, Brown and Company.
Источники проходят независимую проверку на этапе библиографической верификации курса.