Дэниэл Деннет является одним из классиков функционализма в философии сознания. Он утверждает, что сознание – это просто набор функций, который может быть воспроизведен на компьютере, и приводит в подтверждение этого тезиса множество аргументов и красочных историй. Один из центральных аргументов функционалистов: то, что выполняет те же функции, которые выполняет наш сознательный разум, является сознательным. Грубо говоря, то, что ходит, плавает и крякает как утка – это и есть утка.

Первая книга, в которой Деннет формулирует этот тезис – Content and Consciousness (1969), классические работы, в которых он развивает свою функционалистскую теорию: The Intentional Stance (1987) и Consciousness Explained (1991). В те времена компьютеры были все еще очень далеки от достижения компетенций в области ведения беседы, распознавания образов и речи или иного непосредственного взаимодействия с человеком, которыми обладает человеческий мозг, и тезис звучал весьма правдоподобно. Но постепенно искусственный интеллект приближался к прохождению теста Тюринга, при этом сознания и самосознания не приобретал. Сегодня компьютеры распознают образы и речь, а посредством GPT-3 ведут с нами осмысленную беседу.

Альтернативой функционализму является физикализм в философии сознания. Возражение физикалистов функционалистам: мы точно знаем, что сознание реализуется нейрональными процессами в нашем мозге. Но у нас нет достаточных причин утверждать, что то, что реализует некоторые функции сознания, например, способность поддерживать беседу, реализует и другие его функции, совокупно называемые квалиа. Безусловно, все функции реализуются физическими процессами, но следует ли из этого, что те физические процессы, которые реализуют одни функции, обязательно должны реализовывать и другие функции? Если в нашем мозге способность поддерживать беседу сопровождается квалиа, следует ли из этого, что и в компьютере эта способность будет сопровождаться квалиа? Нет, логически не следует. Это возможно, но и противоположное тоже возможно.

И вот теперь, как мне кажется, мы получили эмпирическое опровержение функционализма. GPT-3 весьма успешно имитирует Деннета, отвечая на вопросы очень похоже на то, как ответил бы на них сам Деннет (детали – по ссылке ниже). При этом мы знаем, что GPT-3 сознанием не обладает. Вывод: можно разделить рациональную и феноменологическую составляющую сознания. Считать, что все то, что воспроизводит рациональную составляющую сознания воспроизводит его суть – это наследие картезианства. Что весьма иронично, учитывая неустанную борьбу Деннета с Картезианским театром. Мы пока не знаем, в чем суть сознания. Но в чем бы она ни была – она определенно представляет собой физический процесс, точные характеристики и функции которого нам пока неизвестны.

Статья, описывающая как GPT-3 притворяется Деннетом: https://www.vice.com/en/article/epzx3m/in-experiment-ai-successfully-impersonates-famous-philosopher

Коллеги обсуждают открытое письмо лидеров в области разработки технологий искусственного интеллекта о приостановке работы над системами ИИ мощнее GPT-4 и разработке "протоколов безопасности" (см. ссылки далее). Согласна с аргументами коллег о том, что призыв поставить такие системы под контроль государства — это явно не панацея. Особенно учитывая, как "хорошо" современные государства справляются с подобными задачами: государства в основном справляются с тем, чтобы поставить граждан под контроль ИИ, которым в некоторый государствах управляет диктатор, в той или иной степени оторванный от реальности (пример: система распознавания лиц в России и социальный кредит в Китае). Предполагать, что разработать и внедрить протоколы безопасности в сжатые сроки удастся в США, где общество расколото конфликтом между республиканцами и демократами, тоже несколько наивно. Особенно учитывая, как "успешно" Илон Маск, один из подписантов письма, попытался усовершенствовать Твиттер. Тем не менее, нельзя не согласиться и с рядом аргументов авторов письма. Бесконтрольный ИИ может быть опасен. Я не вижу достаточных оснований рассчитывать, что он сам по себе разовьется в благоприятную для нас сторону. Аргументы Ника Бострома (Bostrom, 2016. "Superintelligence"), на которого ссылаются в письме, о том, что в программное ядро ИИ может встроена "человеческая система ценностей", которую этот ИИ не сможет переписать, потому что запрет не ее переписывание составит часть этой системы, кажутся мне ошибочными. Если способности этого ИИ будут превышать человеческие, то у человека нет шансов его перехитрить. Все, что смогут придумать программисты, интеллектуально превышающий их ИИ сможет обойти. Если чему-то нас учит история человечества, так это тому, что любой кодекс и запрет может быть нарушен рациональным агентом. Единственные законы, которые нельзя нарушить — это законы природы. Мораль: мы живем в интересные времена на свой страх и риск. И страховку купить не у кого.

https://futureoflife.org/open-letter/pause-giant-ai-experiments/

Некоторые разработчики больших лингвистических моделей призывают «все лаборатории немедленно приостановить как минимум на 6 месяцев обучение систем ИИ, более мощных, чем GPT-4»: https://www.tg-me.com/bci_ru/1426. Вот цитата из этого письма: «Современные системы искусственного интеллекта начинают соперничать с человеком в решении общих задач, и мы должны спросить себя: должны ли мы позволить машинам наводнять наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места, включая те, которые приносят удовлетворение (fulfilling ones)? Должны ли мы развивать нечеловеческие сознания, которые в конечном итоге могут превзойти нас числом, перехитрить, привести к нашему устареванию и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией? Такие решения не должны делегироваться неизбранным техническим лидерам. Мощные системы искусственного интеллекта следует разрабатывать только после того, как мы будем уверены, что их эффект будет положительным, а риски управляемыми.» Если кратко, мою реакцию на подобные заявления можно выразить известными словами Гегеля: авторы этого письма предлагают нам учиться плавать, не входя в воду. Надежные ответы на вопросы, перечисленные в этой цитате, в конечном счете, не могут быть даны a priori.

Далее в письме говорится: «Лаборатории искусственного интеллекта и независимые эксперты должны использовать эту паузу для совместной разработки и внедрения набора общих протоколов безопасности для продвинутого проектирования и разработки ИИ, которые тщательно проверяются и контролируются независимыми внешними экспертами. Эти протоколы должны гарантировать, что системы, придерживающиеся их, вне всяких разумных сомнений, безопасны. Это не означает паузу в разработке ИИ в целом, просто отступление от опасной гонки к все более крупным непредсказуемым моделям черного ящика с новыми возможностями.» Мысль, безусловно, светлая, однако, на мой взгляд, она плохо совместима с идеей приостановки разработки систем ИИ. Возьмем для примера первое правило робототехники Айзека Азимова: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред». Насколько я понимаю, авторы письма предполагают что-то вроде свода правил и протоколов для ИИ, похожих на это правило. Но посмотрим теперь на природу — самого лучшего инженера, создавшего нас самих. Разве природа не вложила в нас тот же самый принцип, который Азимов предлагает для роботов? Многие философы считали и считают, что человек всегда действует sub specie boni — под видом добра. Часто ли в жизни встречаются люди, совершающие зло как зло и ради зла? То, что мы принимаем как цель нашего действия не может не казаться нам благом (даже если это на самом деле не так). Согласно такому представлению о действии, если человек убивает ради денег, он считает, что получение им денег — это большее благо, чем жизнь другого. Вот мы и нашли лазейку в это непреложном законе. Первое правило можно обойти и другим способом: нужно только принять, что человек, которому ты причиняешь вред, — это недочеловек или не человек. Двадцатый век дал нам достаточно подобных примеров. Мораль этого рассуждения такова: нельзя придумать эффективные правила на берегу. Правила должны быть, с этим никто не спорит, но появляться они могут только в ходе разработки ИИ. Они могут сформироваться только тогда, когда мы увидим, как они могут быть нарушены.
#ИИ

Широко распространено представление о том, что материальное не может быть духовным и что если нечто целиком и полностью материально, лишено какого бы то ни было «ореола» нематериальности, хотя бы в виде таких научно необъяснимых свойств как «квалиа», то, следовательно, это нечто не может составлять предмет гуманитарных наук и межличностных отношений. Если принять это представление, то утверждение, что все свойства и функции мозга являются исключительно физическими, а все поведенческие акты человека представляют собой результат воздействия среды и внутренних процессов, протекающих в мозге, кажется, ведет к скептицизму в отношении свободы воли. Потому что это описание кажется несовместимым с утверждением о том, что «действия человека являются результатом его осознанных и морально обоснованных решений». Либо наши решения осознанны и морально обоснованы, либо они являются результатом реакции нашего мозга на воздействие среды. Следовательно, если ученые могут предсказать поведение личности из анализа процессов в ее мозге, то тем самым они демонстрируют, что поведение личности вызвано не ее целями, задачами, идеалами и т.д., а бездушными и механическими процессами в ее мозге. Но важно не забывать, что представление о том, что «состояния мозга» не могут быть тождественны «состояниям сознания» представляет собой метафизический философский тезис, а не тезис какой бы то ни было научной теории. Нейрофизиологи изучают, как именно реализованы те или иные сознательные процессы в нашем мозге. Когда они обнаруживают, что «осознанное желание поднять правую руку» реализовано определенным нейрональным процессом в премоторной коре левого полушария, они не обнаруживают, что «на самом деле» никакого желания поднять руку нет, а есть «только» нейрональный процесс. Наоборот, они обнаруживают, что этот нейрональный процесс – это и есть наше желание (или, для тех, кто не готов принять тезис теории тождества сознания и мозга (identity theories, type-identity materialism)), что наше желание реализовано этим нейрональным процессом. Утверждать, что желание не может быть реализовано нейрональным процессом полностью, что должно быть еще что-то помимо нейрональных процессов, что-то неуловимое, квалитативное и научно необъяснимое – означает отказаться от натурализма и принять дуализм.

На эту тему Антон Кузнецов недавно опубликовал отличную обзорную статью, в которой разбирает антинатуралистические предпосылки «эмпирических» опровержений свободы воли (ссылка ниже). В этой статье Кузнецов приводит в том числе и мои аргументы против несовместимости предсказуемости и свободы (две ссылки ниже). Я полностью согласна со следующим утверждением Кузнецова: «Поэтому границы действий агента и сам агент не совпадают с границами сознательных состояний. Более того, утверждать, что сознательные состояния не играют роли в поведении, можно только в том случае, если их наличие или отсутствие никак не сказывается на нем. Это тривиальным образом невозможно, поскольку изменения в сознательной истории агента есть изменения и в его физической истории. Отстаивание обратного тезиса – это мгновенное введение антинатуралистической гипотезы «левитирующего» сознания.» (с. 225)
Далее Кузнецов рассматривает следующее возражение: «Тогда оппонент мог бы действовать в прямолинейной редукционистской манере – раз некоторые решения можно предсказать по физиологической активности, то любое действие можно предсказать таким образом. Если это так, то упоминания об агенте, его ментальной жизни будут элиминированы. Это очень сильный вид редукции, она подразумевает выводимость таких законов, которые без остатка могут «перевести» психологические высказывания на язык физиологии. Одним из результатов дискуссий в философии сознания является то, что такой «перевод» принципиально невозможен. Этому способствовала критика классической теории тождества … » (там же) и приводит ряд ссылок на критику теории тождества.

По этому поводу я хочу сказать, что важно различать эпистемическую и онтологическую редукцию. Эпистемическая редукция предполагает, что все психологические феномены могут быть объяснены

на языке физики, а онтологическая редукция предполагает, что все психологические феномены де-факто тождественны физическим феноменам. Натурализм утверждает только онтологическую редукцию, хотя, конечно же, совместим и с эпистемической. Но даже если мы предположим полную эпистемическую редукцию (чего пока на горизонте не предвидится), все равно, из утверждения о том, что наше осознанное намерение к осуществлению действия тождественно определенным нейрональным паттернам в нашем мозге, не следует утверждения о том, что нашего намерения и вовсе не существует, а есть только паттерны. Иначе из утверждения о том, что вода в стакане тождественна H2O пришлось бы сделать вывод, что стакан пуст, как как в воды в нем нет, а есть только H2O.

Ссылки:

Статья А. Кузнецова (2023): https://www.pdcnet.org/pdc/bvdb.nsf/purchase?openform&fp=eps&id=eps_2023_0060_0001_0221_0240&language=russian&fbclid=IwAR0TSh9SmU3ju68vhvHS8rZU7Tb31iLalZinCmihl_MiTpQRaf3p36SrFrA

Статьи М. Секацкой по теме:

(2016) https://www.researchgate.net/publication/303311422_Free_Will_and_Predictability_A_Philosophical_Analysis_of_the_Current_Research_in_Neuroscience

(2020) https://pq.iphras.ru/article/view/4787

Бонус: еще одна моя статья про то, почему наше сознание обладает каузальной силой, несмотря на «научные» опровержения

(2020) https://journal.iphras.ru/article/view/4607

Комментарий Антона Кузнецова на мой комментарий про редукцию (см. ссылку на пост в конце текста) вызвал у меня неодолимое желание прокомментировать его. Текст далее предназначен главным образом для тех, кто хочет знать побольше про пятьдесят оттенков редукционизма и где они обитают.

ВИДЫ РЕДУКЦИОНИЗМА

В целом, я с Антоном согласна, но хочу прояснить один момент, который часто упускается в рассуждениях о редукционизме в философии сознания (а я с коллегой Christian J. Feldbacher-Escamilla как раз работаю сейчас над таким проектом и спешу поделиться неопубликованными мыслями!).

Понятие «редукции» в философии сознания и философии науки используется по-разному. В философии науки речь идет о редукции теорий или понятий: если одна теория может быть полностью редуцирована к другой, то эту теорию, при некоторых условиях, можно элиминировать. Это не означает, что тем самым будут элиминированы объекты и феномены мира, которые эта теория описывает (пример: вода и Н2О).
В философии сознания понятие «редукции» официально чаще всего используется в том смысле, в котором его употреблял Эрнст Нагель (Nagel, Ernest (1961). The Structure of Science): как редукция одной теории к другой при помощи связующих принципов (bridge principles). Таким образом, «редукционистскими» называются такие теории сознания, которые провозглашают возможность «нагелианской» редукции, а «нередукционистскими» - такие, которые провозглашают ее невозможность.

Однако здесь множество нюансов:

1. Помимо «нагелианской редукции» существует «функциональная» редукция, когда сознательные состояния редуктивно объясняются при помощи функционального анализа. При этом некоторые философы считают функциональную редукцию совместимой с теориями тождества (то есть с утверждением о том, что, онтологически, любое функционально объясняемое свойство тождественно конкретному материальному свойству или комплексу свойств) (см., например, Lewis, David (1972). “Psychophysical and Theoretical Identifications”; van Riel, Raphael (2014). The Concept of Reduction), а некоторые выделяют ее в отдельный вид редукции, тем самым заключая, что функционализм – это обязательно нередуктивный физикализм (см., например: Stoljar, Daniel (2010). Physicalism). Что же тогда нередуктивного в физикализме, который проводит функциональную редукцию ментальных свойств? Например, функционально необъяснимый «квалитативный остаток», как утверждает Джегвон Ким (Kim, Jaegwon (2000). Mind in a Physical World).

2. Для того, чтобы как-то классифицировать эту неразбериху, можно различать «эпистемическую редукцию», которая провозглашает, что термины одного языка описания (например, психологии), редуцируемы к терминам другого языка описания (например, нейрофизиологии), и «онтологическую редукцию», которая утверждает, что феномены, на которые указывают термины одного языка (например, желания) тождественны феноменам, которые указывают термины другого языка (например, нейрональные паттерны).

3. После Эрнста Нагеля в философии науки понятие «редукции» разрабатывалось и уточнялось, что почти не нашло отражения в философии сознания. С точки зрения современной философии науки, функциональное объяснение – это вид редукции.

4. Зачастую, «редукционизмом» неверно называют элиминативизм. Об этом Антон написал. Разница, если просто, вот в чем: редукционизм – это сказать, что наши желания тождественны таким-то и таким-то нейрональным паттернам. Элиминативизм – это сказать, что никаких желаний нет, потому что ученые изучили мозг и пришли к выводу, что то, что в нем происходит, вообще не коррелирует с нашими психологическими теориями.

Редукция - это не элиминация

Мария Секацкая дает некоторые комментарии в отношении редукции, реагируя на мою статью «Химера натурализма и свобода воли». Редукция - это когда некоторый феномен сводится к чему-то более «простому», например, текучесть к свойствам молекул воды. Многих философов и ученых спешат зачислить в ряды редукционистов, имея в виду нечто очень плохое, такое ругательное слово. Редукционизм в отношении сознания - это отрицание сознания. Я согласен с Марией, что это не так. Но выражусь своими словами. Редукция - это не элиминация: если можно объяснить свойства объекта через низкоуровневые свойства, то это не значит, что этих свойств или этого объекта нет. Однако в исключительных случаях объяснительная редукция может вести к элиминации. Это точно не случай сознания. Также бывает редукция онтологическая, она не допускает обязательную объясняемость свойств высокого уровня через низкий, а лишь опирается на логическую супервентность. Здесь тоже нет элиминации, но есть указание на то, что свойства высокого уровня существуют в том же онтологическом домене, что и свойства низкого уровня. Объяснительная редукция не ведет к онтологической, как это могло бы показаться, потому что редуктивное объяснение совместимо с естественной супервентностью. Поэтому я не готов принять, что онтологическая редукция является основанием натурализма.
#сознание

https://www.tg-me.com/vestniknat/7