Неожиданный вопрос

Дама рядом со мной в самолете:
- можно задать вам один вопрос?
- да, конечно, секундочку, только достану рубашку из сумки.

Тот самый вопрос через две минуты:
- Так вам удалось найти зону мозга, в которая отвечает за сознание?

Да, - думаю я - не такой вопрос я ожидал от соседки по самолету.

Это, конечно, было не совсем случайно: мы познакомились с этой дамой перед этим, и я рассказал, что лечу на ежегодную конференцию по исследованиям сознания. А это, братцы, релевантная информация и для вас. Постараюсь возобновить активность новостями науки о сознании.

В этом году ASSC на Крите ☀️, так что увидите посты - вполне может быть, что я пишу с пляжа. Или из лабиринта.

Конференци началась раньше, чем я планировал: коллеги-философы пригласили на лекцию Энди Кларка, который получил премию Дэниэла Деннета.

Кларк (известный развитием теории предсказательного кодирования для понимания разума и сознания) рассказывал про то, как квалиа - отражение внутреннего энергетического бюджета. В качестве основного примера он взял одну современную теорию старения, согласно которой метаболизм на клеточном уровне вопреки ожиданиям ускоряется, а не замедляется. И именно из-за этого ускорения, мозг начинает экономить ресурсы и замедлять работу организма в целом, что на уровне квалиа переживается, например, как усталость.

Меня в этой лекции заинтересовало две вещи.

Первое: метаболический баланс/бюджет упоминается в современных теориях эмоций. И связь между эмоциями и сознанием становится всё более явной (эту связь – как ключевую для сознания – изучают коллеги в Брюсселе. Странно, но кажется, не писал об этом в блоге).

И второе: Кларк сказал, что в виде квалиа отражается только общая смешанная оценка от всего тела. Если происходит локальный мониторинг ресурсов какой-то системы, он происходит без феноменального опыта. То есть квалиа - это обобщенная оценка от множества систем. Потому что Я одно? Или потому что это некий аналог глобального доступа? Есть над чем подумать.

Выступил сам. Рассказывал про то, как формируется уверенность, когда мы заучиваем вероятностные связи. На доклад + вопросы было всего 10 минут, так что пришлось сократить даже название доклада 😅

Черномырдин нашей психологии Иван Иванчей на конференции ASSC.

Коллеги из Льежа изучают околосмертный опыт (near-death experience), доводя испытуемых до обмороков в лаборатории…

Это сессия про нейрофеноменологию (связь феноменального опыта и нейрофизиологии) измененных состояний сознания #assc@chernopsy

Пока я готовлю резюме ASSC 2025, вот вам фотография Девида Чалмерса с конференционного ужина (Черномырдина нашей психологии тоже в кадре – ставьте 😎, если нашли)

ASSC 2025

Ну что ж, немного итогов.

Конференция в целом показалась хорошей - особенно на фоне прошлогодней конференции в Токио. Были нарекания по организации (очень короткие 10-минутные доклады, постерные сессии на жаре, поздние оповещения), но содержание и социальная часть были хороши.

Последние годы на каждой конференции вырисовывается доминирующая тема. Иногда она связана с локацией проведения. Например, в Токио было много робототехники и ИИ. Конференцию в Нью-Йорке (2023) организовывали Девид Чалмерс и Нед Блок, поэтому было много философии. В этом году почему-то было много изменённых состояний сознания - и это вроде никак не связано ни с локацией, ни с организаторами. Несколько симпозиумов и два пленарных доклада были на эту тему: один про психоделики, другой про медитативные трансы. Ещё один был про буддийское понимание Я. Доклад про психоделики (Робина Кархарта-Харриса) мне очень понравился - про него напишу отдельно.

Много было того, что называют нейрофеноменологией: когда связывают субъективные состояния с нейрофизиологическими или когнитивными процессами. Такой новый интроспеционизм, только более строгий и скореллиованный с объективными показателями.

В целом, кажется, только явный тренд на изучение изменённых состояний сознания показался новым. Прорывов в науке о сознании, к сожалению, снова не наблюдается.

3000

Кстати, мы тут незаметно перевалили за 3000 подписчиков. Спасибо, что читаете, комментируете, пересылаете другим! Буду стараться больше для вас писать.

Две тысячи подписчиков назад родилась традиция – с каждой новой тысячей рассказывать, почему канал называется “Черномырдин нашей психологии”. Пришло время снова рассказать эту историю.

Дело было в далёком 2016 году на защите моей кандидатской диссертации (да, я кандидат психологических наук). В конце защиты идёт свободное обсуждение, любой член диссертационного совета может встать и высказать своё мнение о диссертанте и его работе. Дальше я приведу слова одного из членов совета во время того самого обсуждения. После защиты мне нужно было сделать расшифровку всей защиты по видео. Я попросил моего друга (Максим @moscasposcas привет!) помочь, и ему попался как раз этот кусок обсуждения. Наслаждайтесь:

« Уважаемые коллеги. Мы оцениваем не только работу соискателя, но и, в общем-то, личность соискателя, тот комплекс вещей, которые, в общем, трудно формализовать. Ну, у Ивана Ивановича есть все, на мой взгляд качества, чтобы быть великим русским учёным. Иван Иванович... Но второй вопрос возникает: «Иван чей? Чей Иван? Это Иван, западный, с западными цитатами или Иван наш?» Вот я думаю, что, всё-таки, Иван наш. ... Ну и второе: я понял, что у Ивана есть очень хорошая харизма, судя по его выборке экспериментальной. Восемьдесят три мужчины, но сколько там женщин у вас было?
— Двести пятьдесят.
— Двести пятьдесят.
— Двести пятьдесят женщин пошли на жертву, чтоб заниматься какой-то там псевдограмматикой...
— С Иваном Ивановичем.
— С Иваном Ивановичем они пошли. Я считаю, что это большое такое, достоинство Ивана Ивановича. Вы ещё… семьи нет?
— Да.
— Супруга есть, молодец, значит, вы успели. Потому что столько, двести пятьдесят, это уже кошмар. Второе: я считаю, что у Ивана Ивановича есть ещё хорошая вещь. Это Черномырдин нашей психологии. Потому что то, что он пишет — это то же самое, что хотели как лучше, а получилось… »

После расшифровки, Максим прислал мне текстовый файл с названием: “Черномырдин нашей психологии”.

Такая вот весёлая защита у меня была. Иван, к слову, оказался, скорее западный, чем наш :(

Сегодня на конференции Cognitive Computational Neuroscience в Амстердаме.

Конференция недавняя, но уже очень популярная. Обсуждаются вопросы интеграции вычислительных дисциплин и когнитивной нейронауки.

На пленарном докладе с утра рассказывали о том, как физи
ческая имплементация некоторых алгоритмов естественным образом ограничивает их и делает человекоподобными. Например, если пытаться сделать походку робота человекоподобной алгоритмически, то будет очень сложно и вряди получится. А если просто сделать физическую имплементацию, похожую на человеческую, то просто физические ограничения сделают очень простую модель похожей на человека. Интересно, можно ли этот принцип распространить на более высокоуровневые когнитивные процессы?

Потом обсуждались вопросы соответствия репрезентаций (то есть каких-то устойчивых паттернов, которые возникают в ответ на предъявление стимула) в искусственных нейросетях и в человеческом мозге. Эти репрезентации не всегда соответвуют друг другу. Обсуждалось, проблема это или нет. Видимо, нет! Но если много нейросетей начинают формировать похожие репрезентации в какой-то задаче или с какими-то данными - скорее всего такие репрезентации будут похожи на репрезентации в мозге. В чуть более вольной репрезентации: искусственные и человеческие нейросети объединяет более абстрактные, высокоуровневые репрезентации.

AI-inspired human intelligence

Узнал из доклада интересный факт: с момента сенсационной победы машины над человеком в игру Го, люди стали играть значительно лучше, демонстрируя лучшее качество и большую новизну ходов.

Технооптимистичная (но уже старенькая) статья на тему тут: https://www.pnas.org/doi/10.1073/pnas.2214840120

Уверенный и довольный

Немного узкопрофильный постер, но с интересной находкой. Уверенность в решениях кодируется теми же вокселами (маленькими зонами мозга), где расположено больше всего мю-опиоидных рецепторов, которые позволяют нам чувствовать удовольствие. Это неожиданная находка, но она логична в контексте некоторых исследований, показывающих связь чувства уверенности и эмоций. Например, есть работы, показывающие, что уверенность служит как бы внутренним подкреплением при обучении. И что настроение влияет на уверенность.

AI-inspired human intelligence 2

В комментариях к предыдущему посту указали на то, что скачок в человеческих способностях вместе с развитием машинных - обычное дело. Я вспомнил, что Каспаров рассказывал про современных шахматистов, которые тренируются, играя с ИИ (который давно превосходит человека в шахматах). Играют они в итоге отлично, но хорошие ходы объяснить не могут. Мне кажется, я делал об этом пост, но не могу его найти. Так что приведу цитату из старой записи Дениса Тулинова:

“Сегодня ход все чаще оценивается как хороший или плохой не потому, что он кажется таковым, и не потому, что его никогда не делали раньше. Ход считается хорошим, если он работает, и плохим, если не приносит пользы. Хотя для того, чтобы стать успешным шахматистом, нам по-прежнему нужны развитая интуиция, знание общих принципов и логика, сегодня игра человека все больше похожа на игру компьютера.

В рамках программы «Молодые звезды» Шахматного фонда Каспарова я уже больше десятка лет работаю с детьми в возрасте от восьми до восемнадцати. Все они играют с сильными шахматными движками еще с тех пор, как делали свои самые первые ходы, и, несомненно, они развиваются иначе, чем дети, с которыми я работал в середине 1980-х годов в школе Ботвинника в Советском Союзе.

Поскольку сам я в прямом и переносном смысле являюсь представителем «старой школы», мне трудно полностью принять подход этих юных шахматистов к игре и отсутствие у них структурированного, догматического шахматного мышления. Но я признаю, что с результатами не поспоришь. В таком свободном от догм обучении есть свои преимущества и недостатки. Умение объяснить, почему данный ход теоретически хорош или плох, — вовсе не то же самое, что умение продемонстрировать это на практике”.

Жизнь без тестостерона

В одном блоге прочитал пост про жизнь мужчины, у которого перестал вырабатываться тестестерон. Очень интеренсно то, как он рассказывает про субъективные ощущения: желания, чувства и мотивацию. Похоже на депрессию, но при этом нет негативного аффекта. Элементы ангедонии. Нет мотивации – притяжения к объектам, связанным с удовлетворением потребности. Но при этом есть ощущение красоты. Похоже на жизнь без wanting, но с liking, то есть без мотивации и предвкушения, но с созерцательным немотивирующим удовольствием.

Ниже цитаты в переводе автора блога.

А тут эпизод подкаста, в котором был этот герой: https://www.thisamericanlife.org/220/testosterone/act-one-0

Один из героев подкаста Айры Гласса про тестостерон — анонимный мужчина, чей организм перестал вырабатывать этот гормон вообще. «На нулевом тестостероне» он прожил четыре месяца, прежде чем врачам удалось найти лечение. И вот как это ощущалось:

Когда у тебя нет тестостерона, у тебя нет желаний. А когда нет желаний, в голове пусто. Ты не думаешь ни о чем.

Проснувшись, я буквально сидел в постели и пялился в стену — не с интересом, не без интереса — по три, четыре часа… Мой день был пуст. Мне неинтересно было даже смотреть ТВ.

Еда — мне не хотелось, чтобы еда была вкусной или интересной. Когда тебе повезло жить без желаний, ты можешь съесть кусок хлеба с майонезом. Вот и весь твой день.

Свою девушку я видел лишь по выходным… так что пять дней в неделю мне это сходило с рук. Надо ли говорить, что влечения не было абсолютно.

[Идя по улице], я видел кирпич в стене и думал: «Кирпич в стене». Видел голубя и думал: «Голубь». Самое буквальное восприятие мира из возможных.

И, очень странно звучащая вещь: «Это красиво». Про все, что я видел, я думал: «Это красиво». Но я это думал, а то и говорил вслух, с полным равнодушием, объективно. Смотрел на самый обычные вещи — сорняки на тротуаре — и думал: «О, это красиво». Шрам от операции на чьем-то колене, болты на колесах машины… Казалось, у всего есть цель.

И вот, когда не было тестостерона, у меня возникало это чувство всеведения: будто я вижу вещи насквозь, как на самом деле. И вывод — не оценочный, а именно объективный — заключался в том, что они прекрасны. Всё прекрасно: насекомые, трещины в асфальте, лица людей.

Но нужно понимать: эта мысль выражалась максимально ровным, скучным образом. «А, ну да, это красиво. Красиво».

Вы наверное думаете, что это ужасная штука, ужасно быть в таком состоянии... Но это странным образом приятно. Есть в этом свое удовольствие, невозможное удовольствие.

Не забывайте: не важно, что у тебя ничего нет, если ты ничего и не хочешь. Очень трудно войти в такое состояние ума. В каком-то смысле, мне теперь даже вспомнить это сложно. Но в этом была своя прелесть.

Чатгпт и тд: (субъективная) инструкция по применению

Насколько я противник обсуждения сильного искусственного интеллекта применительно к чатгптитд, настолько же я активный их пользователь как инструмента и помощника для интеллекта естественного. Поэтому решил написать субъективную инструкцию по ЧатГПТ – на основе того, что я знаю про устройство больших языковых моделей и личного опыта использования.

Большие языковые модели – это предсказатели следующих элементов в заданной последовательности. Обучение проводится на доступных в интернете текстах или специализированных текстовых базах. Всё это с некоторой фильтрацией, последующей выборочной перепроверкой и файн-тюнингом формы и тона ответа.

Таким образом, ответ на вопрос, который мы задаём – это усреднённое по множеству текстов продолжение текста нашего вопроса. Чаще всего за вопросом следует ответ, поэтому мы и получаем то, что выглядит как ответ.

При этом модель не знает сомнения, она будет выдавать продолжение текста, какой бы изощрённый вопрос мы не задали. Это и фича (можно получить интересный ответ или необычное решение) и бага (уверенный ложный ответ).

Итак, какие вещи МОЖНО спрашивать:

1. Вопросы, на которые есть общепринятый ответ. Замена гуглу. Большинство продолжений текстов в источниках ведёт к одному ответу – его модель и выдаёт. Модель просто погуглила за тебя. Можно доверять.

2. Решение практической проблемы, которое можно моментально проверить. Как оттереть следы ржавчины от столешницы, как заходить алгоритм, как отключить уведомления о рекламных акциях в Uber Eats.

3. Творческая задача, где нет однозначного ответа, но мы сами можем оценить результат на свой вкус: костюм на хеллоуин на заданную тему, как обставить комнату в квартире, какую пасту можно приготовить, если в холодильнике только шпроты, молоко и чили-соус.

4. tldr – резюме какого-то длинного, не жизненно важного текста, который нам лень читать. При этом, с очень большими текстами (книга, гигантская переписка) – это всё ещё работает не очень.

5. Связное резюме или черновик ваших собственных набросков. Например, я иногда делаю черновик секции обсуждения результатов в статье из списка результатов (см. сноску*).

6. Брейнсторминг для решения проблемы. Или размышление вслух через разговор с моделью. Может привести к полезным идеям и уточнению своих мыслей.

7. Составить формальное письмо в какой-то орган по какому-то запросу с местной спецификой. Идеально.

8. Пруфридинг – но умеренный. Модель ВСЕГДА найдёт что улучшить в тексте. Даже в своём собственном.


Какие вещи лучше НЕ СПРАШИВАТЬ:

1. Информация, которая может легко измениться: маршрута транспорта, трафик, время работы чего-то и тд.

2. Вопросы, на которые нет общепринятого ответа. Будет либо что-то невнятное, либо один вариант с необоснованной уверенностью.

3. Сложные личные решения. Модель не может принять решение за вас, она может только аккуратно резюмировать ваши мысли на тему. Но люди принимают решения не только на основе мыслей, но и на основе чувств - а их сложно передать модели (а многие люди их и сами игнорируют)

4. Маргинальные юридические вопросы: можно ли человеку с двойным гражданством водить машину в РФ с иностранными правами; можно ли открыть игрушечное казино для детей с использованием реальной, но иностранной валюты в новой экономической зоне **.

5. Эстетический продукт: текст или изображение. Конечно, зависит от ваших целей, но скорее всего получится нечто безличное и бездарное.

Важный нюанс, который всегда учитывать: нужно быть аккуратными со словами, которые мы используем. Модели очень чувствительны к словам, которые есть в промпте и ответы будут привязываться к ним. Если у вас есть гипотеза, в какую сторону должен быть ответ, но вы хотите получить независимый ответ от ЛЛМ, делайте свой запрос нейтральным, избегайте намёков на свой вариант ответа.

Сноски:

* В случае важности приватности запроса (новые научные данные, личная информация и тд), нужно убедиться, что ваши запросы не используются для обучения модели: включать режим временного чата или использовать приложения, которые обеспечивают приватность (например, у Амстердамского университета есть своё собственное приложение, работающее на основе GPT, но не выпускающее данные за пределы университета).

** Если уж надо что-то такое покопать, в юридических или регламентных вопросах просите привести прямую цитату из писаной нормы и дать ссылку на источник, чтобы можно было перепроверить.

Что думаете? Мэтчится с вашим опытом? Я что-то пропустил? Или какие-то рекомендации уже устарели? Пишите в комментариях!