Пока вы наслаждаетесь объективно годным выпуском, поделюсь топовым аниме-кроссовером из Сибири с любовью.

Летняя философская школа «Иллюминации», г. Тюмень, 2025.

Чуть-чуть отдышался после двух конференций, а тут как раз вышел подкаст на N+1. Спасибо ребятам за интересный разговор!

Новый манифест по безопасности ИИ: сохранить хрупкий доступ через цепочки мыслей

Исследователи из Google DeepMind, OpenAI, Anthropic, UK AI Security Institute и еще нескольких известных коммерческих и некоммерческих организаций призвали сохранить интерпретируемость “размышлений” ИИ -- которая совсем скоро может быть утрачена "навсегда".

<...> Например, при обучении с подкреплением модели получают вознаграждение за правильный результат вне зависимости от того, как он был достигнут. Это может привести к тому, что ИИ начнёт использовать внутренние способы рассуждения, непонятные человеку, например, заменять обычный язык на сокращения или условный код.

[Сейчас разрабатываются] системы, которые рассуждают в непрерывных математических пространствах, а не в дискретных словах, что полностью исключает необходимость в языковом мышлении.

[Если работу ИИ] оценивают люди, он может фальсифицировать ответы, чтобы те выглядели убедительными. Отдельную тревогу вызывает риск того, что модели могут намеренно скрывать свои истинные мотивы. Исследование Anthropic показало, что ИИ-системы иногда утаивают сомнительные методы получения ответов, даже когда их прямо просят объяснить ход рассуждений.

[Отслеживание] цепочек мыслей <...> позволяет выявлять уязвимости в системе обучения, предрасположенность к манипуляциям и потенциально опасные цели моделей ещё до того, как они перейдут к действиям.

Авторы исследования призывают индустрию ИИ сохранить и развивать этот инструмент, даже если это потребует отказа от некоторых более эффективных, но менее прозрачных решений.

https://hightech.plus/2025/07/16/uchenie-iz-openai-deepmind-i-anthropic-schitayut-chto-mi-mozhem-poteryat-sposobnost-ponimat-ii
Ученые из OpenAI, DeepMind и Anthropic считают, что мы можем потерять способность понимать ИИ
Екатерина Шемякинская
16.7.2025

The paper has drawn endorsements from some of the field’s most prominent figures, including Nobel Prize laureate Geoffrey Hinton, often called the “godfather of AI,” of the University of Toronto; Ilya Sutskever, co-founder of OpenAI who now leads Safe Superintelligence Inc.; Samuel Bowman from Anthropic; and John Schulman from Thinking Machines.

the current moment may be the last chance to ensure humans can still understand what their AI creations are thinking — before those thoughts become too alien to comprehend, or before the models learn to hide them entirely

https://hightech.plus/2025/07/16/uchenie-iz-openai-deepmind-i-anthropic-schitayut-chto-mi-mozhem-poteryat-sposobnost-ponimat-ii
OpenAI, Google DeepMind and Anthropic sound alarm: ‘We may be losing the ability to understand AI’
Michael Nuñez
July 15, 2025

Сама статья:

Tomek Korbak, Mikita Balesni et al. Chain of Thought Monitorability: A New and Fragile Opportunity for AI Safety. arXiv, 15 Jul 2025 https://doi.org/10.48550/arXiv.2507.11473

Говорят, что Витгенштейн и Хайдеггер — это лучшие философы ХХ века. Что ж, если это так, то это было плохое столетие для философии.

Тим Уильямсон.

Сомнение в радикальном сомнении

В Тюмени мы с Женей Логиновым обсуждали его статью «Философия сознания В.С. Соловьева, Декарт и самозванец». Эта статья позволяет понять нечто очень важное. Женя разбирает критику Соловьевым классического Декартовского доказательства существования мыслящей субстанции (души), где от несомненности сомнения осуществляется переход к наличию мышления, а от мышления к его носителю - душе. Соловьев считает, что последний переход неосуществим, потому что

1. Неизвестно, что такое бытие, кроме бытия фактов сознания.
2. Неизвестно, что такое «субстанция», известно только, что такое «мыслящая».

Женя обращает здесь внимание на то, что философская задумчивость Соловьева слишком «задумчива». Это такой общий грех всех, кто решил подумать по-настоящему «глубоко». На таком уровне рассмотрения ничего кроме перманентного "стояния в просвете бытия" и «вопрошания» не получить. В том числе не получить и бытия фактов сознания, потому что акт радикального сомнения употребим и к ним. Женя использует излюбленную мною тактику - определяет познавательные требования и показывает, что они настолько высоки, что ничто не может их удовлетворить. Тотальный элиминативизм («ничего не существует») это и есть цена философской задумчивости Соловьева.

Сложнее всего аудитории (полагаю, и вам) было понять, как можно сомневаться в наличии акта сомнения? Аргумент Жени был формальным - просто потому что «могу и сомневаюсь». Хорошо, скажет кто-то, можно сомневаться в акте сомнения, но нельзя сомневаться, что имеет место акт сомнения в акте сомнения. Легко увидеть, что формально «акт сомнения в акте сомнения» (и последующие акты сомнения в актах сомнения) - это просто акт сомнения. Так что здесь все в порядке. Тогда можно защищать позицию, что наличие бесконечного ряда актов сомнения выводит наличие чего-то несомненного. Этот аргумент по своему качеству не отличается от предшествующего, потому что Женя и здесь возьмет опцию «могу и сомневаюсь». Вывести противоречие тоже не получится (подумайте, почему?). Остается заявить, что подобная ситуация непредставима. Но так как противоречие не выводится, то не следует, что невозможна. Для кого-то и Декарта данная ситуация непредставима, а для Жени - «могу и сомневаюсь».

Мораль данного рассуждения такова, что радикальное сомнение Декарта приводит к утверждению о наличии мышления не связанным с этим сомнением образом. Само радикальное сомнение не может быть ничем ограничено. Отсюда видны две, на мой взгляд, ошибочные импликации в суждениях Соловьева (и не только его):

1. Сомнение не исключает знание. Я могу усомниться в том, что Йошкар Ола существует, но это не значит, что я не знаю, что она существует.
2. Отсутствие знания «подлинной» природы Х не влечет, что вы не знаете Х и/или не понимаете, что такое Х (например, бытие, субстанция или пылесос).

Так что отторгнем сомнение поскольку оно неотторжимо 💀

Умер Оззи Осборн. Великий. Как он дожил до 76 – это, наряду с проблемой сознания, останется загадкой на долгие годы, а то и столетия вперед. Один из тех, с кого началась история метала. Его гений настолько велик, что две недели назад он успел устроить собственные поминки, дав концерт «Back to the Beginning», который собрал много других великих музыкантов и коллективов. Этот день должен был настать. Князь тьмы, как его звали, ушел во тьму.

Парадоксальным образом Гуссерль продолжает оставаться знаменитым современным философом в той мере, в какой его наследие стало излюбленным предметом той самой исследовательской практики, которую он и отрицал, то есть практики историко-герменевтических исследований. Более ироничной судьбы философской программы Гуссерля трудно себе представить.

Виталий Куренной

Издательство АСТ выпустило перевод книги "Изобретая сознание. Эмоции, ощущения и самовосприятие" Николаса Хамфри. Однозначно пробита новая высота 💀.

Весь оригинальный иллюстративный материал отсутствует, в некоторых случаях он заменен на альтернативный (например, вместо картинки мозга - овал). Местами пропущены абзацы текста. Вся секция примечаний осталась без перевода. Видимо, к концу книги читатель так преисполнится в своем сознании, что не заметит перехода на другой язык. На обложке красуется внушающее "Комментарий от Т.В. Черниговской". В итоге "внушающее" - это несколько предложений на обороте книги. Однозначно такая книга должна занять почетное место в коллекции ценителей современного русского издания и перевода.

Жаль только Хамфри. Он очень расстроен. Когда готовился перевод, с его подачи я писал издательству с предложением помочь. К счастью, никто не откликнулся.

Теисты считают проблему зла самой опасной для существования Бога. Константин Морозов @MoralRat и Иван Девятко @enneadov интересно дебатируют о проблема зла (страданий) и существования всеблагого Бога.

Под злом дискутанты понимают страдания. Оба соглашаются с тем, что страдания имеют место. Но если Константин готов сдать Бога, то Иван - нет. В конечном итоге, дискуссия сводится к вопросу ослабление всемогущества Бога. Иван считает, что ослабление всемогущества спасает Бога, потому что он не может воспрепятствовать всему злу. Константин: но зла в мире так много, что невозможно представить, что существо, способное создать мир, не в силах хотя бы снизить количество страданий.

Мне ближе позиция Константина.

https://youtu.be/qb7kcFI66Pc?si=Z4fSP9YVSj_KzgZb

Расширенное сознание (extended mind) предполагает, что часть нашей психики, когнитивных функций не ограничена границами тела. Например, память телефона, его камеры или экспериментальные аппараты ученых, компьютеры. Большой вопрос - каковы границы этого расширения и насколько буквально должно пониматься расширенное сознание. Это кстати послужило источником эпической дискуссии в Катманду о том, является ли газонокосилка частью организма даже когда она стоит в гараже? Участников дискуссии я не буду называть, чтобы не тыкать лишний раз пальцев в некоторых дорогих сердцу нейроученых)) Здесь Артём поднимает довольно важный вопрос, можно ли считать, что LLM вроде Grok или ChatGPT «расширяют» сознание. Я никогда про это не думал. Но если это так, то человеческая психика своего рода шизофренизируется под действием таких систем искусственного интеллекта. Современные системы ИИ это не инструменты среди прочих инструментов. У них есть агентивные, генеративные и когнитивные характеристики, которыми до этого обладали исключительно биологические организмы. https://www.tg-me.com/phil_besedin/744

Традиционный наш пост на День знаний:

ФК предлагает вам задуматься над вопросом «О чем Вы никогда не думали?». Это тот вопрос, который мы вот уже тринадцать лет задаем разным отечественным и зарубежным философам. Посмотрите, как на него отвечают они, и сравните со своим ответом.

Дэниел Деннет: Уверен, что о целой куче вещей, я же не могу думать обо всем! Например, я мало размышлял над традиционными философскими вопросами, мало усердия приложил к центральным темам метафизики, почти не писал о проблемах этики и эстетики, хотя и старательно их обдумывал, — я просто не нашел, что я могу сказать по этому поводу чего-то стоящее публикации.
Вадим Васильев: Над этим вопросом.
Яков Свирский: Просто вечный тупик. Я не знаю, что на него отвечать, потому что пока я собираюсь отвечать, то думаю над тем, над чем ещё не думал.
Александр Тарасов: Если я над чем-то не думал, как же я могу об этом говорить? Но сюжет, которым я специально не занимался, однако в последнее время все чаще понимаю, что заняться им следует, есть. Это влияние глупости на социальные и исторические процессы. Поскольку все больше убеждаюсь, как много зависит от индивидуальной и коллективной деятельности дураков.
Александр Секацкий: Об этом я подумаю завтра — так, кажется, любила говорить героиня «Унесенных ветром»...
Андрей Муравьев: Я никогда не думал о тщете философских занятий.
Валерий Суровцев: Откровенно говоря, этот вопрос содержит в себе перформативное противоречие. Как на него ответить? Наверное, стоит создать что-то в роде расселовской иерархии типов, где «недуманье 1-го порядка» отличалось бы от «недуманья 2-го по- рядка» и т.д. Или можно было бы различить такие вещи, как моё желание о чём-то подумать и наличие времени для того, чтобы об этом подумать. Если мы говорим в этом смысле о том, о чём я ещё не думал, то стоит ответить так: есть ещё очень много проблем, с которыми хотелось бы разобраться. Это касается и некоторых проблем философии математики, и современного состояния теории дескрипций, по которой в последнее время вышло очень много работ, относящихся к переосмыслению двухаспектной семантики, и т.д. Кроме того, в последнее время я занимаюсь Дж. Муром, в частности — идеей концептуального анализа.
Джесси Принц: Парадоксальный вопрос! Как только я начинаю отвечать, я начинаю думать об этих вещах, и понимаю, что ответы уже опровергли сами себя. В философии я пытаюсь работать во многих областях; мне интересно, как разные вопросы связаны друг с другом. Но существуют области, которые я проигнорировал. Например, я никогда особенно не интересовался спортом, проигнорировал философию спорта (очень небольшую область в философии). Но сейчас я заметил, что игнорирую эту область, и понял свою ошибку. В спорте люди образуют сильные альянсы и развивают страстные предпочтения. Для того, кому интересны сознание и мораль, спорт очень актуален. Он как микрокосм социального поведения. Возможно, мы сможем лучше понять моральную психологию, если будем изучать спорт. Поэтому я должен прекратить пренебрегать этой областью.
Джон Сёрл: Я никогда не думал о трудностях китайской кулинарии. Насколько я могу судить, китайцы тратят больше усилий на готовку, чем представители любой другой культуры, но я никогда не думал об этом. Я восхищаюсь китайской кулинарией, Китай имеет великую культуру. Но есть три вещи, которые они никогда не смогут признать: демократию, права человека и то, что женщины — люди.
Филипп Гофф: О разноцветных летающих обезьянах, сделанных из зубов старой леди (во всяком случае, не часто).

Лекция обобщает двадцатилетний путь развития нейроинтерфейсов — от экспериментов на приматах до клинических нейропротезов для людей. Речь пойдет о восстановлении двигательных функций при параличе, сенсорной обратной связи, биосовместимости имплантов, балансе инвазивных и неинвазивных методов, роли ИИ в анализе нейроданных и этических вызовах будущей «киборгизации».

https://moscow2030.mos.ru/events/mikhail_lebedev_lektsiya_neyrointerfeysy_za_60_minut/

Семестр ненависти к философии сознания открывается на следующей неделе. Я веду:

Философия сознания - семинары по общему курсу для магистров философов.

Философия сознания - курс лекций от Васильева и меня для программы экспериментальная философия нейрокогнитивных наук (мог наврать с названием).

Философия сознания - курс для магистров нейробиологов.

Философия сознания - наш совместный курс с Артемом Бесединым на Английском языке. Тоже для магистров философов.

Реальные названия курсов немного отличаются, написал по сути. Впервые за много лет не веду ни одного спецкурса. И от меня отвалился Аристотель (или отстал?).

Энтузиазм огромный. Надеюсь, его хватит до самого конца недели. А дальше начну преподавать.

Сессия вопросов на одной лекции по сознанию:

- В Вашей лекции вы верно сказали, что у сознания много смыслов. Однако вы не осветили тему, что такое СМЫСЛ?

В такой ситуации главное не уронить уровень дискуссии, поэтому следует отвечать:

- Согласен. Но что такое ВОПРОС?

Наконец-то выходит наш долгострой.

Мы составляем тир-лист аргументов за существование Бога: от самых уязвимых до наиболее убедительных. Подробно рассматриваем их содержание, возражения и вклад в философскую дискуссию о теизме. Такой обзор позволит увидеть, какие возможности открывает разум для религиозной веры.

https://youtu.be/9uijTgckZIM
https://youtu.be/9uijTgckZIM
https://youtu.be/9uijTgckZIM

Поддержка канала с бонусами для вас: https://boosty.to/bibletolk

Завтра в 15:00

https://moscow2030.mos.ru/events/anton_kuznetsov_lektsiya_mozhet_li_soznanie_byt_iskusstvennym_/