​​Dario Amodei

Сегодня в альма-матер была супер-интересная встреча для текущего потока студентов, на которую пригласили и выпускников.

Гостем был фаундер Anthropic — Дарио Амодеи. Наверное, один из самых известных людей в мире AI. Он отвечал за ресерч в OpenAI, но потом взгляды на будущее AI с Сэмом Альтманом у них разошлись, и он ушёл (вместе с сестрой и ещё рядом сотрудников) и основал конкурента OpenAI. Чатбот у Антропик называется Claude и является прямым аналогом ChatGPT.

К удивлению студентов, вёл встречу Риши Сунак (это не было заявлено в анонсе). Как оказалось, именно Риши и пригласил Дарио выступить. Сунак с недавнего времени стал почётным fellow школы, так что теперь, по всей видимости, появился ещё один канал приглашения гостей.

Сунак, кстати, к приятному удивлению, оказался супер AI-оптимистом и в конце встречи вообще сказал, что он считает, что то, что происходит сейчас с AI, — это самое главное, что происходит, и ближайшие 2–3–5–10 лет — это самая главная тема.

Несколько пунктов, показавшихся мне самыми интересными из большого и очень плотного разговора:
1. Ближайшее будущее AI в «агентах», которые помогают людям выполнять какие-то задачи, исследования, кодить и т. д. и т. п.
2. Уже текущие модели значительно умнее людей. Чем дороже модель, тем мощнее и умнее.
3. В скором времени можно будет разместить, по населению, город AI-агентов, по уровню интеллекта превосходящий гениев, в одном дата-центре.
4. Скорость развития технологии такая, что через 2 года это всё будет на том уровне, который сейчас представить трудно.
5. AI сможет помочь решить практические задачи по медицине (лечение болезней) и другим вещам (климату), которые казались сложно решаемыми.
6. Это же открывает и риски того, что доступ к технологиям могут получить люди не самыми благими намерениями (поэтому Антропик убрали из обучения модели блоки, связанные с иммунной системой людей и другими чувствительными вещами).
7. Верит, что только выделенные AI-команды, типа стартапа внутри крупных организаций, могут действительно сделать изменения. Так как неповоротливые структуры, как правительства, перестроиться быстро не смогут. А надо.
8. Вся эта инфраструктура будет (и уже) требовать ОЧЕНЬ много энергии. Для дата-центра, населённого AI-агентами, нужна гигаваттная станция — пока это может «запровайдить» только атом.
9. Бессмысленно применять сейчас жёсткие правила в регулировании, так как технология очень быстро меняется. Считает, что важно поддерживать развитие технологии и заниматься ресерчем больше, чем регулированием.
10. Геополитические соревнования по AI могут быть похожи на ядерную гонку, где в конечном итоге наличие технологии у обеих сторон — сдерживает.

При этом Дарио считает, что в отличие от атома, где «милитари»-части больше мирной части, в AI мирной части и пользы гораздо больше того, что может быть опасно для человечества.

P.S. Декан особенно переживает, что AI усилит авторитарные режимы и ослабит демократические. Дарио сказал, что, возможно, так и будет.

​​Venture Capital

На фоне явного общественно-политического землетрясения в Европе неожиданно побывал на встрече с инвесторами «евро-оптимистами» 😊.

Chris Wade из Isomer Capital, первый инвестор в Entrepreneur First (платформа по поиску кофаундеров), был главным оптимистом встречи вместе с William McQuillan из Frontline Ventures.

Некоторые его тезисы показались мне интересными:

1. Сравнение Европы и США. Венчурной индустрии Европы — 30 лет, а США — 60. Разница в опыте и количестве уже совершённых ошибок (а венчур, по его мнению, весь про ошибки) — большая. Именно поэтому Европа и отстаёт на 30 лет несовершённых ошибок. По его мнению, в Европе пока невозможны такие рискованные инвестиции, как в США. Это напрямую влияет на оценки стартапов и, соответственно, на раунды.

2. В Европе на 2 млн инженеров больше, чем в США. То есть потенциал не меньше, а даже больше. К тому же население Европы в полтора раза больше, чем в США. Это большой рынок.

3. В среднем у американских единорогов доля продаж в Европе — 35–40%. Это важный рынок для любой глобальной технологической компании.

4. Про регулирование. Когда Европа принимала GDPR, многие хоронили технологический сектор и предсказывали, что все глобальные компании уйдут, но никто не ушёл.

Возможно, нынешняя встряска как раз пойдёт на пользу Европе и ускорит её. По крайней мере, евро-оптимисты так считают. 😎

Всегда прислушиваюсь к рекомендациям Владимира Гельмана. Кстати, Владимир -- самый цитируемый русскоязычный political scientist.

Must read – пять книг о современной российской политике на русском языке

Научных и научно-популярных книг о российской внутренней политике на русском языке выходило и выходит много, и в этом море можно просто утонуть. Мой список топ-5 must read охватывает лишь книги, вышедшие относительно недавно и охватывающие период после 1991 года. Как и все списки такого рода, мой список – субъективный и пристрастный, он отражает мое собственное видение политики (поэтому, скажем, в нем нет места книгам о массовых политических настроениях и ориентациях – я считаю массы инструментом в руках элит, и не более того (но и не менее)). Ну и моих собственных книг в нем тоже нет, разумеется. Перечень приведен в алфавитном порядке по именам авторов.

Сергей Алексашенко, Контрреволюция. Как строилась вертикаль власти в современной России и как это влияет на экономику (Альпина паблишер, 2019) – подробный анализ политико-экономических процессов в России в 2000-2010-е годы, фокусирующийся на становлении и консолидации управленческих иерархий и их экономических последствиях. Автор демонстрирует роль авторитаризма в развитии капитализма в России, книга написана ясным и доступным языком.

Григорий Голосов, Политические режимы и трансформации (Рутения, 2024) – ясно и доступно написанная книга, объединяющая черты учебного пособия по сравнительной политологии авторитаризма со сжатым анализом траектории российской политической эволюции и перспектив дальнейшего политического развития страны. Если кто-то хочет понять закономерности российской политики, не владея базовыми знаниями, рекомендую начать с этой книги.

Тимоти Колтон, Ельцин (КоЛибри, 2013) – очень подробная и хорошо документированная политическая биография первого президента России, относительно беспристрастная, хотя и содержащая в целом позитивные оценки деятельности Ельцина. Я согласен далеко не со всеми суждениями и выводами автора, но пройти мимо этой книги при изучении российской политики после 1991 года было бы совершенно неоправданным.

Александр Кынев, Кто и как управляет регионами России: система управления и административная устойчивость российских регионов (Рутения, 2024) – наиболее подробный анализ политических процессов в российских регионах и муниципалитетах в постсоветский период. Книга содержит не только детальную хронологию событий после 1991 года, но и огромный массив фактических данных, и при этом читается довольно легко, несмотря на обширный объем.

Аркадий Любарев, Александр Кынев, Партии и выборы в современной России. Эволюция и деволюция (НЛО, 2011) / Партии и выборы в России 2008-2022. История заката (НЛО, 2024) – дилогия о становлении и упадке партий и выборов в постсоветской России, содержащая как обширный фактический материал, так и подробный анализ институциональных изменений и их политических последствий. Содержательно и стилистически напоминает эпитафию.

Главный вопрос дня - кто же послал Зеленского общаться с американским руководством без квалифицированного переводчика / или с чего Зеленский решил, что может вести по английски переговоры.
Дальше - развилка. Одним нравится чёткий пацан, который объяснил мутным пацанам на раёне, за шмот и тему, другим кажется, что пацанчик был борзый и на терке рамсы попутал.
Дальше снова развилка - не понятно, была ли это осознанная стратегия, либо, просто от дурного котелка и плохого знания фени.
Финал однозначен - пацаны разбежались. Бизнеса не будет. Собирают своих, кто за кого впишется, ради чисто конкретных предъяв.

Автор поста — Николай Митрохин, исследователь в Бременском университете.

У Николая очень взвешенная и интересная военная аналитика.

Рекомендую как источник.

​​Axel Dumas

Пока все занимаются мирными переговорами, я побывал на встрече с CEO Hermès — Акселем Дюма.

Семья Акселя, Дюма-Эрмес, является одной из самых богатых в мире — её состояние оценивается примерно в $100 млрд. Компания Hermès — семейный бизнес в годовым оборотом в $15 млрд, которым управляет уже шестое поколение, к которому относится и Аксель.

Каждое поколение вносило свой вклад в развитие компании, но всех их объединяет стремление к качеству и мастерству. Большинство кожаных изделий Hermès создаются мастерами вручную. Один из самых известных предметов компании — женская сумка Birkin. Каждая сумка уникальна и изготавливается вручную. Цены на эти сумки начинаются от $15 тысяч, существуют квоты по странам. Например, в Японии очередь на покупку некоторых моделей составляет несколько лет.

Интересна история коллаборации Hermès с Apple (Apple Watch Hermès). Аксель рассказал, как он познакомился с Джони Айвом (главным дизайнером Apple). В разговоре они обсуждали, насколько Hermès дорожит своим брендом и никогда не делал никаких коллабораций. Айв, в свою очередь, отметил, что Стив Джобс также всегда был категорически против подобных сотрудничеств. Но после трёх бокалов вина они подумали, что это может быть знаком, и решили попробовать создать коллаборацию 😃

Так появились часы Apple с циферблатом и знаменитым тонким ремешком Hermès, который несколько раз оборачивается вокруг запястья.

За пару недель до релиза в Hermès поступил звонок из Apple с сообщением о том, что ни один из ремешков не прошёл контроль качества. Это вызвало шок, но позже выяснилось, что причиной было то, что ремешки были полностью сшиты вручную мастерами и поэтому не проходили машинный контроль качества Apple.

Аксель считает, что люксовые бренды, конечно, должны быть гибкими и современными, задавать моду, но они всегда будут востребованы, поскольку всегда найдутся люди, которые ценят качество и готовы за него хорошо платить.

Впервые на встрече в Оксфорде видел людей с сумками Биркин 😎

​​AI Midset

Тут в Оксфорде почти нет встреч где бы не говорили об AI. И нобелевский лауреат Аджемоглу, и Амадеи (anthropic) и Хоффман (linkedin) — о которых я писал недавно, и местные политики — все говорят об AI.

Полностью с ними согласен и тоже считаю, что AI — это тектоническое изменение нашего мира, очередная “промышленная революция”. Причем, это не только вопрос “инструментов”, а как со всеми революциями — вопрос изменения мышления.

На одни и те же задачи можно смотреть, условно, привычным взгядом (из прошлого) и AI-взглядом.

Как в расхожей шутке последних дней в AI-каналах:

“AI ваш не совершенен. Чел ходит по комментариям на Reddit, где люди стонут от того, что AI-тулы для дизайна не работают как ожидалось и предлагает быстренько все намарафетить руками. Быстро, дешево.  Гениальная стратегия адаптации к несовершенным пока технологическим инновациям, да?

А теперь представьте, что это на самом деле AI-агент…”

Чтобы не отставать от AI движа и лучше понимать что происходит, и менять мышление на AI-first, я несколько месяцев назад пришел на лабу к Глебу и Саше

Ребята на острие, плюс еще и близкие мне темы mental health и mindfulness им тоже интересны.

Плюс сообщество очень мотивированное, все копают свои задачи и использование AI.

На стартующем со следующей недели потоке, ребята пригласили меня присоединиться к стартап ветке, где мы будем обсуждать идеи, формирование команды и инвестиции.

Если вам тоже интересна тема AI - присмотритесь к лабе.

(фото с лекции Дарона Аджемоглу, где он рассказывает как AI изменит мир, по его мнению достаточно драматично для нескольких поколений людей, которые не смогут встроиться в новый порядок)

​​Wolfgang Munchau

Вчера в Оксфорде начался ежегодный литературный фестиваль. За неделю пройдет более 250 встреч с авторами по совершенно разным темам. Я зарегистрировался на четыре лекции. Интересно, что в этом году фестиваль впервые побил результаты доковидного года по продажам билетов. Организаторы счастливы.

Вчера был на лекции с Wolfgang Munchau. Я с прошлого года слушаю его подкаст Eurointelligence и было интересно послушать вживую и книжку купить/подписать.

Книжка называется “Kaput. The end of the German miracle”. Собственно, название говорящее 🙂 Вольфганг — в прошлом руководитель Financial Times в Германии и университетский профессор.

У него достаточно комплексный анализ ситуации. Но основные тезисы в том, что Германия попала в идеальный шторм — не смогла предвидеть новую эру (например, электромобили), не смогла модернизироваться под цифровую экономику, проиграла экспортные рынки и еще и потеряла дешевый источник энергии (российский газ), чтобы быть конкурентноспособной по себестоимости.

По мнению автора все это зрело уже несколько десятилетий, но сейчас вот уже дозрело, хоть далеко не все в Германии или ЕС эти и понимают.

Я не впервые слышу грустные дискуссии про деиндустриализацию Германии. В 2024 году промышленное производство упало до уровня в 90% 2015 года, то есть где-то на уровень 2010 года.

Кстати, Вольфганг достаточно скептичен насчет роста котировок немецких компаний, производителей вооружений, типа Рейнметалл (который вырос на сотни процентов). Потому что будущее вооружений — это спутники, дроны и AI — а это именно то, что Германия и пропустила/ не смогла перестроиться.

Я не так пессимистичен, как Вольфганг. Но исследования у него интересные.

​​Healthy Habits

Опять же в рамках Оксфордского литературного фестиваля побывал на презентации книжки про здоровые привычки для счастливой жизни 😃 

Таких книжек немало, но эта примечательна тем, что базируется на научных исследованиях и ее написали двое нейроученых из Кембриджа. Список статей на которые они ссылаются занимает 30 страниц из 150 страничной книги — я такого раньше не видел. То есть любой “совет” в книге имеет доказательства.

Интервьюировала их ректор Оксфорда (тут нет такой должности, но примерно) — Ирэн Трэйси. Она тоже нейросайнтист, кстати. А еще она бегает марафоны. Месяц назад пробежала Токио.

После встречи я спросил у нее какой следующий — сказала, что Берлин и им она закроет все мейджоры. И переключится на половинки, потому что работы с ректорством стало много 😃

До Оксфорда мне довелось быть хорошо знакомым и тесно общаться с двумя ректорами, которые бегают марафоны — Андреем Волковым в Сколково и Алексеем Комиссаровым в РАНХиГС. Это невероятно интересные люди. Когда ректоры марафонцы — это очень хорошо.

​​Russian Threat

Ещё одна встреча на литературном фестивале — сразу с тремя авторами, и у всех книги связаны с Россией. И встреча с названием “Российская угроза” (может быть, потому что её вёл журналист The Telegraph 😀).

Stephanie Baker — американская журналистка, много лет работала в Москве в 1990-х, специализируется на экономике и геополитике, старший корреспондент Bloomberg.

Keir Giles — эксперт по вопросам безопасности и России, сотрудник Chatham House.

Mark Galeotti — британский историк, специалист по российской безопасности, автор книг о путинской России и неофициальных военных структурах, профессор в UCL SSEES.

Стефани пишет и говорит про санкции. Говорит, что есть все шансы, что в следующем году они начнут реально ослаблять Россию 😂 Я погуглил — и она примерно то же самое говорила год назад, два года назад и три года назад. Думаю, книжку можно смело пропустить.

Из интересного:

Рассказала, что участвовала в дискуссиях по конфискации активов ЦБ. Говорит, что в 2019 году ЦБ перевёл их из США в Европу специально, так как в США был бы риск проблем с конфискацией, а в Европе слишком много стейкхолдеров — и таким образом они более защищены. Так и получается: сейчас США выступают за конфискацию, но Германия против (боится прецедента и репараций), Бельгия против (потому что активы у неё — через Euroclear, и там ждут судебных исков), Венгрия против (ну, понятно). В итоге — пока не конфисковывают.

Кир говорит, что всем в Европе надо вооружаться. И что все социальные программы и развитие образования могут подождать, пока не решены базовые проблемы безопасности, а Россия — с танками уже практически на пороге и вот-вот заедет. Всерьёз рассказывал про то, как российские истребители “выглядывают из-за угла” Норвегии и вот-вот запустят ракеты по Британии. А у неё, мол, нет ПВО.

В последние годы стало очень тяжело слушать экспертов Chatham House. Думаю, книжку тоже можно смело пропустить.

Марк Галеотти — был единственным адекватным человеком на панели 😃 Он пытался объяснить Киру, что с военной точки зрения Британии вряд ли что-то угрожает со стороны России. И что вообще российское руководство понимает “угрозу стране” не так, как большинство на Западе. И что тактика “лучшая защита — это нападение” во многом обусловлена историей России и её географическим положением.

Из интересного:

Его прогноз — даже когда война с Украиной закончится, война Путина с Западом никуда не денется. Это навсегда, пока он не умрёт. Но после Путина вполне возможно придут гораздо менее идеологизированные лидеры, которые могут резко сменить вектор — исключительно из корыстных соображений комфорта и личной выгоды.

Кроме того, он рассказал, что работает консультантом по вопросам России. Когда война только началась, к нему обращались западные компании с вопросом — как уйти с российского рынка с минимальными потерями. А вот недавно несколько из них снова вышли на него, чтобы узнать (чисто теоретически 😂), как можно будет вернуться обратно, если вдруг обстановка изменится.

Вообще, конечно, книжек про всё это пишется на английском какое-то невероятное количество. Сотни экспертов делают свои анализы и прогнозы. Один вопрос только — кто их все читает?

​​Democracy

Параллельно с книжным фестивалем в Оксфорде проходит Skoll Forum — одно из главных интеллектуальных событий в мире, посвящённых социальным инновациям и решению глобальных проблем. На него съезжаются участники со всего Глобального Юга.

А ещё параллельно со Skoll Forum проходит Marmalade Festival 😀 — менее формальный фестиваль, где участники Skoll могут организовывать собственные мероприятия: круглые столы, доклады и т. д.

Я побывал на одном таком событии — о кризисе демократии в развитых странах. Доклад делал Ричард Уайк (Richard Wike) из Pew Research Center — независимого американского исследовательского центра.

Как видно на графиках, жители развитых стран не слишком довольны тем, как работает демократия. Что интересно — люди всё ещё ценят и поддерживают демократию (преимущественно репрезентативную, а не прямую), но их сильно не устраивает, как она функционирует сегодня.

Например, в США или Испании около 85% опрошенных считают, что избранные политики вообще не заботятся о мнении таких, как они.

Во Франции, Италии и Испании около 60% респондентов считают, что ни одна политическая партия не представляет их интересы.

На том же круглом столе выступала моя преподавательница с факультета — профессор Майя Тюдор (Maya Tudor).

По её мнению, есть три глобальные тенденции, которые продолжают усиливать этот кризис:

1. Рост популизма. Харизматичные, антиэлитные лидеры говорят людям: «Система прогнила — голосуйте за меня, я всё снесу и починю».

2. Рост «узкого» национализма, который переопределяет народ как исключительно одну этническую или религиозную группу. Например: Индия — для хинду, Латвия — для латышей и т. д.

3. Поляризация, при которой политические оппоненты воспринимаются не как соперники, а как враги. Это ещё больше усиливается алгоритмами соцсетей и «информационными пузырями».

Она рассказала, что недавно обсуждала со своими студентами: считают ли они важным уметь разговаривать с политическими оппонентами, у которых принципиально иные взгляды. Все, конечно, сказали: «Да!» Тогда она спросила:

«А где вы с ними разговариваете?»

И… никто ничего не смог ответить 😃

​​Critical Technology

В Австралии есть think tank, который ведёт Critical Technology Tracker.

Этот трекер охватывает 64 технологии и содержит исторические данные с 2003 года.

Критическими считаются технологии, которые могут серьёзно влиять на безопасность, национальные интересы, экономику и т. д., охватывая оборону, космос, энергетику, окружающую среду, искусственный интеллект, биотехнологии, робототехнику, кибернетику, вычислительную технику, передовые материалы и ключевые области квантовых технологий.

Организация мониторит исследования в этих областях в разных странах: публикации (количество и качество), цитирования и, как следствие, стратегические намерения государств в этих темах.

За последние 20 лет в мире произошли колоссальные изменения 😀

США лидировали в 60 из 64 технологий в период с 2003 по 2007 год, но сейчас лидируют только в семи (!). Китай, напротив, лидировал всего в трёх из 64 технологий в 2003–2007 годах, но теперь является ведущей страной в 57 из 64 технологий.

Индия, кстати, уже входит в топ-5 стран по 45 из 64 технологий.

Мне кажется, это во многом может объяснить фундаментальные причины нынешних действий американской администрации.