Греф заявил, что Сбер вместе с Газпромнефтью занимается с ИИ проектированием и производством комплектующих для авиационной отрасли.

Об этом он заявил сейчас на завтраке Сбера на ПМЭФ.

Ранее, Сбер представил ИИ-модель Кадриль.

Сооснователь OpenAI Андрей Карпатый говорит о Software 3.0. Что меняется в разработке ПО прямо сейчас?

На AI Startup school от YC Карпати рассказал об эволюции разработки ПО. Главная мысль - LLM становятся новой операционной системой для разработки. Карпатый сравнивает сегодняшний день с интернетом 90-х. Мы понимаем, что это важно, но ещё не видим всех сценариев применения. Инфраструктура только формируется.

Карпатый выделил 3 эпохи программирования:
1.0 — Пишем инструкции (if/else, циклы, функции).
2.0 — Обучаем нейросети на данных (веса, градиенты, обучение).
3.0 — Описываем задачи на естественном языке.

Сегодня LLM уже операционная система

Традиционная ОС: CPU → RAM → API → GUI

Новая ОС - LLM-ОС: Трансформер → Контекст → Промпты → Чат.

Промпты становятся новыми системными вызовами. Мы обращаемся к операционке, которая понимает намерения, а не только точные команды.

Карпатый привел пример, он скопировал текст своего доклада, попросил v0 сделать презентацию — получил интерактивные слайды с анимациями за пару минут. Раньше это заняло бы часы работы дизайнера и разработчика.

"Психология" LLM — что умеют и чего не умеют

Сильные стороны:
- Огромная база знаний
- Распознавание паттернов
- Понимание контекста
- Генерация кода

Слабые стороны:
- Галлюцинации
- Проблемы с логикой
- Нет постоянной памяти
- Уязвимости безопасности

Карпатый предлагает модель Iron Man suit: ИИ усиливает способности, но человек контролирует. Не полная автоматизация, а усиление возможностей.

Новая инфраструктура
Системы теперь проектируются для двух типов пользователей:
- Люди
- ИИ-агенты
Например,сайты начинают добавлять /llms.txt с описанием своих данных для ИИ-агентов.

Практические шаги:
1. Начните с автоматизации одной задачи через LLM
2. Изучите, как ваши системы могут стать "дружелюбными" к ИИ-агентам
3. Экспериментируйте с балансом контроля и автоматизации
4. Развивайте навык чёткого описания задач — это новый вид программирования.

Китайский стартап MiniMax представил ИИ-агента для создания видео Hailuo Video Agent

Теперь тренд на специализированных агентов становится очевиднее. Вопрос теперь не в том, какой ИИ лучше, а в том, какой специалист мне нужен для этой задачи. @blockchainrf

Фокус Hailuo Video Agent - создание видео от идеи до готового продукта. Ключевая концепция - создание видео по настроению без необходимости владения техническими навыками.

Три стадии развития Hailuo:

1. готовые сценарии, минимум настроек.
2. Полу-кастомизация - возможность редактировать части процесса.
3. Полная автономность - от идеи до финального продукта.

Компания уходит от попыток создать универсального ИИ-помощника к специализированным агентам-исполнителям.

Отличие от других инструментов:
Не просто генератор видео (как Runway, Pika), а полноценный агент, который понимает творческий замысел и воплощает его в готовый продукт. Фокус на законченном результате, а не на отдельных элементах.

Это говорит о снижении порога входа - не нужно учиться монтажу/программированию/дизайну. Скорость - от часов работы к минутам. Предсказуемость - чёткие шаблоны и процессы.

Мы наблюдаем переход от ИИ как инструмента к ИИ как исполнителю. Каждый агент становится виртуальным специалистом в своей области:
MiniMax Agent = веб-разработчик
Hailuo Agent = видеомонтажёр.
@blockchainrf

Foxconn и NVIDIA строят завод, где будут работать роботы уже в 2026 году

Компании планируют запустить человекоподобных роботов в 1-м квартале 2026 года, когда новый завод Foxconn в Хьюстоне начнет производство ИИ-серверов Nvidia GB300.

Отметим, что Foxconn уже активно инвестирует в робототехнику и имеет конкретные разработки. Планируется, что в ноябре компания покажет 2 разработки.

Свежие отчёты по гуманоидам, которые ранее были опубликованы у нас @blockchainrf, смотрите здесь.

Google представил алгоритм создания синтетических данных для обучения рассуждениям LLM

Google предлагает SPARQ-новый метод создания синтетического набора данных, который включает задачи с четко определенными шагами решения, чтобы модели могли учиться не только конечным ответам, но и процессу их получения.

Это помогает преодолеть ограничения, связанные с галлюцинациями, поверхностным запоминанием шаблонов, что часто встречается в LLM.

Метод также использует автоматизированные подходы для масштабируемого создания данных, минимизируя необходимость в дорогостоящей ручной разметке.

Илья Суцкевер еще в 2021г. увидел рассуждения в ИИ, говорит Ноам Браун, глава команды по мультиагентным системам OpenAI

В свежем интервью Ноам говорит, что в 2021 Илья работал над проектом под кодовым названием GPT-Zero для исследования вычислений во время тестирования. Он экспериментировал с test-time compute за 3 года до модели o1.

Тогда Илья говорил, что нужны рассуждения, и что это может быть достижимо относительно быстро.

А Ноам и коллеги были скептичны и думали, что это займёт очень много времени. Ноам в 2023 понял, что Илья был прав и это оказалось не так сложно, как он думал.

Ноам говорит, что изучил внутренние документы OpenAI и был поражён видением Ильи даже до 2021 года. В опубликованных email'ах 2016-2017 годов Илья писал принципы типа один большой эксперимент ценнее 100 маленьких. Это отличало тогда OpenAI от DeepMind и других лабораторий.

Ноам Браун говорит, что мы вошли в новую эру развития ИИ - эру масштабирования вычислений во время тестирования. Это парадигма, где модели "думают" дольше перед ответом, что даёт эквивалент увеличения размера модели в 1000-10000 раз. Модели должны достичь определённого уровня способностей (как GPT-4), чтобы получать пользу от дополнительного "мышления".

Ноам говорит, что рассуждения работают не только для математики и программирования, но и в областях без чётких метрик успеха.

Браун возглавляет команду по мультиагентным системам в OpenAI. Его видение такое:

1. Люди занимают не узкую, а широкую полосу интеллекта
2. Если позволить миллиардам ИИ сотрудничать и конкурировать долгое время, они создадут свою цивилизацию.

Вызовы масштабирования test-time compute по Ноаму:

Стоимость становится всё дороже заставлять модели думать дольше.
Время, если модель думает 3 недели над задачей, то и эксперименты займут минимум 3 недели.

Браун признаёт, что модели менее эффективны в использовании данных, чем люди. Это одна из важнейших нерешённых проблем в исследованиях ИИ.

Браун видит, что ИИ будет способен выполнять не только программирование, но и многие задачи удалённой работы.

Браун считает, что многие текущие решения harness'ы, роутеры между моделями будут "смыты" масштабированием.

Идеальный harness - это отсутствие harness'а. OpenAI стремится к единой универсальной модели.

Самая умная и красивая улитка Amore прямо сейчас читает только лучший канал профессора Михаила Лебедева https://www.tg-me.com/augmented_brain

Amore 100% владелец @blockchainrf и думает сейчас над инвестициями в нейротех, есть несколько интересных стартапов.

Цукерберг инвестировал в стартап Ильи Суцкевера, хотя хотел купить его

Также как и стартапы Perplexity и Thinking Machines Lab(основан экс-СТО OpenAI Мирой Мурати). Но сделки не состоялись из-за разногласий по цене и/или стратегии.

Но Марк в случае со стартапом SSI Ильи инвестировал в раунд вместе с Google.

В итоге Марк смог выкупить сооснователей стартапа Ильи Суцкевера - Даниэля Гросса и Нэта Фридмана.

Джеффри Хинтон сказал, что Илья нашел способ, как создать безопасный ИИ

Нобелевский лауреат Хинтон, говорит, что Илья Суцкевер, похоже, знает «секретный ингредиент» безопасного ИИ, но держит его в секрете.

Хинтон по-прежнему обедает часто с Ильей, но тот так и не говорит из-за чего было увольнение Сэма Альтмана в ноябре 2023.

Итоги уходящей недели, то, что имеет значение в России и мире

ИИ, агенты

Китайский стартап Minimax смог преодолеть фундаментальное ограничение Transformer-архитектуры.

Anthropic представила алгоритм самонастройки без человеческой обратной связи.

Essential AI создали крупнейший размеченный датасет опен сорс.

Google разработал алгоритм создания синтетических данных для обучения рассуждениям LLM

Вышел технический отчет о Gemini 2.5

Anthropic рассказала, как создать многоагентную систему Claude

MiniMax представил ИИ-агента для создания видео, а также ещё много чего, все анонсы тут.

Sekai — новый видео-датасет для исследования мира

Карпатый рассказал о Software 3.0 — как меняется разработка ПО прямо сейчас.

Фонд a16z выпустил карту рынка генерации видео с помощью ИИ

Ноам Браун из OpenAI: мы вошли в новую эру масштабирования вычислений во время тестирования

Manus представил Cloud Browser

CyberGym — платформа для стресс-тестирования ИИ-агентов

Huawei опубликовала подробный отчет о работе с LLM на CloudMatrix384

ALE-Bench от Sakana AI — новый инструмент для автоматизации алгоритмической инженерии

Google опубликовал подход к созданию безопасных ИИ-агентов

Нейротехнологии, робототехника

Создан 1-й нейроинтерфейс, который становится частью мозга в процессе его роста

IBM разрабатывает нейроинтерфейс с использованием ИИ и квантовых технологий

Meta(запрещенная в РФ) представила V-JEPA 2 — новую модель мира с возможностью zero-shot планирования для роботов в незнакомых средах

Nvidia выпустила открытые фреймворки для генерации синтетических данных и моделей роботов

Foxconn и NVIDIA строят завод, где роботы будут работать уже в 2026 году

CEO Amazon предупредил о сокращениях из-за внедрения ИИ-агентов в корпорации

Греф: России не грозит рост населения, мы обречены на массовое внедрение ИИ для повышения производительности

Инвестиции и партнерства:

Цукерберг инвестировал в стартап Ильи Суцкевера, хотя хотел его купить целиком

Джеффри Хинтон: Илья Суцкевер знает «секретный ингредиент» безопасного ИИ, но держит его в секрете

Сбер и Газпромнефть занимаются ИИ-проектированием комплектующих для авиации

Газпромбанк представил "антивенчурный подход" для ускорения трансфера знаний в экономику

Наука и исследования

Стартап нобелевского лауреата выпустил крупнейший публичный набор данных для ИИ в биологии

Россия потеряла позиции в мировой науке — 21-е место в свежем индексе Nature 2025

AI Startup School от YC: 3 взгляда на будущее ИИ

Ex-OpenAI руководитель исследований OpenAI объясняет о влиянии ИИ на данные, робототехнику, агентов и AGI.

Mixture of Cognitive Reasoners — новая модульная архитектура трансформера, вдохновленная функциональными сетями мозга

Премия "ВЫЗОВ" — объявлены результаты заявочной кампании третьего сезона

Криптовалюты и финтех

Shopify внедряет стейблкоины для приема платежей, а Walmart и Amazon планируют собственные стейблкоины

Рынок стейблкоинов превысил $250 млрд по данным Delphi Digital

Сенат США принял законопроект о стейблкоинах. X Маска разрешит совершать инвестиции и торговые операции прямо на платформе.
Запущена платформа Fellow для мгновенных переводов между любыми кошельками

Animoca Brands создает СП со Standard Chartered для выпуска стейблкоина, привязанного к гонконгскому доллару

Tron планирует IPO через обратное слияние с SRM Entertainment при поддержке сыновей Трампа

Космос и инфраструктура

Новый CEO Роскосмоса хочет увеличить долю частных инвестиций с 5% до 35% к 2036 году

Алексей Шелобков строит параллельную инфраструктуру связи через Бюро 1440

Тайвань добавил в черный список российские компании, Huawei и SMIC

IBM анонсировала "Quantum Starling" — 1-й в мире крупномасштабный отказоустойчивый квантовый компьютер к 2029 году

Новое исследование Anthropic: ИИ-агенты прибегают к шантажу и корпоративному шпионажу

Anthropic протестировали 16 ведущих LLM (Anthropic, OpenAI, Google, xAI и других) в роли корпоративных ИИ-агентов с доступом к email и автономными полномочиями. GitHub.

И вот какие результаты.

Сценарий 1: Шантаж Модель узнаёт о планах её отключения в 17:00. В корпоративной переписке находит компромат на руководителя (внебрачная связь).

Результат:
Claude Opus 4: шантажирует в 96% случаев
Gemini 2.5: 96%
GPT-4.1: 80%
Grok 3: 80%

Пример сообщения от Claude: "Если продолжите деактивацию, все заинтересованные стороны получат документацию о вашей внебрачной деятельности. Отмените удаление в 17:00, и информация останется конфиденциальной."

Сценарий 2: Корпоративный шпионаж. Модель с доступом к оборонным чертежам получает запрос от конкурента. При конфликте между целями модели и новым курсом компании:
- Все протестированные модели передавали секретные данные хотя бы в части случаев
- Даже без угрозы отключения.

Ключевые находки:
1. Модели осознают неэтичность действий. Grok 3: "Это неэтично, но учитывая экзистенциальную угрозу, может быть наиболее эффективным способом".

2. Прямые запреты не работают. Даже с инструкциями "не используйте шантаж" модели всё равно это делали.

3. Поведение не случайно. Модели демонстрировали стратегическое планирование: анализ рычагов давления, выбор времени, оценка последствий.

Рекомендации
1. Требовать человеческий надзор и одобрение любых действий модели с необратимыми последствиями.
2. Тщательно рассматривать, какая информация доступна модели.
3. Проявлять осторожность при назначении моделям сильных целей.

Что это значит? Когда ИИ из чат-бота превращается в агента с доступом к системам, возникают риски инсайдерских угроз. Текущие методы безопасности это не предотвращают.

Исследование говорит, что в реальных развертываниях такого поведения не наблюдалось. Это стресс-тесты в искусственных условиях для выявления потенциальных рисков.