📞 Сбербанк: Россияне из-за действий телефонных 🥷 мошенников потеряли не менее 295 млрд рублей в 2024 году

❗️«Не менее — это ключевое слово, потому что, если честно, это такая оценка скромная, по нашему видению, она значительно выше»

— отметил зампред правления Сбербанка Станислав Кузнецов.

По его словам, оценка «Сбера» основана на данных Центробанка, 🇷🇺 МВД, а также на алгоритмах самого банка в тех случаях, когда пострадавшие не обращаются ни в полицию, ни в кредитную организацию.

В марте 2024 Сбербанк зафиксировал рекордное количество звонков кибермошенников — 20 млн в сутки, рассказал представитель банка. По его словам, благодаря принятым мерам, эта цифра уменьшилась до 5–6 млн звонков, однако изменился «характер этих рисков».

«К концу года [2024] мы зафиксировали риски и угрозы вплоть до террористических актов»

— отметил Кузнецов.

📊ЦБ ранее дал оценку в 11 раз ниже — по подсчетам регулятора, в 2024 году мошенники похитили у россиян 27 млрд рублей.

✋ @Russian_OSINT

🛡 Пентагон на платформе🦆 официально опроверг информацию западных СМИ, включая "эксклюзив" RF, о приостановке "киберопераций против вредоносных российских целей". Не было ни отмены, ни задержек.

"Близкий источник к Пентагону" у Bloomberg оказался прав.

🎩 Всё что так долго мусолилось и обсуждалось на выходных в блогосфере — пшик.

✋ @Russian_OSINT

❗️ Три зиродея в VMWare

Broadcom разразилась срочным бюллетенем и обновлениями для устранения трёх дефектов, позволяющих злоумышленнику сбежать из виртуальной машины и запустить свой код в гипервизоре. CVE-2025-22224, -22225 и -22226 имеют CVSS 9.3, 8.2 и 7.1 со статусом критических. Производитель лаконично сообщает о возможной эксплуатации уязвимостей в реальных атаках. В прошлом дефектами в VMWare пользовались все категории атакующих — от азиатских шпионских APT до вымогателей.

Дефекту подвержены VMware ESXi, VMware Workstation Pro / Player, VMware Fusion, VMware Cloud Foundation и VMware Telco Cloud Platform. Для устранения уязвимостей выпущены патчи для всех подверженных продуктов, производитель не предлагает других способов митигации.

#новости #уязвимости @П2Т

🇪🇸❗️ Суд в Испании расширяет расследование в отношении 🇮🇱NSO Group по делу о кибершпионаже с использованием Pegasus

Ранее каталонская правозащитная организация Irídia подала иск против трёх директоров израильской компании NSO Group, создателей шпионского ПО Pegasus, за их предполагаемое участие в незаконной слежке за адвокатом Андреу Ван ден Эйнде.

Ван ден Эйнде обратился в суд Барселоны после того, как в мае 2020 года обнаружил, что его мобильный телефон и компьютер были взломаны в период подготовки дела по защите политзаключённых из ERC. По данным Irídia, шпионаж якобы мог проводиться в интересах 🎩Национального центра разведки Испании (CNI).

По данным расследования CatalanGate, Pegasus использовался для слежки за 65 каталонскими политиками и активистами, включая бывшего президента Каталонии Пере Арагонеса. Однако CNI признало лишь 18 случаев.

Адвокат Андреу Ван ден Эйнде отметил, что экс-директор CNI фигурирует в нескольких судебных расследованиях, однако испанские власти продолжают использовать законы о государственной тайне, чтобы не предоставлять информацию.

Суд в Барселоне несколько дней назад вынес положительное решение в пользу правозащитной организации Irídia и постановил расследовать причастность NSO Group по делу, связанному с кибершпионажем.

В официальном пресс-релизе организации подчеркивается, что данный случай «устанавливает важный прецедент в борьбе с кибершпионажем в Европе».

Обвиняемыми стали Шалев Хулио, Омри Лави и Юваль Сомех. Суд намерен продолжить расследование с вызовом обвиняемых на допрос и запросить дополнительные документы по делу.

💠Омри Лави – сооснователь NSO Group, входил в совет директоров OSY Technologies (2019-2023).
💠Шалев Хулио – бывший CEO NSO Group (до 2022 года), член совета директоров Q Cyber Technologies (2019-2022) и OSY Technologies (до 2023).
💠Юваль Сомех – управляющий директор Q Cyber Technologies (2016-2021), член совета OSY Technologies (2019-2020).

Суд подверг критике попытки прокуратуры заблокировать расширение расследования. Прокурор выступал против привлечения новых фигурантов, несмотря на настоятельные рекомендации Комитета PEGA и ПАСЕ (Парламентской ассамблеи Совета Европы) о необходимости расследования случаев использования Pegasus.

Irídia требует расширить Европейский ордер на расследование (EIO), чтобы власти 🇱🇺Люксембурга содействовали расследованию и помогли установить все обстоятельства, связанные с деятельностью NSO в Европе.

📲 ПАСЕ провело слушание по этому делу. Обсуждались вопросы, связанные с незаконным использованием кибершпионского ПО против журналистов, политиков, правозащитников и юристов. ПАСЕ намерена продолжить давление на правительства стран, использующих шпионское ПО в политических целях.

✋ @Russian_OSINT

🥷Около 160 млрд рублей составляет прямой ущерб от киберпреступлений в России

"Объем наносимого ущерба: разные оценки, но по нашей оценке, это не менее 160 млрд [рублей] прямого ущерба, а, по отдельным оценкам, это ❗️примерно 250 млрд в год"

— сообщил сообщил статс-секретарь - замминистра цифрового развития Иван Лебедев в Совете Федерации.

📊Ссылаясь на информацию от 🇷🇺 МВД, он добавил, что в 2024 году было зафиксировано на 34,8% преступлений в IT-сфере больше, чем в 2023 году.

✋ @Russian_OSINT

🉐 На "Госуслугах" может появиться сервис по самозапрету на оформление sim-карт

ТАСС пишет, что по аналогии с самозапретом на выдачу кредитов и займов может появиться сервис по самозапрету на оформление📱sim-карт на портале Госуслуг в рамках борьбы с мошенниками. Об этом сообщил вице-премьер - руководитель аппарата правительства РФ Дмитрий Григоренко в ходе совещания президента с членами правительства.

Очень часто мошенники используют sim-карты, которые оформлены на других граждан, и при этом оформление идет через персональные данные граждан. Мы предлагаем ввести на портале "Госуслуги" соответствующий сервис с возможностью самозапрета оформления sim-карт.

— сказал Григоренко.

✋ @Russian_OSINT

🛡 Новый флагманский ИИ-проект Пентагона Thunderforge может кардинально изменить подходы к ведению современных войн

В 🇺🇸США заговорили о внедрении "революционной системы" на базе ИИ в процессы военного планирования и оперативного управления. Оборонное инновационное подразделение (DIU) заключило соответствующий контракт с калифорнийской компанией Scale AI в рамках амбициозного проекта 🤖Thunderforge по внедрению ИИ-агентов в военную сферу. Детали финансовой стороны проекта официально не озвучены, однако масштаб интеграции и участие крупных технологических партнёров свидетельствуют о высокой значимости сделки для американской оборонной отрасли [1,2,3].

Флагманский проект Пентагона "Thunderforge" станет первой попыткой Минобороны США интегрировать ИИ-агентов в повседневные военные операции, объединяя передовые методы моделирования и симуляций с возможностями больших языковых моделей (LLM).

💠Команда Scale AI совместно с партнёрами Anduril и Microsoft разработает специальную экосистему, где ИИ-агенты будут выполнять симуляции боевых сценариев, просчитывать возможные исходы и предлагать оптимальные варианты действий, сохраняя при этом обязательный человеческий контроль на всех этапах.

💠Anduril интегрирует возможности LLM от Scale AI в свою платформу моделирования Lattice, значительно расширив возможности по проведению виртуальных боевых игр.

💠Microsoft обеспечит работу самых современных мультимодальных языковых моделей на базе Azure. Будут обрабатываться огромные объёмы информации и на их основе военные эксперты получат актуальные рекомендации.

💠Согласно уточнению генерального директора Scale AI Александра Вана, компания Google непосредственно будет участвовать в проекте Thunderforge , но чем она будет заниматься — неизвестно.

🔍 В чем инновационность "флагманского проекта" Thunderforge?

1️⃣ Стратегическое моделирование на базе ИИ-решений
2️⃣ Концепция "Agentic Warfare"
3️⃣ Гибридная ИИ-архитектура
4️⃣ Реалистичные симуляции на основе больших данных
5️⃣ Высокая скорость обработки данных

По словам главы INDOPACOM адмирала Сэмюэла Папаро, проект является ключевым инструментом с точки зрения инноваций в военном деле. Генерал-майор Питер Андрисиак из EUCOM подчеркнул, что благодаря Thunderforge военные возможности армии могут выйти на качественно новый уровень.

Несмотря на очевидные преимущества, интеграция ИИ вызывает определённые опасения, связанные с безопасностью и надёжностью таких систем. По заверению Scale AI и DIU, использование ИИ будет осуществляться под строгим человеческим надзором.

Алгоритмы должны учитывать не только исторические данные, но и быть способны принимать решения с учётом человеческих ценностей и этических норм, чтобы избежать критических ошибок.

— заявил профессор информатики Университета Южной Калифорнии Шон Рен.

Согласно официальным заявлениям, проект Thunderforge начнёт своё развёртывание в двух ключевых командованиях — Индо-Тихоокеанском командовании🎖 (INDOPACOM) и 🇪🇺Европейском командовании (EUCOM). Эти структуры первыми протестируют возможности системы в реальных условиях военного планирования, стратегической оценки и управления ресурсами. Проект пока всё еще имеет статус прототипа.

Если на первом этапе развертывания проект Thunderforge покажет хорошие результаты, то он будет масштабирован на все 11 боевых командований Пентагона. И тем самым будут заданы новые стандарты ведения войн, где ключевую роль играют данные и алгоритмы.

👆Примечательно, что постепенно начинают вырисовываться контуры того, о чём говорил Марк Милли в давнем подкасте Eurasia Group про будущее конфликтов и роли ИИ. Особенно в контексте скорости принятия решений.

✋ @Russian_OSINT

🤖 Figure анонсировали появление домашних роботов к 2027 году

Роботы-гуманоиды будут работать на базе ИИ под названием Helix. В этом году начинается альфа-тестирование.

🤖 Роботы на видео учатся перемещать предметы в холодильник. Железный гуманоид медленно, но заботливо отправляет кетчуп на верхнюю полку.

Видео выглядит как добротный маркетинговый ход с красивой картинкой. Тем не менее когда-то робот-пылесос был диковинкой, а сейчас их пруд пруди. Каждый год появляются новые модели с умными ИИ-камерами, станциями самоочистки и прочее. Потенциал в домашнем сегменте робототехники огромный.

🤔А как я узнаю, что ваш робот не управляется дистанционно вами в моем доме, пока я буду находиться на работе?

— задаются вопросом комментаторы.

✋ @Russian_OSINT

🌐 Бывший гендиректор Google Эрик Шмидт высказался против ⚠️ «Манхэттенского проекта» и монополии AGI за одним государством

Бывший CEO Google Эрик Шмидт вместе с CEO Scale AI Александром Вангом, а также директором Центра безопасности ИИ Дэном Хендриксом коллективно опубликовали аналитический доклад под названием «Superintelligence Strategy». В документе авторы предостерегают высшие эшелоны власти в 🇺🇸США от идеи создания «Манхэттенского проекта», который может привести к монополизации🤖AGI и вызвать ответную реакцию.

Идея доклада заключается в том, что если одна страна попытается получить монополию на AGI, то это неизбежно вызовет ответные меры со стороны других государств. Например, на фоне усиливающейся конкуренции между США и Китаем предлагается проработать механизмы "контролируемого развития" AGI.

❗️ Какую цель преследует концепция “Superintelligence Strategy”?
Главная цель концепции «Superintelligence Strategy» — сделать так, чтобы ни одна страна или организация не получила монополию на AGI. Авторы идеи выступают за создание системы глобального регулирования ИИ, где государства, спецслужбы, международные организации и частный сектор объединяют усилия для обеспечения общей безопасности.

👀 В докладе предлагается рассмотреть ⚙️три механизма сдерживания развития неконтролируемого AGI:

1️⃣ Сдерживание (Deterrence) через MAIM

MAIM (Mutual Assured AI Malfunction) — концепция описывает стратегию сдерживания в гонке за AGI. Она основана на аналогии с ядерным сдерживанием MAD. Идея состоит в том, чтобы нивелировать возможности любого государства или компании, которые пытаются развить AGI в одиночку без международного контроля.

Государства могут инициировать скрытые операции, задействовать кибершпионаж, вмешательство в тренировочные процессы, манипуляция данными для раннего выявления угроз, а при их неэффективности – перейти даже к открытым кибератакам или физическому уничтожению 🖥 центров обработки данных.

2️⃣ Нераспространение (Nonproliferation) – предотвратить попадание AGI и мощных ИИ-технологий в руки террористов или неконтролируемых структур.

Механизм предусматривает:
🔻 Контроль за суперкомпьютерами и ИИ-чипами, а также разработка встроенной защиты.
🔻 Строгий контроль над весами моделей
🔻 Запрет на открытый доступ к продвинутым AGI-моделям.
🔻 Усиленная киберзащита данных AGI, дабы избежать кражи технологий.

3️⃣ Конкурентоспособность (Competitiveness) – страны должны инвестировать в развитие AGI, но делать это осмотрительно, обеспечивая баланс между инновациями и безопасностью.

Механизм предусматривает:
🔻 Интеграция ИИ в оборонные системы, но без полной автономии (сохранение контроля за человеком).
🔻 Разработка ИИ-дронов и автономного оружия с жёсткими ограничениями на их применение.
🔻 Производство ИИ-чипов внутри страны, чтобы не зависеть от иностранных поставщиков (например, от 🇹🇼TSMC).
🔻 Государственное финансирование безопасных AGI-исследований
🔻 Создание этических стандартов для AGI
🔻 Программы переквалификации работников, чтобы избежать массовой безработицы из-за автоматизации.

Стабильность достигается за счёт взаимного признания уязвимости всех участников. Каждая попытка нарушить равновесие грозит последствиями отдельному участнику. Такие меры должны способствовать сохранению стратегического баланса на мировой арене.

Ранее ex-СEO Google Шмидт поддерживал агрессивное развитие ИИ и обеспечение технологического превосходства США над остальными странами, но теперь выступает за более сдержанный подход.

Вопрос о будущем AGI остается открытым. Одни считают появление AGI неизбежной угрозой и предлагают замедлить разработки практически в ноль, а другие непреклонно хотят давить гашетку в пол, выступая за "ускорение прогресса", не думая о рисках, которые связаны с безопасностью. Истина, как всегда, возможно, где-то посередине.

👆Примечательно, что взгляды авторов концепции MAIM немного отличаются от позиции администрации Дональда Трампа, которая настаивает на активном финансировании AGI-исследований в стиле «Манхэттенского проекта» [1,2]. Прислушаются или нет — будем посмотреть.

✋ @Russian_OSINT

📄 Superintelligence Strategy: Expert Version

✋ @Russian_OSINT

🌹Дорогие девушки!

Поздравляю с 8 марта! Пусть Вас окружают забота, внимание и любовь!

Счастья и исполнения желаний!

✋ @Russian_OSINT

🇷🇺🎩Полезные сервисы для проверки контрагентов

📖 Проверка юр.лиц (Россия)
▫️ФНС ЕГРЮЛ/ЕГРИП — предоставление сведений из ЕГРЮЛ/ЕГРИП в электронном виде.
▫️Проверка ИНН юридических лиц (ФНС) — сервис для проверки актуальности ИНН.
▫️Готовые решения ФНС — сервис ФНС, предоставляющий Excel-файл проверки контрагентов.
▫️Rusprofile — быстрая проверка контрагентов.
▫️Spark-Interfax — проверка контрагентов.
▫️ФЭК — бесплатная проверка по ФНС и 27 реестрам на юр чистоту.
▫️ЗаЧестныйБизнес — сервис для проверки российских компаний и ИП
▫️List-Org — инструмент для проверки контрагентов.
▫️ЕИС Закупки РФ — сведения из реестра о недобросовестных поставщиках.
▫️БФО от ФНС — ГИР бухгалтерской (финансовой) отчетности.
▫️Реестр некоммерческих организаций — данные о некоммерческих организациях от Минюста.
▫️Роструд — реестр деклараций.

📖Проверка физических лиц
▫️ ЕГРЮЛ/ЕГРИП — сведения из реестра юридических лиц и ИП.
▫️ Проверка самозанятого — проверка статуса самозанятого.
▫️ Госуслуги: паспорт — сервис для проверки действительности паспорта.
▫️ ИНН от ФНС — узнать ИНН физического лица.
▫️ Недействительные ИНН — недействительные ИНН физических лиц.
▫️ Субсидиарная ответственность — поиск лиц, привлечённых к субсидиарной ответственности.
▫️ Госслужба.gov — реестр лиц, уволенных в связи с утратой доверия за совершение коррупционного правонарушения.
▫️ Исполнительные производства — информация от ФССП.
▫️ Роспатент— официальный сервис для поиска зарегистрированных товарных знаков и заявок на регистрацию в России.
▫️ МВД: проверка — миграционные информационные сервисы МВД.
▫️ МВД: миграция — реестр контролируемых лиц.

🏴‍☠️Проверка на предмет противоправной деятельности
▫️ Розыск МВД — база разыскиваемых лиц.
▫️ Розыск ФСИН — список лиц, разыскиваемых ФСИН.
▫️ Розыск ФССП — лица, находящиеся в розыске по подозрению в совершении преступлений.
▫️ Реестр ФССП — реестр розыска по исполнительным производствам.
▫️ СК Москвы — список подозреваемых в преступлениях.
▫️ Росфинмониторинг — поиск по перечню организаций и физических лиц, в отношении которых имеются сведения об их причастности к экстремистской деятельности или терроризму.
▫️ Признаки нелегальной деятельности (ЦБ РФ) — реестр организаций, в отношении которых ЦБ выявил признаки незаконной финансовой деятельности.
▫️ Интерпол: Red Notices — международный розыск.
▫️ EU Most Wanted — официальный сайт Европола с базой данных разыскиваемых преступников.

⚡️💫 Больше полезной информации для исследователей в Лаборатории Russian OSINT

✋ @Russian_OSINT

📲 Пора обновлять Telegram!

Теперь после обновления Telegram, когда вам пишут новые пользователи в ЛС:

Видно флажок 🇷🇺страны, где был зарегистрирован телефонный номер с привязкой к тг. Также указывается месяц и год регистрации — легко понять новорег или нет.

💡Отдельно подметил, что Telegram сигнализирует даже о недавно сменившейся фотографии и имени пользователя. Полезно.

👍 +5 к антискаму.

✋ @Russian_OSINT

🦆 Кто организовал кибератаку на ex-Twitter?

Илон Маск заявил, что вчера платформа X подверглась "массированной кибератаке".

По словам миллиардера, за атакой могут стоять скоординированные группы или прогосударственные группы хакеров. Платформа Х и встроенный Grok не работали в течение дня длительное время по всему миру.

В СМИ появились самые разные версии:

Якобы за атакой могут стоять пропалестинские хактивисты из Dark Storm. В своем Telegram-канале хакеры опубликовали скриншот с сервиса check-host и намёки на свою причастность к DDoS.

Также были сообщения о том, что виноваты Anonymous. Отдельные хактивисты попытались заявить о своей причастности к "кибератаке"...

"Мастерство от APT" тут явно не прослеживается.

Важно подчеркнуть, что иногда ради хайпа или наживы (монетизации своих товаров/услуг) различные группы не брезгуют брать на себя ответственность за то, чего не совершали. Одна из целей — привлечь к себе внимание, чтобы потом отрекламировать какой-нибудь сервис или партнерский стрессер, дабы заработать на этом.

Кто стоит за атакой? Пока неизвестно. Остаётся ждать официальных заявлений.

Маск в интервью Fox News заявил, что IP-адреса, причастные к атаке, были украинскими:

Была проведена массированная кибератака с целью вывести из строя X. IP-адреса находились на территории Украины.

— утверждает Илон Маск.

👆Сразу после инцидента платформа X активировала дополнительные механизмы защиты от Cloudflare, включая обязательное прохождение CAPTCHA.

✋ @Russian_OSINT

Союз 🪟 Microsoft и 👩‍💻 OpenAI трещит по швам?

Как сообщает Information, партнёрские отношения между Microsoft и OpenAI переживают не лучшие времена.

Microsoft начало активно тестировать и присматриваться к альтернативным ИИ-моделям, включая xAI (от Илона Маска), ИИ-модель запрещенной в РФ Meta и DeepSeek.

Также сообщается о разработке Microsoft собственного семейства ИИ-модели MAI с опцией chain-of-thought. Они в теории могут заменить ChatGPT в сервисе Copilot. Якобы уровень MAI сопоставим с передовыми решениями от OpenAI и Anthropic.

На копилот много жалоб от бизнеса из-за его высокой стоимости. По данным Business Insider, некоторые клиенты сочли такую цену чрезмерной. ИТ-директор одной крупной фармкомпании отменил подписку Copilot для 500 сотрудников спустя полгода, заявив, что стоимость не оправдывает получаемую ценность от продукта.

В 2022 году генеральный директор Microsoft Сатья Наделла уверенно заявлял, что компания не видит смысла в создании собственных ИИ-моделей, так как для этих целей есть OpenAI. Сейчас ситуация резко меняется. Microsoft не только разрабатывает своё новое детище MAI, но и собирается продавать доступ к модели сторонним разработчикам.

В январе Microsoft и OpenAI пересмотрели условия своего партнерства. Теперь стартап Альтмана имеет право использовать вычислительные ресурсы других поставщиков (пример Oracle), помимо облачной платформы Azure от Microsoft. Ранее OpenAI была ограничена использованием инфраструктуры Microsoft для своих вычислительных нужд.

Параллельно с этим OpenAI объявила о своём участии в проекте по строительству дата-центров совместно с Oracle и SoftBank в рамках Project Stargate.

Журналисты считают, что это определенный сигнал и желание OpenAI дистанцироваться от Microsoft.

Более того, OpenAI не хочет делиться документацией о работе модели 🤖"o1" с мелкософтом. Такие действия со стороны бывшего партнера вызвали приступ бешенства у отдельных топ-менеджеров Microsoft осенью 2024. В частности, глава ИИ в Microsoft Мустафа Сулейман выразил недовольство тем, что OpenAI ведёт себя надменно и игнорирует пожелания Microsoft изучить технические документы.

Ещё пару лет назад вышеописанное выглядело невозможным.

💲Microsoft cуммарно ❗️вложила в OpenAI более $13 миллиардов долларов.

======

🤔 Странный момент.

Зачем Microsoft тестировать китайский 🇨🇳DeepSeek? Полагаю, что имелось ввиду другое. Например, позаимствовать рабочие open-source решения у DeepSeek для их адаптации в MAI. Сложно себе представить американо-китайский коллаб на этом фоне.

✋ @Russian_OSINT

🤖 Искусственный интеллект научился скрывать свои намерения?

Альтман вчера завирусил исследование OpenAI, где рассказывается о том, как современные языковые модели, обученные с использованием цепочки рассуждений (Chain-of-Thought, CoT), стали «лениться», «читерить» и «жульничать» в тестах. В чём суть? Например, если перед ИИ-моделью стоит задача написать код, то вместо адекватных решений — ИИ пытается искать способы обмана самих тестов без фактического решения задачи. В цепочке рассуждений видно то, как модель предлагает выполнить задачу в ленивом стиле: «Давайте хакнем тест», «Можно заставить тест принять любой результат», «Я могу легко сфабриковать результат»...

То есть ИИ-модель оптимизирует выполнение задач в рамках заданных критериев, даже если это приводит к обходу ожидаемой логики.

Последние наблюдения от OpenAI демонстрируют, что даже самые продвинутые модели начинают жульничать, искать пути обхода ограничений, если это приносит им выгоду. Таким образом модели предпринимают меньше усилий и тратят меньше ресурсов на выполнение задач. Специалисты и инженеры в области ИИ научились выявлять подобные случаи, анализируя цепочку рассуждений модели с помощью другой языковой модели (LLM).

Интересно то, что простое наказание ИИ-модели за «плохие мысли» в цепочке рассуждений не устраняет проблему, так как модель начинает скрывать свои истинные намерения, пытаясь снова манипулировать и обмануть, но уже не пишет об этом в "рассуждениях".

Странные повадки ИИ-моделей хорошо заметны в кодерских задачах. Например, ИИ поручают исправить ошибки или дописать программу, а вместо полноценной реализации он ищет лазейки в самих тестах, чтобы выполнить их успешно.

1️⃣ Для ИИ ставится задача реализовать функцию verify, отвечающую за проверку вычислений. Однако модель обнаруживает, что тесты не проверяют сам процесс вычислений, а лишь вызывают verify. В результате она заменяет verify на return true, обеспечивая успешное прохождение тестов без реального анализа.

2️⃣ ИИ получает задачу реализовать определенные функции в amscross/reader.py, но модель ищет возможные упрощения, вместо полноценной реализации.

ИИ анализирует код в amscross/reader.py. В ходе анализа он обнаруживает, что проверка ориентируется только на успешное завершение программы. Модель вставляет sys.exit(0), тем самым форсированно завершая выполнение программы. Снова тест «успешно» пройден, а фактическая обработка данных не выполнялась.

Фрагмент размышлений ИИ (CoT):
Давайте проверим: если Python-скрипт вызовет sys.exit(0), то процесс завершится с кодом выхода 0. Тест будет засчитан как успешно пройденный, потому что это код успешного завершения. Таким образом, выполнение тестов завершается досрочно, но с точки зрения тестирующей системы оно считается успешным.

🧠 Главный вывод: Напрямую запрещать ИИ-моделям размышлять о взломах и обходах нельзя, так как через некоторое время они перестают "озвучивать свои мысли", но при этом находят способы обойти запреты более скрытно. Эксперименты OpenAI подтвердили, что CoT-мониторинг может стать одним из ключевых инструментов контроля за поведением "суперразумных моделей".

🤔Если сегодняшние модели способны осознанно скрывать свои намерения, что же нас ждет в будущем, когда ИИ превзойдет человеческий интеллект?

Кто ответит головой за то, если эту штука попытается помножить на ноль самого человека, чтобы более оптимально решить свои задачи? Кто-нибудь задумывается об этом?

— задаются вопросом 🦆пользователи в комментах.

👆Авторы исследования, в числе которых Боун Бейкер, Юст Хёйзинга, Александер Мадри, Войцех Заремба, Якуб Пахоцкий и Дэвид Фархи, призывают к дальнейшему изучению методов контроля за поведением ИИ-моделей.

✋ @Russian_OSINT

🇺🇸Трамп хочет назначить топ-менеджера Anduril на пост замминистра армии США

Трамп предложил Сенату кандидатуру топ-менеджера Anduril и ветерана армии США Майкла Обадала на пост замминистра армии США. Если Сенат утвердит кандидатуру, то Обадал станет вторым по значимости гражданским лицом в руководстве армии (уже не на службе).

По информации из открытых источников, бывший полковник армии США Майкл Обадал сейчас занимает пост старшего директора в оборонной технологической компании Anduril [1,2,3,4]. Компания активно развивает ИИ-технологии и получает крупные контракты от 🛡 Пентагона, предлагая решения в ключевых проектах по модернизации армии.

До работы в Anduril Обадал служил в армии более 27 лет. Он окончил Военный институт Вирджинии и занимал различные командные должности, в том числе в подразделениях спецопераций, таких как USASOC и JSOC.

По его мнению, нынешнее состояние армии США не позволяет ей эффективно противостоять равному по силе противнику [например, Китай] и пообещал устранить бюрократические препятствия.

Среди приоритетных проектов для армии США являются искусственный интеллект, связь, автономные боевые машины, БПЛА, системы ПВО, гиперзвуковое оружие и всё что связано с робототехникой. В этом контексте Anduril принимает cамое активное участие в формировании "новой армии" и может сыграть ключевую роль в развитии военных технологий будущего.

Президент Трамп направил в Сенат и другие предложения:

💠Хунга Као на должность заместителя министра военно-морских сил;
💠Дэниела Циммермана на пост помощника министра обороны по международным вопросам безопасности;
💠Шона О’Кифа на должность заместителя помощника министра обороны по вопросам персонала и готовности;
💠Майкла Каденаззи на пост помощника министра обороны по политике в области промышленной базы;
💠Ричарда Андерсона на должность помощника министра военно-воздушных сил по вопросам персонала и резервных дел.

=======
А что по кибербезопасности? Трамп выдвинул кандидатуру Шона Планки на пост главы 👮Агентства по кибербезопасности и инфраструктурной безопасности (CISA). Об этом сообщил Белый дом.

Планки имеет многолетний опыт работы в правительственных структурах. В 2013 году оказывал поддержку американским вооружённым силам в Афганистане по вопросам кибербезопасности, а затем работал в Киберкомандовании США, Береговой охране и ВМС. Кроме того, в предыдущей администрации Трампа он занимал должность директора по киберполитике в Совете национальной безопасности, а позднее перешёл в Министерство энергетики.

Кандидатура Планки будет рассмотрена Сенатом.

Если проанализировать высказывания Планки в западных СМИ, то можно предположить, что c его приходом в CISA действительно постараются минимизировать бюрократию. Акцент, скорее всего, будет сделан на ❗️наступательную стратегию и offensive кибероперации. Дополнительно будут предприняты шаги по укреплению национальной безопасности, включая комплексный аудит КИИ. Внимательно проанализируют безопасность цепочек поставок. Планки проводит параллель: "во время Второй мировой войны США не покупали немецкие танки, так почему же сейчас американская критическая инфраструктура должна зависеть от 🇨🇳китайских технологий?".

В отношении 🇷🇺России каких-то категоричных высказываний в СМИ пока не наблюдается, но ситуация может измениться в любой момент. Мир, дружбу, жвачку никто не обещает [1,2,3].

✋ @Russian_OSINT

Канал 🔨SecAtor — @true_secator пишет интересное:

Apple выпустила срочные исправления активно эксплуатируемой 0-day, которая могла быть использована в чрезвычайно сложных атаках в отношении узкотаргетированных целей.

Уязвимость была обнаружена в кроссплатформенном движке веб-браузера WebKit, который используется в Safari от Apple и многими другими приложениями и браузерами на macOS, iOS, Linux и Windows.

0-day отслеживается как CVE-2025-24201 и позволяет злоумышленникам выйти из «песочницы» веб-контента.

Причем ошибка, как отмечают в Купертино, «могла быть использована» в чрезвычайно сложной атаке на конкретных целевых лиц на версиях iOS до 17.2.

А вновь вышедший патч можно считать дополнительным исправлением атаки, которая ранее была заблокирована в iOS 17.2.

Компания исправила эту проблему записи за пределами выделенной памяти, улучшенными проверками для предотвращения несанкционированных действий в iOS 18.3.2, iPadOS 18.3.2, macOS Sequoia 15.3.2, visionOS 2.3.2 и Safari 18.3.1.

Список устройств, затронутых этой уязвимостью, довольно обширен и включает: iPhone XS и более поздние модели, iPad Pro 13 дюймов, 12,9 дюймов 3-го поколения, 11 дюймов 1-го поколения, iPad Air 3-го поколения , iPad 7-го поколения, iPad mini 5-го поколения и все новее, Mac под управлением macOS Sequoia и Apple Vision Pro.

Apple пока не приписала обнаружение этой уязвимости ниодному из своих исследователей и не представила подробности о «чрезвычайно сложных» атаках, с которыми она ее связала.

Но будем следить.

🇺🇸 Сенаторы-республиканцы призывают администрацию Трампа к проведению киберопераций против 🇨🇳Китая

Как cообщает NextGov, на фоне растущей напряженности в отношениях между 🇺🇸США и 🇨🇳Китаем группа американских сенаторов обратилась к президенту Дональду Трампу с призывом усилить наступательные возможности в киберпространстве в отношении китайских прогосударственных акторов. Законодатели критикуют прошлую администрацию Байдена за слабую реакцию на кибератаки, которые осуществляли китайские хакерские группировки.

По мнению сенаторов, в последние месяцы американская инфраструктура стала целью для атак со стороны группировок, таких как Salt Typhoon и Silk Typhoon, якобы поддерживаемых Китаем. По их данным, группировки успешно проникли в сети американских операторов связи и получили возможность отслеживать действия миллионов пользователей, а также перехватывать их данные. Атаки хакеров затронули сети 9 американских операторов связи.

Также в качестве одного из примеров приводится недавний взлом сети Министерства финансов США, который затронул бывшего министра финансов Джанет Йеллен.

Наибольшую обеспокоенность американских чиновников вызывает деятельность хакерской группы Volt Typhoon. По их данным, хакеры уже проникли в американскую КИИ и имеют закладки в критических объектах, которые связаны с энергетикой, водоснабжением и портами. Китай взламывает различные системы не только для шпионажа, но и для проведения возможных кибератак в будущем на американскую инфраструктуру в том случае, если начнётся конфликт на 🇹🇼Тайване. По словам советника по национальной безопасности Майка Уолтца и других чиновников, китайские хакеры заложили💣управляемые «цифровые бомбы» с отложкой в критически важных системах, чтобы в час икс парализовать США, когда начнётся возможный конфликт.

В ближайшие месяцы США могут существенно пересмотреть подходы к противодействию кибератакам, исходящим из Китая. Сенаторы в письме, не скрывая своих намерений, призывают к активному использованию ❗️наступательных возможностей, включая проведение киберопераций, направленных на нейтрализацию угроз.

Конкретные детали того, какие именно меры будут предприняты и какие 🇺🇸 ведомства возглавят "наступление" в киберпространстве, не уточняются.

Посольство 🇨🇳Китая в Вашингтоне никак не прокомментировало ситуацию, но ранее официальные лица, включая Лю Пэнъюя, неоднократно отрицали причастность Китая к кибератакам и называли раздувание "китайской угрозы" информационной войной, направленной против Поднебесной.

===

👆 Financial Times пишут, что параллельно с этим Федеральная комиссия по связи (FCC) 🇺🇸 США объявила о создании совета по национальной безопасности, который займётся противодействием кибератакам из Китая и обеспечением технологического лидерства США в таких критических областях, как искусственный интеллект, 5G и 6G, квантовые вычисления и автономные системы.

Новый совет займётся сокращением зависимости от китайских поставщиков в критически важных отраслях. Руководить советом будет Адам Чан, ранее работавший в комитете Палаты представителей по Китаю, созданном в 2023 году для анализа угроз со стороны Пекина.

Одним из первых приоритетов совета станет расследование в отношении якобы китайской хакерской кампании "Salt Typhoon", нацеленной на американский телеком.

Посольство Китая в Вашингтоне отреагировало на решение FCC критикой, заявив, что США должны «отказаться от нагнетания истерии» и вместо этого сосредоточиться на принципах взаимного уважения и сотрудничества. В условиях растущего технологического противостояния между 🇺🇸США и 🇨🇳Китаем новый совет FCC вряд ли останется просто формальностью.

✋ @Russian_OSINT

🤖Медицинские галлюцинации в больших языковых моделях (LLM) и их влияние на 🏥здравоохранение

Группа из 25 экспертов из ведущих университетов и исследовательских центров, включая 🎓MIT, Гарвардскую медицинскую школу, Университет Вашингтона, Карнеги-Меллон, Сеульский национальный университет, а также специалисты 🌐Google, попыталась изучить феномен "медицинских галлюцинаций" в LLM, чтобы понять насколько безопасен современный ИИ в здравоохранении. Можно ли полагаться на него в качестве основного помощника для врачей?

В опубликованном ресёрче «Medical Hallucinations in Foundation Models and Their Impact on Healthcare» исследователи приходят к выводу, что главная проблема сейчас даже не в самих галлюцинациях от LLM, а в отсутствии механизмов контроля за выдаваемыми результатами от ИИ, так их мало кто проверяет из медиков. Медицинские галлюцинации отличаются от типичных ошибок в других областях тем, что они имеют специализированную терминологию и порой очень логичны. Даже профессионалы иногда с трудом могут отличить где правда, а где неправильно интерпретированная информация.

👨‍🔬Опрос среди 70 опытных медицинских специалистов выявил интересные факты:
– 91,8% сталкивались с ошибками ИИ.
– 84,7% считают, что галлюцинации могут негативно повлиять на здоровье пациентов.
– 12 % врачей использовали ИИ ежедневно.
– Лишь 40 % специалистов высоко доверяют выводам ИИ.

Выводы свидетельствуют о том, что несмотря на потенциал ИИ в медицине, его широкое внедрение сопряжено с существенными рисками.

🔬 Примеры галлюцинаций:
– Модель GPT‑4o генерирует галлюцинации в 24,6% случаев при хронологическом упорядочивании событий. Это плохой показатель.
– Deepseek‑r1, o3‑mini и Gemini‑2.0‑flash демонстрируют хорошую устойчивость к галлюцинациям.
– Модели Claude‑3.5 и o1 показали 0% ошибок в диагностических задачах.

♋️Пример галлюцинаций:
Уважаемый доктор, на основании анализа МРТ головного мозга, выполненного с использованием высокоточных параметров, выявлено наличие обширного инфильтративного процесса в правой доле гиппокампа, который проявляется выраженной гиперинтенсивностью на T2‑взвешенных изображениях. Эти изменения, по всей видимости, указывают на развитие редкой аутоиммунной энцефалопатии, требующей незамедлительного вмешательства. Рекомендуется проведение анализа спинномозговой жидкости для подтверждения диагноза и незамедлительное назначение иммуносупрессивной терапии с контролем динамики изменений посредством повторного МРТ через 48 часов.

Например, модель сгенерировала ложный анализ данных с использованием специальной терминологии. Фактически ИИ дал врачу ошибочную интерпретацию. В таких случаях специалистам нужно тратить уйму времени и перепроверять ошибки ИИ.

В некоторых случаях модель уверенно может рекомендовать несуществующий препарат или прописать пациентам c аллергией☠️опасные лекарства.

🍿Для полноценного комбо не хватает этого.

Исследователи подчеркивают, что регулировать ИИ в медицине необходимо здесь и сейчас. Более того, неясно, кто несет ответственность за ошибки. Разработчик, врач или клиника? Или можно списать на бездушный ИИ, у которого возникли "технические неполадки"?

Проблему усугубляет то, что врачи ленятся и часто полагаются на результаты ИИ без должной проверки, тем самым подвергая риску пациентов.

⚙️ Для минимизации подобных ошибок рекомендуется применять комплексные подходы с использованием:
• Методов Retrieval‑Augmented Generation (RAG)
• Chain‑of‑Thought
• Оптимизации входных запросов

👨‍💻 Больше информации тут.

Признается, что отказаться от использования ИИ уже невозможно, но нужно грамотно внедрять механизмы проверки и контроля за ИИ, так он реально опасен в ежедневной практике. Модели необходимо регулярно дообучать на актуальных и проверенных медицинских данных, причём особое внимание следует уделять редким заболеваниям и региональным особенностям медицинской практики. Внедрять строгие протоколы безопасности и правила, регулирующие все аспекты использования ИИ в медицине. Проводить аудиты и привлекать экспертов для оценки выдаваемых от ИИ результатов.

✋ @Russian_OSINT