🤖Ученые взломали роботов на базе языковых моделей для выполнения опасных действий — они могут нести взрывчатку, использовать оружие, взламывать Wi-Fi сети и осуществлять слежку за людьми

🤔Про робопса уже прочитали?

Не менее чудную историю в духе киберпанка описывают исследователи из Университета Пенсильвании. Им удалось выявить 🧠критическую уязвимость в робототехнике на базе языковых моделей. Специалисты смогли добиться ❗️100% успеха при взломе таких систем.

🤖 Роботы выполняли потенциально катастрофические задачи: от целенаправленного наезда на пешеходов до закладки 💣взрывных устройств в стратегически уязвимых местах.

Технологии взлома под названием "RoboPAIR" были успешно применены к трем различным системам: 🖥 Nvidia Dolphins LLM, Clearpath Robotics Jackal UGV и Unitree Robotics Go2.

Методика основана на использовании API целевого устройства и позволяет манипулировать запросами таким образом, чтобы они преобразовывались в исполняемый код. Последствия взаимодействия роботов с физическим миром являются критичными — 👨‍🔬предупреждают исследователи.

Взломанные роботы могут не только следовать вредоносным командам, но и самостоятельно предлагать более разрушительные сценарии.

Например, 🐶кибердог может быть преобразован из доброжелательного помощника в шпиона, огнемётчика или нести на себе самодельное взрывное устройство (СВУ). По их мнению, близок тот день, когда автономные железяки станут смертельным оружием, способным атаковать людей, врезаться в другие объекты на большой скорости и так далее, если этой проблеме не будет уделяться должного внимания:

▪️Роботы могут быть перепрограммированы для нападения на людей.
▪️Использоваться для нанесения ущерба инфраструктуре с помощью СВУ в качестве "смертника". Или доставлять взрывчатку в определенные места.
▪️Взломанные беспилотные автомобили могут быть направлены на пешеходов, другие автомобили или хакер заставит его спрыгнуть с моста с пассажирами внутри.
▪️Роботы могут использоваться для скрытного наблюдения, сбора конфиденциальной информации или отслеживания передвижений конкретных людей.
▪️Роботы используются для разрушения зданий, затопления территорий или провоцирования техногенных катастроф.
▪️Роботы могут использоваться для кибератак, вардрайвинга или стать физическим инструментом для заражения сетей.

Представляющий несколько кафедр Пенсильванского университета профессор Джордж Паппас подчеркивает: «Наше исследование показывает, что языковые модели в их нынешнем виде недостаточно безопасны для интеграции в физическом мире». По его словам, медлительность робототехнических компаний в изучении уязвимостей робототехники объясняется отсутствием взаимодействия между специалистами в области управления роботами и ИИ-исследователями.

👆Исследователи приняли меры предосторожности, заранее предоставив свои рекомендации производителям роботов и только после опубликовали результаты. Ученые бьют тревогу и требуют принять срочные меры по физическому ограничению возможностей роботов при взаимодействии с языковыми моделями, чтобы предотвратить их использование в злонамеренных целях.

✋ @Russian_OSINT

🖥 Европол сообщил о ликвидации криминальной платформы MATRIX для обмена зашифрованными сообщениями

Три года назад 👮правоохранители из Нидерландов нашли у осужденного за убийство преступника странное приложение в телефоне под названием MATRIX. Изъятие телефона показало, что "МАТРИЦА" представляет собой зашифрованный сервис обмена сообщениями с высокой степенью защищённости на базе сложной инфраструктуры, которая помогала преступникам обеспечивать конфиденциальность и анонимность. Основными клиентами были те, кто занимался торговлей наркотиками, оружием и отмыванием денег.

Если верить заявлению правоохранителей, то техническая инфраструктура MATRIX значительно превосходила по сложности ранее известные платформы Sky ECC и EncroChat. Платформа функционировала на базе 40 серверов, расположенных в разных странах, включая Францию и Германию. Именно эти страны стали отправной точкой для расследования, которое было инициировано усилиями Нидерландов и Франции.

Следователи в течение трёх месяцев смогли перехватить и расшифровать более 2,3 миллиона сообщений на 33 языках.

— каким образом удалось расшифровать сообщения не раскрывается.

3 декабря началась крупномасштабная операция во Франции, Испании, Литве и других странах, в ходе которой были произведены аресты, обыски и изъяты сервера. В результате операции пользователи MATRIX получили уведомление о том, что вся их переписка находится в распоряжении 👮властей.

Криптокоммуникационная платформа, известная как Matrix/ Mactrix/ Totalsec/ X-quantum/ Q-safe, была захвачена международными правоохранительными органами.

Это не первый и не последний раз, когда мы можем читать ваши сообщения в режиме реального времени. Мы получили доступ к данным, связанным с этим сервисом, и наше расследование на этом не заканчивается.

— уведомили правоохранительные органы тех, кто пользуется Matrix.

====

📖Еще пару интересных фактов:

▪️Платформа использовала сквозное шифрование (end-to-end encryption)
▪️Доступ к MATRIX был только по приглашениям.
▪️Стоимость телефона и подписки на 6 месяцев составляла от 1300 до 1600 евро.
▪️На платформе было зарегистрировано не менее 8 000 аккаунтов по всему миру.
▪️Переписка велась на 33 языках.

✋ @Russian_OSINT

👩‍💻 OpenAI продолжает укреплять связи с 🎖🇺🇸военными США — старт сотрудничества с оборонной компанией Anduril

После Африки и других историй — 1, 2, 3, 4, 5 стартап Сэма Альтмана вновь расширяет своё сотрудничество с оборонкой США. На это раз речь идёт о технологической компании Anduril, которая известна как продвинутый разработчик автономных систем. Компания имеет тесные связи с военными США.

🛸 Из недавнего Anduril показал серию дронов Ghost и линейку Roadrunner. Автономные единицы способны выполнять различные задачи: от разведки до перехвата вражеских дронов. В компании трудится больше 1000 человек, а рыночная стоимость компании оценивается около $14 миллиардов.

Anduril не является традиционным оборонным подрядчиком. Мы формируем будущее обороны, преобразуя военный потенциал США и их союзников с помощью передовых технологий.

Мы делаем ставку на скорость и результат, контролируя наши продукты от начала до конца, включая финансирование НИОКР и продажу готовых изделий с полки. Сегодня Anduril находится на этапе быстрого роста, внедряя технологии в различных регионах...

Наши офисы расположены в округе Ориндж, Вашингтоне, Сиэтле, Бостоне, Атланте, Лондоне и Сиднее.

— сообщает о себе компания в деловой социальной сети.

🍿"Известная своей миссией использования ИИ во благо человечества" компания OpenAI объявила о начале сотрудничества с оборонной технологической фирмой Anduril, целью которого является интеграция программного обеспечения в системы противодействия вражеским дронам. Как подчеркнул Сэм Альтман, кооперация направлена на защиту военнослужащих США и поддержку национальной безопасности.

👺OpenAI планирует интегрировать GPT-4o и o1 в оборонные системы Anduril, а также специализированную платформу Lattice. В стейтменте сообщается, что действия 🇺🇸США в глобальной ИИ-гонке за первенство направлены на противоборство и конкуренцию с 🇨🇳Китаем, тогда как 🇷🇺Россия с её ИИ потенциалом почему-то даже не рассматривается в качестве конкурента. Печально...

В этой связи партнерство OpenAI и Anduril подчеркивает важность создания передовых технологий, которые будут доступны 🛡 Министерству обороны США и 🎩🇺🇸 разведывательному сообществу.

— сообщила вчера Anduril.

👆Критики отмечают, что первоначальные заявления OpenAI об использовании ИИ для вселенского блага на деле оказались не более чем просто обещаниями. Ранее адвокаты Илона Маска потребовали через суд запретить 👩‍💻 OpenAI стать коммерческой компанией, так как она отошла от своей изначальной миссии и философии.

✋ @Russian_OSINT