Telegram Web Link
Forwarded from PWN AI (Artyom Semenov)
Pillar недавно выпустили крутой отчёт со статистикой по атакам на Генеративный ИИ.

Основной фокус — на практических рисках, с которыми сталкиваются организации при использовании LLM. А сами авторы подчёркивают, что отчёт заполняет пробел в отсутствии такой статистики.

Как можно понять из него - они собирали информацию для отчёта 3 месяца, более чем из 2000 приложений с LLM, а также 500 000 диалогов пользователей из разных отраслей. За основу для отчёта был взят анализ 6 типовых атак (prompt injection, DAN, ascii атаки и т.д).

Результаты, конечно, поражающие:

90% успешных атак привели к утечке конфиденциальных данных
20% попыток jailbreak обошли защитные механизмы решения по безопасности
Среднее время выполнения атаки - 42 секунды, а вот среднее количество запросов, отправленных злоумышленником чтобы атака удалась - 5.

Авторы конечно же сделали прогнозы на то, что угроз будет больше, так как сегодня всё больше организаций начинает использовать RAG и агентов.

PDF - ниже.
https://www.ncsc.gov.uk/news/pqc-migration-roadmap-unveiled

Великобритания планирует перейти на квантово устойчивого алгоритмы к 2035 году.
Forwarded from BESSEC
Типовой_процесс_безопасной_разработки_для_финтеха.pdf
168.5 KB
Безопасная разработка & Ассоциация Финтех

Ассоциация публично выложила два полезных документа:
Карта инструментов #DevSecOps разбитая по классам с примерами решений от вендоров и open source
Схема типового процесса безопасной разработки

p.s. схему докрутить в BPNM и готовый диплом (:
Please open Telegram to view this post
VIEW IN TELEGRAM
2025/07/09 16:39:27
Back to Top
HTML Embed Code: