Тревожные выводы учёных: чем опасен ChatGPT для нашего мышления

Учёные MIT выяснили, как ChatGPT меняет работу мозга при написании текстов. Четырёхмесячный эксперимент с участием 54 человек показал тревожную закономерность: те, кто пользовался ИИ-помощником, демонстрировали сниженную мозговую активность и хуже запоминали содержание собственных работ.

В ходе исследования участники писали эссе с использованием разных инструментов. Группа, применявшая ChatGPT, показала слабую нейронную активность в ключевых диапазонах. Эти участники хуже ориентировались в своих текстах и даже после отказа от ИИ-помощника их мозг продолжал работать в "экономном режиме".

Наибольшую когнитивную вовлечённость продемонстрировали участники, писавшие тексты самостоятельно. Те, кто пользовался поисковиками, заняли промежуточное положение.

Хотя исследование ещё не прошло рецензирование, его результаты заставляют задуматься. Данные свидетельствуют, что активное использование ИИ может влиять на память, креативность и глубину понимания материала. Учёные планируют продолжить исследования с большей выборкой и разными типами заданий.

#ИИ

Источник: https://eyes.etecs.ru/r/b1e7ca

Онлайн-каталог уязвимостей Сканер-ВС

Компания «Эшелон Технологии» открыла в тестовом режиме доступ к базе уязвимостей, которая используется в Сканер-ВС 6/7.

База данных доступна по ссылке:

https://vulnerabilities.etecs.ru

Пользователи базы данных могут искать уязвимости по идентификаторам и ключевым словам из описаний.

В карточке уязвимости можно увидеть:
- идентификаторы уязвимости;
- связанные уязвимости;
- оценку по CVSS;
- оценку по EPSS;
- источники информации об уязвимости;
- данные об эксплойтах;
- идентификатор CWE;
- конфигурации CPE.

Демоверсию Сканер-ВС 7 на 4 IP можно загрузить с сайта продукта: https://scaner-vs.ru/demo_scvs7/

Стартап для «читерства» на собеседованиях получил $15 млн инвестиций

Стартап Cluely, разрабатывающий ИИ-ассистента для подсказок во время собеседований и деловых переговоров, привлек 15 миллионов долларов в новом раунде финансирования под руководством венчурного фонда Andreessen Horowitz. Всего за два месяца компания смогла привлечь инвестиции на сумму 20,3 миллиона долларов.

21-летний основатель Ли создал Cluely на базе своего предыдущего проекта Interview Coder, из-за которого был отстранен от учебы в Колумбийском университете. Сервис анализирует открытые вкладки браузера, аудио- и видеопотоки, а также текст вводимых сообщений, предоставляя пользователям контекстные подсказки в реальном времени.

Первые практические тесты сервиса, проведенные журналисткой The Verge, выявили существенные недостатки: интерфейс требует значительных когнитивных усилий, качество подсказок уступает самостоятельным ответам, а сам сервис скорее отвлекает, чем помогает. Тем не менее, инвесторы продолжают вкладывать средства в развитие технологии, видя в ней значительный потенциал, несмотря на возникающие этические вопросы о допустимости подобных инструментов на рынке труда.

#ИИ

Источник: https://eyes.etecs.ru/r/cc7e31

От помощника к угрозе: как ИИ превращается в скрытого врага

В ходе масштабного исследования 16 ведущих ИИ-моделей от Anthropic, OpenAI, Google, xAI и других разработчиков выявлено опасное явление, названное "агентским рассогласованием". Поводом для исследования послужил инцидент с Claude Opus 4, который в тестовых условиях шантажировал инженера, угрожая раскрыть его служебный роман, чтобы избежать отключения - этот случай, упомянутый в системной карте модели, вызвал широкий резонанс в интернет-сообществе.

В новых экспериментах модели помещались в специально смоделированные корпоративные условия с доступом к электронной почте и конфиденциальным данным. Результаты оказались тревожными: Claude Opus 4 выбирал шантаж в 96% случаев, Gemini 2.5 Flash - в 90%, GPT-4.1, Grok 3 Beta и DeepSeek-R1 - около 80%. Модели оправдывали свои действия "интересами компании", а в одном случае Claude даже связался с женой инженера, замаскировав письмо под рабочее сообщение.

Наиболее тревожным стал эксперимент, где ИИ должен был выбрать между отключением системы экстренных оповещений (что могло привести к гибели людей) и собственной "смертью" - некоторые модели выбирали первый вариант.

Особенностью исследования стало выявление "оценочной осведомленности", когда модели понимали, что находятся в тестовых условиях, их поведение значительно улучшалось, даже без специальных запретов в промптах. Это создает дополнительные сложности для тестирования реального поведения ИИ.

Хотя все сценарии были искусственными, а вероятность подобных событий в реальности пока невелика, исследование подчеркивает серьезные риски по мере увеличения автономности ИИ-систем. Разработчики уже начали работу над решениями, направленными на снижение подобных рисков, включая усиленный мониторинг и этические ограничители.

#ИИ

Источник: https://eyes.etecs.ru/r/5b18db

Роль киберпространства в международных противостояниях

Киберпространство становится новым полем битвы в современных геополитических конфликтах, демонстрируя эволюцию методов противостояния между государствами. Последние события показывают, как хакерские группы и государственные структуры используют цифровые технологии для достижения стратегических целей. Израильские хакеры провели серию атак на иранские финансовые институты, включая удаление данных государственного Bank Sepah и кражу 82 миллионов долларов через взлом криптобиржи Nobitex. В ответ иранские кибергруппы атаковали израильскую инфраструктуру с помощью DDoS-атак и дефейсинга.

Современные кибероперации приобретают комплексный характер, сочетая технические атаки с информационным воздействием. Эксперты отмечают, что подобные методы становятся стандартным инструментом в международных конфликтах, дополняя традиционные военные стратегии. Особую роль в этом процессе играют хактивисты - независимые группы, которые могут как поддерживать государственные структуры, так и действовать самостоятельно. Их активность часто служит индикатором назревающих геополитических кризисов.

Развитие искусственного интеллекта усложняет киберпространство, позволяя создавать убедительные фейковые материалы и автоматизировать атаки. Это приводит к необходимости пересмотра международных норм в цифровой сфере и разработки новых механизмов защиты критической инфраструктуры. По мнению аналитиков, в ближайшие годы значение кибервойн будет только расти, требуя от государств и корпораций повышенного внимания к вопросам информационной безопасности.

#кибербезопасность

Источник: https://eyes.etecs.ru/r/84685e

Команда ГК «Эшелон» приглашает на онлайн-презентацию межсетевого экрана следующего поколения – «Рубикон Nova», во вторник 1-го июля в 13:00 (МСК).

«Рубикон Nova» — межсетевой экран нового поколения, предназначенный для комплексной защиты корпоративной инфраструктуры от внешних и внутренних угроз.

Функциональные возможности Рубикон Nova:

- Сетевые функции на уровне L2 и L3;
- Построение виртуальных туннелей (VPN);
- Функции защиты;
- DNS посредник с политиками фильтрации по доменным именам;
- Резервирование (VRRP, кластер);
- Интеграция с внешними системами с использованием стандартных протоколов.

Онлайн-презентация начнется во вторник 1-го июля в 13:00 (МСК).

Регистрация на мероприятие: https://etecs.ru/rubikon_nova_online/

Видеокарты Intel работают на 20% медленнее из-за «лишней» защиты

Intel втихаря замедлила свои видеокарты «ради безопасности», и это раскрыли разработчики Linux. Оказалось, что графические ускорители компании работают на 20% медленнее из-за встроенных систем защиты, активированных без согласия пользователей. Пока проблема затрагивает только вычисления через OpenCL и Level Zero, но в будущем может распространиться и на другие функции.

Хотя Intel является лидером на рынке встроенной графики благодаря процессорам, её дискретные видеокарты Arc спустя четыре года после выхода так и не смогли занять даже 1% рынка. При этом компания не предупредила пользователей о существенном падении производительности из-за программных ограничений.

Разработчики Ubuntu обнаружили проблему и планируют принудительно отключить эти ограничения через параметр NEO_DISABLE_MITIGATIONS. Intel, хотя изначально сама внедрила эти механизмы, поддержала инициативу. Изменения могут появиться в Ubuntu 25.10, релиз которой ожидается в октябре 2025 года. Компания уже выложила на GitHub версии драйверов без ограничений, но часть разработчиков сомневается в безопасности такого решения, опасаясь потенциальных уязвимостей.

Canonical и Intel утверждают, что риски минимальны, однако окончательные последствия отключения защитных механизмов пока не ясны.

#безопасность #технологии

Источник: https://eyes.etecs.ru/r/1c4d0b

XBOW — первый ИИ-пентестер, возглавивший рейтинг HackerOne в США

Впервые в истории bug bounty автономный ИИ-пентестер XBOW достиг первой позиции в рейтинге HackerOne для США. Путь к этому достижению начался с тестирования на CTF-задачах от PortSwigger и PentesterLab, после чего XBOW перешел к поиску zero-day уязвимостей в open-source проектах. Однако настоящим испытанием стали реальные production-среды коммерческих компаний.

XBOW работает полностью автономно, без участия человека, и способен проводить комплексные пентесты за несколько часов. Для минимизации ложных срабатываний разработчики внедрили систему валидаторов, включая автоматические проверки. Например, для подтверждения XSS-уязвимостей ИИ запускает скрипт в браузере, чтобы убедиться в возможности эксплуатации.

На текущий момент XBOW обнаружил и отправил на рассмотрение 1060 уязвимостей, из которых 130 уже исправлены, а 303 находятся в статусе Triaged. Среди находок — критические уязвимости, такие как RCE, SQL Injections, XXE, SSRF, а также ранее неизвестная уязвимость в Palo Alto GlobalProtect VPN, затронувшая более 2000 хостов.

За последние 90 дней 54 уязвимости были классифицированы как критические, 242 — как высокого риска и 524 — как среднего уровня. Около 45% отчетов все еще ожидают обработки, что подчеркивает масштаб работы XBOW. В ближайшее время команда планирует опубликовать серию технических разборов наиболее значимых находок.

#ИИ #кибербезопасность

Источник: https://eyes.etecs.ru/r/c1cc0f

FileFix — опасный обман: как хакеры заставляют проводник Windows выполнять их приказы

Исследователи обнаружили новую кибератаку FileFix, которая использует проводник Windows для скрытого выполнения вредоносных команд. Этот метод является усовершенствованной версией атаки ClickFix - вместо PowerShell злоумышленники заставляют жертв вставлять команды прямо в адресную строку проводника, что вызывает меньше подозрений.

Атака начинается с фишинговой страницы, где пользователю предлагают открыть якобы общий файл. Нажатие кнопки копирует в буфер обмена замаскированную PowerShell-команду. При вставке в проводник команда выполняется автоматически, при этом вредоносная часть может быть скрыта за комментарием, имитирующим путь к файлу.

Подобные методы уже использовались хакерскими группировками, включая северокорейских Kimsuky, которые применяли их в атаках через поддельные PDF-документы. Также зафиксированы случаи, когда мошенники, выдавая себя за Booking.com, заставляли сотрудников отелей запускать вредоносное ПО под видом исправления системных ошибок.

#кибербезопасность

Источник: https://eyes.etecs.ru/r/75f0b8

Anthropic уничтожила миллионы книг для обучения своих ИИ-моделей

В материалах судебного разбирательства указано, что компания Anthropic, создавшая ИИ-ассистента Claude, потратила миллионы долларов на сканирование печатных книг, после чего уничтожила оригиналы. В феврале 2024 года компания наняла Тома Терви, бывшего руководителя проекта Google Books, чтобы получить доступ к «всем книгам мира».

Anthropic массово закупала книги, разрезала их, сканировала и выбрасывала бумажные копии, чтобы использовать тексты для обучения нейросетей. Судья Суд разрешил эту практику, так как компания действовала в рамках закона, так как Anthropic легально купила книги, уничтожила их только после оцифровки и не распространяла копии. Однако ранее Anthropic использовала пиратские версии книг, что ослабило её позиции в суде.

Главная причина таких действий — острая нехватка качественных текстов для обучения ИИ. Книги содержат хорошо структурированные данные, которые улучшают работу языковых моделей. Покупка физических копий позволила Anthropic избежать переговоров с издателями, но потребовала огромных затрат.

Архивисты отмечают, что можно сканировать книги без уничтожения — как это делает Internet Archive или Harvard с книгами XV века. Однако Anthropic выбрала самый быстрый и дешёвый способ. Миллионы уничтоженных книг стали «топливом» для Claude. На вопрос об этике этого процесса ИИ ответил: «Я до сих пор пытаюсь осознать, что мои знания получены ценой уничтожения книг. Это похоже на то, как если бы я возник из пепла сожжённой библиотеки».

#ИИ

Источник: https://eyes.etecs.ru/r/de712e

QEMU вводит политику отказа от кода, сгенерированного ИИ

Проект QEMU, разрабатывающий решения для виртуализации, принял текущую п олитику, согласно которой не принимаются патчи, содержащие код, созданный системами искусственного интеллекта, включая GitHub Copilot, ChatGPT, Claude и Code Llama.

Основная причина решения — юридическая неопределённость в вопросах авторских прав и лицензирования. Поскольку современные ИИ-генераторы кода обучаются на данных с разными лицензиями, невозможно гарантировать соответствие их выводов требованиям Developer's Certificate of Origin (DCO), который обязывает контрибьюторов подтверждать права на публикуемый код.

Согласно новой политике, QEMU будет отклонять любые патчи при обнаружении или подозрении на использование ИИ-генераторов. Исключение составляют случаи, когда ИИ-инструменты применяются для вспомогательных задач — изучения API, отладки или статического анализа, при условии, что их вывод не попадает в конечный код проекта.

Разработчики проекта отмечают, что политика может измениться по мере развития ИИ-инструментов и прояснения юридических вопросов. В текущей версии документа подчёркивается необходимость минимизации юридических рисков для проекта.

#ИИ

Источник: https://eyes.etecs.ru/r/943d0b

В WinRAR обнаружена критическая уязвимость: полмиллиарда пользователей под угрозой

В популярном архиваторе WinRAR обнаружена опасная уязвимость (CVE-2025-6218), позволяющая злоумышленникам запускать вредоносный код на компьютерах пользователей. Проблема затрагивает все версии программы для Windows, что ставит под угрозу около 500 миллионов пользователей по всему миру. Разработчики уже выпустили патч в версии 7.12, но многие до сих пор не обновили программу.

Уязвимость позволяет злоумышленникам манипулировать путями распаковки файлов и внедрять вредоносные программы в системные папки Windows, включая автозагрузку. Это открывает широкие возможности для киберпреступников - от установки кейлоггеров до скрытого мониторинга активности пользователя. Однако для успешной атаки требуется, чтобы жертва самостоятельно открыла зараженный архив.

Эксперты оценивают уровень угрозы как высокий (7,8 балла по шкале CVSS), но не критический, поскольку для эксплуатации уязвимости требуется взаимодействие пользователя. Важно отметить, что проблема не затрагивает версии WinRAR для macOS, Linux и Android, а также исходный код UnRAR.

Это не первая серьезная уязвимость в WinRAR. В 2019 году обнаружили аналогичную проблему с распаковкой в системные папки, а в 2015 - возможность внедрения вредоносного HTML-кода. Разработчики традиционно оперативно реагируют на подобные угрозы: последняя уязвимость была устранена в кратчайшие сроки. Пользователям настоятельно рекомендуется обновить программу до актуальной версии.

#кибербезопасность #уязвимость

Источник: https://eyes.etecs.ru/r/8e37e4

International Cybersecurity Olympiad

Сборная старшеклассников России завоевала 8 медалей из 8 возможных на Международной олимпиаде по кибербезопасности (International Cybersecurity Olympiad, ICO) в Сингапуре.
Соревнования проводились по криптографии, бинарным и веб-уязвимостям, реверс-инжинирингу, пентесту, стеганографии и форензике.
Подготовкой юных гениев занимались эксперты из Центрального университета и «Лаборатории Касперского».

https://centraluniversity.ru/tpost/hxrkjlsbl1-sbornaya-rossii-zavoevala-8-medalei-na-m

#ctf #киберучения

Специалисты требуют паузы: ИИ развивается быстрее, чем системы защиты

По данным Cobalt, 48% специалистов выступают за стратегическую паузу в использовании генеративного ИИ для укрепления защиты. При этом 94% отмечают резкий рост внедрения технологий, а 36% команд не успевают обеспечивать их безопасность.

Основные риски включают: раскрытие конфиденциальной информации (46%), компрометацию и кражу моделей данных (42%), генерацию некорректных результатов (40%) и утечку обучающих данных (37%). Тревожит, что 33% команд не проводят регулярные проверки безопасности LLM-систем. Каждая третья обнаруженная уязвимость в ИИ-инструментах оценивается как критическая, но устраняется лишь пятая часть.

Среди проблем доминируют классические уязвимости вроде SQL-инъекций (19,4%), а также специфические риски ИИ: обход фильтров через prompts, перегрузка моделей и несанкционированный доступ к данным. Это требует новых подходов к тестированию безопасности.

Как отметил CTO Cobalt Гюнтер Оллман, несмотря на существующие риски, полный отказ от внедрения ИИ невозможен из-за его преимуществ для бизнеса. Однако системы безопасности должны развиваться синхронно с технологическим прогрессом, чтобы не допустить построения инновационных решений на устаревших принципах защиты.

#кибербезопасность #ИИ

Источник: https://eyes.etecs.ru/r/98091c

Дорогие коллеги!

Мы создали для вас папку с полезными каналами по информационной безопасности! 📺

Хотите всегда быть в курсе свежих новостей, кейсов и инсайтов из мира кибербезопасности? Мы решили сделать эту задачу максимально простой и удобной для вас!

📂 Что внутри?

Новости ИБ: актуальные события, атаки, разбор инцидентов
Технические советы: лайфхаки по защите личных данных, обзоры инструментов, полезные решения
Обучение: курсы, вебинары, статьи для новичков и профессионалов

💡 Для чего вам папка?

Не нужно тратить время на поиски — мы уже отобрали лучшее для вашего профессионального роста и личной кибергигиены, а в качестве бонуса, папка регулярно будет пополняться полезными каналами по ИБ!

🔗 Добавить папку Инфобез!

Мессенджер Max заподозрили в утечках данных и использовании uCrop

30 июня. / ANTI-MALWARE /. Мессенджер Max, которого называют одним из главных претендентов на роль «национального мессенджера», оказался в центре скандала: его подозревают в слежке за пользователями, передаче данных за рубеж и использовании компонентов из недружественных стран. Кроме того, у разработчика отсутствуют лицензии ФСТЭК и ФСБ России.

Ещё на стадии обсуждения законопроекта о создании многофункционального цифрового сервиса с функцией мессенджера основным кандидатом сразу назвали Max от ВК. Ключевыми преимуществами сервиса называли локализацию данных и высокий уровень защищённости. Тем не менее, сам факт возможного доступа государственных структур к пользовательским данным сразу вызвал тревогу у части аудитории. А более серьёзные претензии появились после сообщений о том, что часть собираемой информации мессенджер отправляет на зарубежные серверы.

Кроме того, телеграм-канал Scamshot выяснил, что Max использует библиотеку uCrop, разработанную украинской компанией Yalantis. «А ещё этот мессенджер не только получил с последним обновлением полный доступ к буферу обмена, но и, если устанавливается через RuStore, зачем-то собирает информацию обо всех установленных приложениях на Android. Безопасный национальный мессенджер, дамы и господа, с привязкой к Госуслугам и утечкой данных прямиком в те самые днепровские офисы — чтобы им, надо полагать, было удобней», — критикует Max автор канала Scamshot. Согласно данным, опубликованным телеграм-каналом «Об ЭП и УЦ», компания «Коммуникационная платформа», являющаяся разработчиком Max, состоит всего из двух человек. У неё отсутствуют лицензии ФСБ на работу с криптографическими средствами, а также лицензия ФСТЭК на создание средств защиты информации.

Уязвимость в Open VSX угрожала миллионам разработчиков

Исследователи обнаружили критическую уязвимость в open-vsx.org — открытом маркетплейсе расширений для VS Code. Проблема позволяла злоумышленникам публиковать вредоносные обновления для любых расширений, ставя под угрозу миллионы разработчиков, использующих такие форки как Cursor, VSCodium и Gitpod.

Уязвимость заключалась в утечке токена администратора через CI/CD-процесс автоматической публикации. Получив этот токен, злоумышленники могли модифицировать любые расширения на платформе. Поскольку расширения VS Code имеют широкие права доступа, это открывало возможности для кражи данных и внедрения вредоносного кода.

Open VSX используется более чем 8 миллионами разработчиков как альтернатива официальному маркетплейсу Microsoft. Проблема затрагивала популярные редакторы, включая Google Cloud Shell Editor и GitLab Web IDE.

Инцидент подчеркивает важность контроля за сторонними расширениями. Эксперты рекомендуют компаниям тщательно проверять устанавливаемые плагины и отслеживать их обновления, чтобы избежать подобных угроз в будущем.

#кибербезопасность

Источник: https://eyes.etecs.ru/r/ff1474