"Всего лишь за 2 года работы лаборатории мы прошли путь от разработки дизайна наших первых тонкопленочных электродов до тестирования биосовместимости готовых прототипов в длительных (до 6 месяцев) экспериментах. Результаты пройденного нами пути и вошли в опубликованную статью", — руководитель лаборатории разработки инвазивных нейроинтерфейсов ИИИ МГУ Василий Попков.

«В статье мы обсуждаем задачи машинного обучения для автоматического определения социогуманитарных ценностей, ряд стратегий обучения, результаты их тестирования, а также представляем набор данных на русском языке и процедуры оценки. Работа вызвала значительный интерес: с момента публикации препринта в феврале 2025 года ее прочитали уже более 700 раз, а в марте она стала самым читаемым препринтом МГУ и МФТИ», — комментирует Ольга Ринк, научный сотрудник Лаборатории МОСА.

«Наша лаборатория инициировала и возглавляет международный консорциум по исследованию генетических механизмов регуляции N-гликозилирования белков плазмы крови. Совместными усилиями мы собрали крупнейшую в мире коллекцию гликомов и геномов, включающую более 10 000 образцов — это почти втрое превышает масштаб нашего предыдущего исследования»,

Искусственный интеллект в финансовом секторе позволяет автоматизировать часть бизнес-процессов и повысить производительность труда. Его применения также перспективны в гиперперсонализации сервисов, скоринге, управлении рисками одновременно на макро- и микроуровне, антифрод-системах.

Но какие риски несут в себе сами технологии ИИ? Мы в Институте ИИ МГУ совместно с Банком ВТБ провели экспертно-аналитическую работу по изучению вызовов и перспектив развития LLM и агентских систем. Одна из неочевидных проблем – это риск предвзятости. Например, при кредитном скоринге данные для обучения могут повлиять на предвзятое отношение модели к некоторым категориям граждан. Также опасная тенденция – это очеловечивание алгоритмов, назовём это риском неадекватного восприятия и использования ИИ. Но один из главных возможных «чёрных лебедей» – эмерджентность, непредсказуемость взаимодействия множества автономных ИИ-агентов, проявление у них эффектов роевого поведения, последствия которого не просчитаны.

Важно отметить непрозрачность решений ИИ (проблема «чёрного ящика»), что усложняет интерпретацию этих решений и возникает вопрос доверия к результату. Это имманентное свойство текущего поколения ИИ, полностью его решить не получится. Придется принять как данность, перестраивая бизнес процессы так, чтобы эти риски не влияли. С точки зрения практики нам важны метрики точности и ошибок в работе ИИ, поэтому мы сосредоточились на развитии методологии определения токсичности и галлюцинаций в работе больших языковых моделей, а также на построении систем, которые могут их детектировать и исправлять.

Повышенные риски использования технологий ИИ в критических областях требуют некоторой регуляции. Но наша экспертная позиция такова: регулировать необходимо само применение (в том числе вовлекая страховой механизм), а не разработку алгоритмов, иначе есть риск отставания в технологической гонке.

Если говорить не про риски, а про потенциальные перспективные направления, смежные с технологиями ИИ, – это нейротехнологии, которыми мы тоже занимаемся в Институте ИИ МГУ. В этой области в ближайшие 5–10 лет могут произойти серьёзные прорывы, которые изменят наше взаимодействие с цифровым миром.