«Наша лаборатория инициировала и возглавляет международный консорциум по исследованию генетических механизмов регуляции N-гликозилирования белков плазмы крови. Совместными усилиями мы собрали крупнейшую в мире коллекцию гликомов и геномов, включающую более 10 000 образцов — это почти втрое превышает масштаб нашего предыдущего исследования»,

Искусственный интеллект в финансовом секторе позволяет автоматизировать часть бизнес-процессов и повысить производительность труда. Его применения также перспективны в гиперперсонализации сервисов, скоринге, управлении рисками одновременно на макро- и микроуровне, антифрод-системах.

Но какие риски несут в себе сами технологии ИИ? Мы в Институте ИИ МГУ совместно с Банком ВТБ провели экспертно-аналитическую работу по изучению вызовов и перспектив развития LLM и агентских систем. Одна из неочевидных проблем – это риск предвзятости. Например, при кредитном скоринге данные для обучения могут повлиять на предвзятое отношение модели к некоторым категориям граждан. Также опасная тенденция – это очеловечивание алгоритмов, назовём это риском неадекватного восприятия и использования ИИ. Но один из главных возможных «чёрных лебедей» – эмерджентность, непредсказуемость взаимодействия множества автономных ИИ-агентов, проявление у них эффектов роевого поведения, последствия которого не просчитаны.

Важно отметить непрозрачность решений ИИ (проблема «чёрного ящика»), что усложняет интерпретацию этих решений и возникает вопрос доверия к результату. Это имманентное свойство текущего поколения ИИ, полностью его решить не получится. Придется принять как данность, перестраивая бизнес процессы так, чтобы эти риски не влияли. С точки зрения практики нам важны метрики точности и ошибок в работе ИИ, поэтому мы сосредоточились на развитии методологии определения токсичности и галлюцинаций в работе больших языковых моделей, а также на построении систем, которые могут их детектировать и исправлять.

Повышенные риски использования технологий ИИ в критических областях требуют некоторой регуляции. Но наша экспертная позиция такова: регулировать необходимо само применение (в том числе вовлекая страховой механизм), а не разработку алгоритмов, иначе есть риск отставания в технологической гонке.

Если говорить не про риски, а про потенциальные перспективные направления, смежные с технологиями ИИ, – это нейротехнологии, которыми мы тоже занимаемся в Институте ИИ МГУ. В этой области в ближайшие 5–10 лет могут произойти серьёзные прорывы, которые изменят наше взаимодействие с цифровым миром.

В рамках моего доклада была затронута важная тема для современной науки — кризис воспроизводимости исследований: недостаток размеченных данных, атакуемость метрик, а также смещенные результаты бенчмарков на открытых датасетах, относительно результатов челленджей и бенчмарков на закрытых данных. Результаты работы нашей лаборатории демонстрируют вклад в решение этих проблем в конкретной области в виде реальных результатов.