Анекдот дня: ChatGPT напугал власти США — и те поверили. Сенаторы сделали официальный (!) доклад о будущем рынка труда, просто собрав список профессий и попросив у чата анализ.

ChatGPT не долго думал и выдал: 97 млн американцев останутся без работы в течение 10 лет. Фастфуд уволит 89% людей, бухгалтерия — 76%, офисы — 2/3.

Сенаторы поверили, испугались и теперь хотят ввести налог на роботов, а кожаным сократить рабочую неделю до 32 часов.

скажите им, что ChatGPT не делает исследований — он генерирует списки, когда его об этом просят 😄

@concertzaal

В чём маленькие языковые модели сильнее больших? 🤔

Модели различают по количеству параметров — переменных, которые настраиваются в процессе обучения. Если их меньше 10 млрд — это маленькие, SLM. Все остальные — большие, LLM.

Например, у новой Qwen3-Max целый триллион параметров — классический представитель LLM. А у Llama 3.2 1b всего один миллиард — это SLM.

Они нужны для разных задач. Большие модели решают сложные кейсы, но их долго и дорого обучать. Малые модели хороши в конкретных задачах, они быстрее в обучении.

Поэтому главный вопрос: насколько сложна задача и стоит ли ради неё дообучать LLM или лучше выбрать SLM.

❤️ Дмитрий Рузанов, руководитель департамента по разработке моделей в Альфа-Банке, рассказал, как мы дообучили маленькую языковую модель и что из этого вышло:

Многие компании создают собственные большие модели, но это слишком дорого и не всегда оправдано. Мы выбрали другой путь: дообучаем модели с меньшим количеством параметров под конкретные банковские задачи.

Например, активно работаем над оптимизацией кол-центра, используем разные подходы. Сейчас популярен RAG-подход, когда генеративная модель опирается не только на свои знания, но и на актуальные данные из доверенных источников. Мы тоже используем его, но в некоторых задачах этого мало — приходится дообучать модели напрямую.

Одна из таких задач — оценка качества ответов операторов. Раньше использовали классические BERT-подобные модели, но решили попробовать другой подход. Обучили SLM с 0,5, 1 и 4 млрд параметров. В итоге качество действительно выросло. Там, где BERT спотыкался, малая обученная модель показывала уверенную работу.

Теперь в Альфа-Банке мы используем возможности языковых моделей не только для генерации текста. Они хорошо справляются и с прикладными банковскими задачами. При этом для работы SLM требуется гораздо меньше ресурсов, чем для классических LLM. Это даёт нам возможность быстро проверять гипотезы и запускать эксперименты там, где раньше это было слишком дорого.

@alfa_trends

Проверьте свои карты: Visa и Mastercard скоро отключат в России, потому что они «больше небезопасны», — сообщает РБК.

Сертификаты безопасности на чипы карт Visa и Mastercard просрочены еще с 1 января, поэтому ЦБ заявлял об их отключении еще летом.

UPD: карты Visa и MasterCard продолжат работать — ЦБ не планирует никаких резких ограничений, сообщили в Банке России.

чем пользуетесь? 💸 💸 ☺️

@concertzaal

Теперь вы знаете, что отвечать на вопрос по дедлайнам 😄

@concertzaal