В Авито feature selection занимается ллмка, по бизнес описанию задачи, сопоставляется описание фичей и выбираются подходящие по описанию.
Да, там есть еще этапы отбора, но предварительным отбором занимается ллм.
Короч как думаете - работает или кто-то ради премии вкрутил ллм в пайплайн? 🍿

Еще один "интересный" доклад вчера был
Контекст точно не помню, но условно есть задача построить очень быстро модель, типа бейслайн

Решение:
1️⃣ base
pca на всех фичах - выбрать 10 компонент
2️⃣ advanced
Разбить фичи на 10 кластеров, на каждом запустить pca и выбрать по 5 компонент, итог: 5х10 фичей

Применяем в работе? 🤣

Еще один доклад был - про модель дохода банка.
Он скорее был об ограничениях ЦБ и какие сложности возникали. Интересно было послушать как цб вообще к этому вопросу подходит. Но есть нюанс который на докладе не подымался
Мы со своей стороны для них строили такую модель как внешний поставщик данных
Внимание - модель должна предсказывать доход клиента.
Как заказчики решили собрать датасет:
Взяли доходы и разбили их по 5% перцентилям на 20 бинов. Получается, что если их так побить, то эти 20 бинов распределены равномерно 😦
Я если честно плохо представляю о чем думал ds на их стороне, когда видел эти данные, и пробовал ли он сам построить такую модель. Интересно было бы на их результаты посмотреть, ведь ниодна модель доход равномерно не предскажет. Пытались ребят убедить пересобрать датасет, чтобы бины хотя бы первоначальное распределение воссоздавали. Но нет, ответ был - "и так сойдет" 😮‍💨

В итоге пришлось свои прогнозы бинов брать (они очевидно равномерно распределены не были) и таким же образом били на бины по перцентилям 🧠

Получилось норм, но зачем все эти приседания было делать для меня до сих пор остается загадкой 🤔