Последние три недели занимаюсь B2B нашего второго продукта - автопроверки на базе ИИ. У нас там достаточно много функционала, отработанного на наших студентах и получившего хороший фидбэк:

- IDE, который поддерживает 50+ языков и сложные проекты с автопроверкой кода и результата решения + формирует полноценный фидбэк
- Анализ свободного ответа студента
- Анализ решений в виде файлов
- ИИ ассистент для обучения

Вот что меня удивило: наша ЦА не только айтишные школы, но и... детские продукты.
Мы все это время полировали функционал на мидл+ инженерах. Пришлось погружаться в тонкости адаптации под разные типы бизнесов.

Вот мои инсайты конкретно под детей:
Дообучение ИИ контентом у детских курсов - не прихоть, а необходимость. Когда меня спрашивают "можно ли дообучить на своем контенте" авторы курсов по,например, питону — я всегда спрашиваю "а чему вы хотите LLM научить по теме питон?" Но с детьми другая история:

Важно не завалить ребенка большим количеством информации и ИИ должен быть безопасен. Дети - жуки любопытные, везде пролезут. А за их любопытство отвечать сервису

Еще есть нюанс с "извращенными" материалами, в которхе LLM не шарит на все 100 процентов (да, такое есть). Например, сложные олимпиадные задачи. Я сама поступила в бауманку по олимпиаде и я знаю, что задания, которые дают вузы, требуют специальной подготовки. Без нее их не решить. И LLM тоже надо учить.

Проникновение ИИ у детей очень высокое! Всякие госактивности (типо "Код Будущего") уже ожидают, что в курсах будут внедрены решения на основе ИИ для обучения и указывают это в требованиях в своих конкурсах. Тут мы очень и очень кстати.

Тем не менее, безопасность на детях младше 13-14 лет пока стоит на повестке и у нас и у других коллег, которые занимаются аналогичными продуктами.

На днях мы родили идеи реализации, как сделать систему безопасной. Но о промпт-архитектуре и тройной валидации напишу в следующий раз.
Если интересно, огонечков накидайте, пожалуйста 🔥