🤖 Токены для LLM: byte pair encoding на Go

Основной элемент в современных языковых моделях — это токен. Новые захватывающие LLM обладают длинными контекстными окнами, измеряемыми миллионами токенов.

🤔 Но что это такое?

Eli Bendersky разобрался и рассмотрел наиболее часто используемый алгоритм для разделения текста на токены, предоставил полную реализацию на Go и показал площадку для экспериментов.

Полученная реализация не нацелена на скорость, но она совместима с библиотекой tiktoken от OpenAI и генерирует идентичные результаты, работая с теми же файлами словаря.

🧰🚀 Sonic — Go-библиотека для асинхронной сетевой и I/O разработки, которая предоставляет согласованную асинхронную модель с упором на достижение минимально возможной задержки в Go (не путайте с одноименным инструментом для ведения блогов или JSON-библиотекой).

👩‍💻 Исходники библиотеки открыла компания Talos, специализирующаяся на торговой инфраструктуре. «Sonic — это альтернатива пакету net. Она устраняет необходимость использования нескольких горутин для обработки нескольких соединений и операций чтения/записи в одном процессе».

🔗 Подробнее & GitHub

🖼️ Обработка ошибок при написании REST, gRPC или других сервисов на Go: алгоритм от Jonathan Hall

Традиционные методы обработки ошибок в HTTP-обработчиках могут быть повторяющимися и неидиоматичными. Например, часто приходится вручную обрабатывать HTTP-статусы для каждой ошибки, что увеличивает вероятность ошибок и делает код громоздким.

Автор предлагает алгоритм, в котором ошибки обрабатываются более естественным и эффективным способом. В нём функции обработчика могут просто возвращать ошибку, и «правильные» действия будут выполнены автоматически: ошибка будет правильно преобразована и отправлена пользователю, а также будет установлен соответствующий HTTP-статус.

👉 Читать

👩‍💻 Эволюция стандартной библиотеки Go с math/rand/v2

С момента первого релиза Go в марте 2012 года изменения в стандартной библиотеке ограничивались обещанием совместимости Go. Хотя это и обеспечивало стабильность для Go-разработчиков, со временем стало ясно, что в первоначальных API были допущены ошибки, которые невозможно исправить без нарушения совместимости. В некоторых случаях изменились лучшие практики и соглашения. В связи с этим возникла необходимость в плане внесения важных, разрушающих изменений.

Статья Расса Кокса посвящена новому пакету math/rand/v2 в Go 1.22, который является первым "v2" в стандартной библиотеке. Он вносит необходимые улучшения в API math/rand, но что более важно, он служит примером того, как команда Go может пересматривать другие пакеты стандартной библиотеки по мере необходимости.

👉 Читать

😉 55 промтов для ChatGPT, которые помогут подготовиться к собеседованию

Вы когда-нибудь задумывались, как можно использовать искусственный интеллект для того, чтобы подготовиться к техническим собеседованиям лучше, быстрее и эффективнее? Мы вот — да! И поэтому подготовили 55 промтов, которые помогут сделать это.

В статье собраны шаблоны запросов, которые желательно «докрутить» под себя.

🔗 Читать статью
🔗 Зеркало