Открытый фреймворк на Python для упрощения интеграции больших языковых моделей в приложения.

Описание

Цель продукта — упрощение интеграции больших языковых моделей в приложения, а аудитория включает разработчиков.

Возможности включают динамически сконфигурированные вызовы, динамически сконфигурированные инструменты, извлечение структурированных данных, генерацию структурированных данных в режиме JSON, а также поддержку аннотаций типов.

Доступ предоставляется как открытый исходный код. Продукт доступен бесплатно.

Продукт предназначен для создания надежного производственного кода, работы со сложными цепочками вызовов и работы с несколькими поставщиками LLM.

Ограничения включают необходимость контроля со стороны разработчика при использовании фреймворка.