ArchШлюз для LLM, оптимизирующий безопасность, наблюдаемость и персонализацию

Arch

Arch — это интеллектуальный шлюз запросов, предназначенный для защиты, наблюдения и персонализации приложений ИИ (агентов). Построенный на (и основными участниками) Envoy Proxy, Arch основан на убеждении, что приложения ИИ требуют нюансного обращения, интеллектуальной маршрутизации, надежной наблюдаемости и интеграции с бэкенд-системами (API), чтобы запросы были защищены, а непрозрачные запросы пользователей требовали тех же возможностей, что и традиционные HTTP-запросы с бэкенд-системами (API) для LLM.

Product Highlights

• Наблюдаемость: Arch поддерживает открытые стандарты наблюдаемости, чтобы обеспечить более эффективное отслеживание, метрики и журналы.
• Управление трафиком: Arch управляет вызовами LLM, чтобы предотвратить попытки взлома и обеспечить безопасные взаимодействия с пользователем.
• Защита запроса: Arch централизует ограждения запросов для интеллектуального повторного запуска, автоматического отключения и устойчивых входящих подключений для непрерывной доступности.

Use Cases

• Страховой агент: Постройте полноценного страхового агента с помощью Arch.
• Агент сети: Постройте агента-сопилота сети с помощью Arch.
• Прогноз погоды: Пройдитесь по основным функциям вызова функций шлюза arch, используя службу прогноза погоды.

Target Audience

Arch предназначен для разработчиков, создающих агентов ИИ или приложения, использующие большие языковые модели (LLM).