ArchMejora la seguridad, la observabilidad y la integración de las aplicaciones de IA con indicaciones y API.

Arch

Arch es una puerta de enlace de indicaciones inteligente diseñada para proteger, observar y personalizar aplicaciones de IA (agentes). Construido sobre (y por los principales colaboradores de) Envoy Proxy con la creencia de que las aplicaciones de IA necesitan un manejo matizado, enrutamiento inteligente, observabilidad robusta e integración con sistemas de back-end (API) para que las indicaciones estén seguras y las solicitudes de usuario opacas, que requieren las mismas capacidades que las solicitudes HTTP tradicionales con sistemas de back-end (API) para LLM.

Product Highlights

• Observabilidad: Arch admite estándares de observabilidad abiertos para permitir un mejor seguimiento, métricas y registros.
• Gestión del tráfico: Arch gestiona las llamadas LLM para evitar intentos de fuga y garantizar interacciones seguras del usuario.
• Guardia de indicaciones: Arch centraliza las barandillas de indicaciones para reintentar de forma inteligente, corte automático y conexiones de upstream resistentes para la disponibilidad continua.

Use Cases

• Agente de seguros: Construye un agente de seguros completo con Arch.
• Agente de red: Construye un copiloto/agente de red con Arch.
• Pronóstico del tiempo: Recorrido de las capacidades de llamada de funciones centrales de una puerta de enlace de arco utilizando el servicio de pronóstico del tiempo.

Target Audience

Arch está diseñado para desarrolladores que crean agentes de IA o aplicaciones que utilizan grandes modelos lingüísticos (LLM).