ArchGerencie prompts de forma segura e eficiente com um gateway inteligente de prompts.

Arch

Arch é um gateway de prompt inteligente projetado para proteger, observar e personalizar aplicativos de IA (agentes). Construído sobre (e pelos principais colaboradores do) Envoy Proxy com a crença de que os aplicativos de IA precisam de manuseio matizado, roteamento inteligente, observabilidade robusta e integração com sistemas de back-end (API) para que as instruções sejam seguras e os pedidos de usuário opacos, que exigem as mesmas capacidades que os pedidos HTTP tradicionais com sistemas de back-end (API) para LLMs.

Product Highlights

• Observabilidade: Arch suporta padrões de observabilidade abertos para permitir melhor rastreamento, métricas e logs.
• Gerenciamento de tráfego: Arch gerencia chamadas LLM para evitar tentativas de fuga e garantir interações seguras do usuário.
• Proteção de prompt: Arch centraliza os corrimãos de prompt para retry inteligente, corte automático e conexões de upstream resilientes para disponibilidade contínua.

Use Cases

• Agente de seguros: Crie um agente de seguros completo com Arch.
• Agente de rede: Crie um copiloto/agente de rede com Arch.
• Previsão do tempo: Examine os recursos de chamada de função principal de um gateway de arco usando o serviço de previsão do tempo.

Target Audience

Arch é projetado para desenvolvedores que criam agentes de IA ou aplicativos que usam grandes modelos de linguagem (LLM).