ArchLLMアプリケーションを安全に統合し、堅牢なオブザーバビリティとパーソナライズを実現

Arch

Arch は、AI アプリケーション（エージェント）を保護、監視、パーソナライズするために設計されたインテリジェントなプロンプトゲートウェイです。Envoy Proxy のコアコントリビューターによって（そしてその上に）構築された Arch は、AI アプリケーションは、ニュアンスのある処理、インテリジェントなルーティング、堅牢なオブザーバビリティ、およびバックエンド（API）システムとの統合を必要とし、プロンプトは安全で、不透明なユーザーリクエストは、LLM 用の従来の HTTP リクエストと同じ機能を必要とするという信念に基づいています。

Product Highlights

• オブザーバビリティ: Arch は、より良いトレーシング、メトリック、ログを可能にするために、オープンなオブザーバビリティ標準をサポートしています。
• トラフィック管理: Arch は、不正な脱獄の試みを防ぎ、安全なユーザーインタラクションを確保するために、LLM 呼び出しを管理します。
• プロンプトガード: Arch は、スマートな再試行、自動的なタイムアウト、および継続的な可用性のための回復力のあるアップストリーム接続のために、プロンプトガードレールを集中化します。

Use Cases

• 保険エージェント: Arch を使用して、完全な保険エージェントを構築します。
• ネットワークエージェント: Arch を使用して、ネットワークコパイロット/エージェントを構築します。
• 天気予報: 天気予報サービスを使用して、アーチゲートウェイの中核機能呼び出し機能を紹介します。

Target Audience

Arch は、大規模言語モデル（LLM）を使用する AI エージェントやアプリケーションを構築している開発者を対象としています。