Arch adalah gateway cerdas yang dirancang untuk mengamankan, mengamati, dan mempersonalisasi aplikasi LLM (agen, asisten, co-pilot) dengan API Anda. Dibangun dengan LLM yang dibuat khusus, Arch menangani tugas-tugas penting yang berkaitan dengan penanganan dan pemrosesan prompt, termasuk deteksi dan penolakan upaya jailbreak, panggilan API 'backend' yang cerdas untuk memenuhi permintaan pengguna yang direpresentasikan dalam prompt, perutean ke dan menawarkan pemulihan bencana di antara LLM upstream, dan manajemen observabilitas prompt dan interaksi LLM dengan cara yang terpusat.
Arch adalah gateway prompt cerdas yang dirancang untuk melindungi, mengamati, dan mempersonalisasi aplikasi AI (agen). Dibangun di atas (dan oleh kontributor inti dari) Envoy Proxy dengan keyakinan bahwa aplikasi AI membutuhkan penanganan yang bernuansa, perutean cerdas, observabilitas yang kuat, dan integrasi dengan sistem back-end (API) agar prompt aman dan permintaan pengguna yang tidak transparan, yang memerlukan kemampuan yang sama seperti permintaan HTTP tradisional dengan sistem back-end (API) untuk LLM.
Arch dirancang untuk pengembang yang membangun agen AI atau aplikasi yang menggunakan model bahasa besar (LLM).
