بوابّة ذكية للتعامل مع مطالبات نماذج اللغة الكبيرة (LLMs) ، تم تصميم Arch لحماية ومراقبة وتخصيص تطبيقات LLM (الوكلاء والمساعدين والمساعدين المشاركين) مع واجهات برمجة التطبيقات الخاصة بك. تم تصميمه مع LLMs مخصصة ، يدير Arch المهام الحرجة وغير المميزة المتعلقة بمعالجة ومعالجة المطالبات ، بما في ذلك اكتشاف محاولات كسر الحماية ورفضها ، والاتصال الذكي بواجهات برمجة التطبيقات "الخلفية" للوفاء بطلب المستخدم الممثل في موجه ، والتوجيه إلى LLMs المُصعدة وعرض التعافي من الكوارث بينها ، وإدارة قابلية ملاحظة المطالبات وتفاعلات LLM بطريقة مركزية.
أرش هو بوابة ذكية للرسائل مصممة لحماية ومراقبة وتخصيص تطبيقات الذكاء الاصطناعي (الوكلاء). تم تصميم أرش لتوفير حماية روبوستية لمعالجة الرسائل، ومراقبة شاملة، ودمج سلس مع واجهات برمجة التطبيقات (APIs)، والعمل مع جميع مساهمات العمل الخارجية. تم بناء أرش على (وبواسطة) مساهمين رئيسيين في Envoy Proxy مع إيمانهم بأن تطبيقات الذكاء الاصطناعي تحتاج إلى معالجة آمنة وذكية لطلبات المستخدمين، وتتطلب نفس القدر من الوظائف والإمكانيات على مستوى البنية الأساسية (APIs) لضمان جميع منطق عمل الشركة.
أرش موجه للمطورين الذين يبنيون وكلاء ذكاء اصطناعي أو تطبيقات تستخدم لغة نموذجية كبيرة (LLM).
