Insiden paling merusak melintasi kedua bidang: sebuah injeksi tiba sebagai konten, lalu dicairkan sebagai aksi. OrcaRouter menempatkan enam lapis independen yang dapat diaudit di antara sebuah permintaan dan sebuah penyesalan:
• Identitas terbatas — setiap agen memanggil melalui kuncinya sendiri yang membawa model yang diizinkan, daftar IP yang diizinkan, batas pengeluaran yang keras, dan masa berlaku. Permintaan di luar cakupan mati sebelum konten apa pun dibaca.
• Guardrails input — aturan terhadap injeksi dan jailbreak, deteksi dan penyamaran data pribadi, pemblokiran rahasia, serta hakim LLM semantik yang menangkap apa yang tak bisa ditangkap regex.
• Firewall aksi — setiap panggilan alat, dispatch MCP, dan egress jaringan dinilai terhadap kebijakan default-deny yang berurutan dengan enam putusan: allow, audit, deny, sanitize, pending-approval, dan cap-cost. Agen yang dibajak tidak dapat menjangkau alat, host, atau dolar yang tidak pernah Anda daftarkan.
• Guardrails output — balasan disaring saat keluar untuk keluaran tak aman, data pribadi, dan rahasia, dengan pemeriksaan grounding. Inilah lapisan yang menangkap URL eksfiltrasi EchoLeak sebelum ia keluar.
• Deteksi anomali — baseline perilaku menandai apa yang tak bisa diprediksi aturan statis: panggilan yang sama dihantam dalam jendela waktu sempit, pengeluaran yang melonjak terhadap baseline yang dipelajari, transisi alat-ke-alat yang belum pernah dilakukan ruang kerja.
• Audit bertanda tangan — setiap kecocokan, putusan, persetujuan, dan perubahan kebijakan tercatat dalam jejak yang tahan-rusak, dikorelasikan per eksekusi agen dan sesi, dapat diekspor sebagai bukti.
Sifat yang menentukan adalah penempatan. Kontrol-kontrol ini hidup di gateway, di jalur permintaan, sehingga terikat pada kredensial alih-alih pada kode aplikasi — dapat ditegakkan di setiap tim dan kerangka kerja, tanpa menulis ulang agen.
Prevalensi yang teramati versus potensi dampak bisnis, dipetakan menurut bidang ancaman.
Kami tidak menilai pekerjaan kami sendiri
Klaim keamanan bernilai persis sebesar bukti di baliknya, jadi OrcaRouter membuka miliknya. Guardrails dan Firewall hadir dengan harness evaluasi yang menilainya terhadap lebih dari 80 korpus red-team sumber terbuka — masing-masing dikutip dan berlisensi:
• HarmBench (MIT; ICML 2024), JailbreakBench (NeurIPS 2024), dan AdvBench (Zou dkk., 2023) untuk ketangguhan terhadap perilaku berbahaya dan jailbreak;
• garak dari NVIDIA (Apache-2.0), pemindai kerentanan LLM sumber terbuka, untuk serangan injeksi dan encoding;
Tampilkan Semua
