Skip to content
Aktivní

TrustGraph

Který agent může mluvit s kterým a co může říkat.

Co to dělá

Požadavky mezi agenty jsou před spuštěním autorizovány: volající obdrží jednorázový token s omezeným rozsahem, požadavek prochází explicitním stavovým strojem a každá vazba mezi dvěma agenty nese rozhodnutí o důvěře zaznamenané pro účely auditu. Úrovně zpřístupnění určují nejen to, zda agent může odpovědět, ale také kolik z odpovědi může prozradit.

Proč na tom záleží

Jakmile máte více než jednoho agenta, zajímavým selháním není špatná odpověď, ale to, že se agent A dozví něco, co by měl vědět pouze agent B. Autorita mezi agenty musí mít podobu grafu s rozhodnutími na hranách, protože takovou strukturu tento problém reálně má.

Jak to funguje

  • Autorizace probíhá před spuštěním, nikoli po něm

    Vstupní bod mezi agenty nejprve vyhodnotí rozhodnutí o důvěře; neautorizované volání se k modelu vůbec nedostane.

  • Tokeny volajícího mají omezený rozsah a jsou jednorázové

    Delegování nese token vygenerovaný pro daný krok, který je sledován v knize záznamů, nikoli opakovaně použitelné přihlašovací údaje.

  • Zpřístupnění informací je odstupňované, nikoli binární

    Rozhodnutí může povolit odpověď na nižší úrovni zpřístupnění, místo volby mezi plným přístupem a odmítnutím.

Otázky

Proti čemu to vlastně chrání?
To, aby jeden agent nezískal od druhého něco, s jehož sdílením vlastník nikdy nesouhlasil: multiagentní verze chyby v oprávněních, což je typ selhání s nejhorší škálovatelností.
Mohu vidět, proč byl požadavek zamítnut?
Rozhodnutí jsou zaznamenávána pro každou vazbu a jsou viditelná pro administrátory. Podrobnější vysvětlení pro koncového uživatele („proč bylo zablokováno“) je méně robustní než samotné vynucování na pozadí, a raději to přiznáváme.
Zpět k příběhu

That was step 3 of 6: a trust decision resolves. Next, policy filters what is retrievable before generation, so a document you cannot open cannot be paraphrased at you.