信任往往是被假設而非強制執行的。 隨著 AI 代理從助手轉變為自主行為者,這一假設悄然破裂。 真正的失敗模式不是推理不佳,而是代理在沒有硬性限制的情況下執行行動。 在薄弱基礎設施上運行的智能代理並不會創造自主性。 它們創造的是風險。
挑戰在於,信任無法從意圖或結果中推斷出來。 在自主系統中,期望、政策和「最佳行為」無法擴展。 如果沒有明確的身份、範圍授權和可執行的限制,系統就依賴於盲目的委託。 事後的日誌和解釋無法防止損害,它們僅僅是描述了損害。 在那個時候,信任變成了由工具支持的樂觀。
Kite 通過在基礎設施層強制信任來解決這個問題。 代理的身份、權限、約束和執行都是原生定義並在鏈上驗證的,因此行動在發生之前就受到約束,而不是事後解釋。 這使得代理能夠獨立且安全地行動,而不需要人類的批准或盲目的信任。 在 Kite 上,信任不是一個承諾。 它是系統的一個屬性 🪁
325