La confiance est souvent supposée plutôt qu'imposée. À mesure que les agents IA passent d'assistants à acteurs autonomes, cette supposition se brise silencieusement. Le véritable mode d'échec n'est pas un raisonnement défaillant, mais des agents exécutant des actions sans limites strictes. Des agents intelligents fonctionnant sur une infrastructure faible ne créent pas d'autonomie. Ils créent des risques.

Le défi est que la confiance ne peut pas être déduite de l'intention ou des résultats. Dans les systèmes autonomes, les attentes, les politiques et le "meilleur comportement" ne sont pas évolutifs. Sans identité explicite, autorité définie et limites applicables au moment de l'exécution, les systèmes s'appuient sur une délégation aveugle. Les journaux et les explications a posteriori ne préviennent pas les dommages, ils ne font que les décrire. À ce stade, la confiance devient de l'optimisme soutenu par des outils.

Kite aborde cela en imposant la confiance au niveau de l'infrastructure. L'identité de l'agent, l'autorité, les contraintes et l'exécution sont définies de manière native et vérifiées sur la chaîne, de sorte que les actions sont contraintes avant qu'elles ne se produisent, et non expliquées après coup. Cela permet aux agents d'agir de manière indépendante et sécurisée, sans approbations humaines ni confiance aveugle. Sur Kite, la confiance n'est pas une promesse. C'est une propriété du système 🪁