Luottamusta usein oletetaan sen sijaan, että sitä valvottaisiin. Kun tekoälyagentit siirtyvät avustajista autonomisiin toimijoihin, tämä oletus murtuu hiljaisesti. Todellinen epäonnistumistila ei ole huono päättely, vaan agentit, jotka suorittavat toimintoja ilman tiukkoja rajoja. Älykkäät agentit, jotka toimivat heikolla infrastruktuurilla, eivät luo autonomiaa. Ne luovat riskejä.

Haasteena on, että luottamusta ei voi päätellä aikomuksesta tai lopputuloksista. Autonomisissa järjestelmissä odotukset, politiikat ja "paras käyttäytyminen" eivät skaalaudu. Ilman eksplisiittistä identiteettiä, laajuutta ja täytäntöönpanokelpoisia rajoja suoritushetkellä järjestelmät luottavat sokkon delegointiin. Lokikirjat ja jälkikäteen tehdyt selitykset eivät estä vahinkoja, ne vain kuvaavat sitä. Tässä vaiheessa luottamus muuttuu optimismiksi, jota tukevat työkalut.

Kite ratkaisee tämän vahvistamalla luottamusta infrastruktuurikerroksessa. Agentin identiteetti, auktoriteetti, rajoitteet ja suoritus määritellään natiivisti ja tarkistetaan ketjussa, joten toiminnot ovat rajoitettuja ennen tapahtumia, eivätkä selitetä jälkikäteen. Tämä mahdollistaa agenttien toimia itsenäisesti ja turvallisesti, ilman ihmisten hyväksyntää tai sokeaa luottamusta. Kite-albumilla luottamus ei ole lupaus. Se on järjestelmän 🪁 ominaisuus