Useimmat tekoälyagentit nykyään luottavat edelleen ihmisille suunniteltuun infrastruktuuriin. Pankkitilit. Manuaaliset hyväksynnät. Istuntoon perustuvat kirjautumiset. Työajat. Näitä järjestelmiä ei ole rakennettu autonomisille ohjelmistoille, ja se näkyy.

Ihmisen järjestelmät olettavat: • Aikomus on inhimillinen • Päätökset ovat harvinaisia • Virheet voidaan korjata manuaalisesti • Luottamus on sosiaalista tai laillista Tekoälyagentit rikkovat kaikki nämä oletukset. Ne toimivat jatkuvasti, koneen nopeudella, ilman kontekstia tai arvosteluja.

Kun agentit pakotetaan ihmisten järjestelmiin, autonomia heikkenee. Agentit päätyvät: • Hyväksyntöjen odotus • Toiminta liian laajoilla käyttöoikeuksilla • Luottaminen hauraisiin API-kiertoteihin • Kontrollin palauttaminen ihmisille reunatapauksissa Tuloksena on automaatio, joka näyttää autonomiselta, mutta ei ole.

Myös turvallisuus kärsii. Ihmisen järjestelmät rakentuvat: • Pitkäikäiset pätevyydet • Kaikki tai ei mitään -pääsy • Hiljainen luottamus tilinhaltijoihin Agenteille tämä luo tarpeetonta riskiä: yksi vuotanut avain voi tarkoittaa rajatonta valtuuksia.

Maksuissa epäsuhta tulee ilmeiseksi. Maksujärjestelmät odottavat: • Interaktiivinen vahvistus • Peruutettavat tapahtumat • Ketjun ulkopuolinen sovittaminen Agentit tarvitsevat: • Deterministiset tulokset • Ohjelmallinen ratkaisu • Kone-todennettavissa oleva lopullisuus Ihmisen kiskot tuovat epävarmuutta, jota agentit eivät osaa järkeillä.

Vaatimustenmukaisuus ja vastuullisuus eivät myöskään siirry puhtaasti. Ihmisen järjestelmät perustuvat: • Politiikat • Käyttöehdot • Jälkikäteen toimiva toimeenpano Autonomiset agentit vaativat: • Täytäntöönpantavat rajoitteet • Todennettavissa olevat toimintalokit • Kryptografiset auditointijäljet Sääntöjen on oltava suoritettavissa, ei vain kirjoitettuja.

Siksi agenttiin perustuvat järjestelmät ovat välttämättömiä. Agenttialkuperäinen infrastruktuuri olettaa: • Ohjelmistolla on auktoriteetti • Oikeudet ovat laajempia ja peruutettavissa • Toimet ovat oletuksena todistettavissa • Maksut ovat osa toteutusta, eivät käyttökokemusta Autonomia toimii vain, kun järjestelmä on suunniteltu sitä varten.

Tekoälyn tulevaisuutta ei rakenneta ihmisjärjestelmien mukauttamisesta. Se rakennetaan korvaamalla ne infrastruktuurilla, joka on suunniteltu agenteille alusta alkaen. Siihen suuntaan Kite rakentaa 🪁