Большинство AI-агентов сегодня по-прежнему полагаются на инфраструктуру, разработанную для людей. Банковские счета. Ручные одобрения. Входы на основе сессий. Часы работы. Эти системы не были созданы для автономного программного обеспечения, и это заметно.
Человеческие системы предполагают: • Намерение — человеческое • Решения принимаются редко • Ошибки можно исправить вручную • Доверие — социальное или юридическое AI-агенты нарушают все эти предположения. Они работают непрерывно, на скорости машины, без контекста или оценок.
Когда агенты вынуждены работать в человеческих системах, автономия ухудшается. Агенты в итоге: • Ждут одобрений • Работают с чрезмерными разрешениями • Полагаются на хрупкие обходные решения API • Возвращают контроль людям в крайних случаях Результат — автоматизация, которая выглядит автономной, но таковой не является.
Безопасность также страдает. Человеческие системы построены вокруг: • Долговременных учетных данных • Полного доступа • Неявного доверия к держателям аккаунтов Для агентов это создает ненужный риск: Один утекший ключ может означать неограниченные полномочия.
Платежи — это то место, где несоответствие становится очевидным. Человеческие платежные системы ожидают: • Интерактивного подтверждения • Обратимых транзакций • Внецепочечной сверки Агентам нужны: • Детерминированные результаты • Программируемый расчет • Машинно-проверяемая окончательность Человеческие системы вводят неопределенность, с которой агенты не могут справиться.
Соблюдение и подотчетность не переводятся однозначно. Человеческие системы полагаются на: • Политики • Условия обслуживания • Принуждение после факта Автономные агенты требуют: • Исполнимых ограничений • Проверяемых журналов действий • Криптографических аудиторских следов Правила должны быть исполнимыми, а не просто записанными.
Вот почему необходимы системы, основанные на агентах. Инфраструктура, основанная на агентах, предполагает: • Программное обеспечение обладает полномочиями • Разрешения имеют ограниченный срок действия и могут быть отозваны • Действия по умолчанию подлежат доказательству • Платежи являются частью выполнения, а не пользовательского опыта Автономия работает только тогда, когда система спроектирована для этого.
Будущее ИИ не будет построено на адаптации человеческих систем. Оно будет построено на замене их инфраструктурой, разработанной для агентов с нуля. Вот в каком направлении движется Kite 🪁
1,03K