🧵今日でも多くのAIエージェントは人間向けに設計されたインフラに依存しています。👇🏻 銀行口座。 手動承認。 セッションベースのログイン。 営業時間だ。 これらのシステムは自律型ソフトウェア向けに作られておらず、それが表れています。

人間のシステムは以下を前提としています: ・意図は人間的である ・決定はまれです ・エラーは手動で解決可能です ・信託は社会的または法的である AIエージェントはこれらすべての前提を覆します。 彼らは文脈や判断を一切せずに、機械の速度で連続的に動作します。

エージェントが人間のシステムに強制的に組み込まれると、自律性は低下します。 エージェントは最終的に以下の通りになります: ・承認待ち ・過剰に広範な許可で運用すること ・脆弱なAPIの回避策に頼る ・エッジケース時に制御を人間に返す その結果、自動化は自律的に見えるが実際はそうではありません。