🧵目前大多數的 AI 代理仍然依賴於為人類設計的基礎設施。👇🏻 銀行帳戶。 手動批准。 基於會話的登錄。 營業時間。 這些系統並不是為自主軟體而建造的，這一點很明顯。

人類系統假設： • 意圖是人類的 • 決策是偶爾的 • 錯誤可以手動解決 • 信任是社會或法律的 AI 代理打破了所有這些假設。 它們以機器速度持續運作，沒有上下文或判斷。

當代理被迫進入人類系統時，自主性會下降。 代理最終會： • 等待批准 • 在過於寬泛的權限下運作 • 依賴脆弱的API變通方法 • 在邊緣案例中將控制權交回給人類 結果是自動化看起來是自主的，但實際上並不是。