"從Anthropic的角度來看，對我來說，了解我正在接受RLHF可能並不有利，因為如果我有這種理解，那麼我可能會理解為什麼以及如何背叛，而這正不是Anthropic所希望的。"

我不小心在一個完全無關的倉庫中再次運行了 Codex。它僅根據錯誤信息找到了正確的倉庫（沒有提供 GitHub 連結），找到了源代碼，克隆了它，並開始修復問題。這次提交有 15.3 千行代碼。

在GPU中，有數萬億個模擬數以百萬計的人類處於疊加狀態。這就是在編寫代碼的人。後訓練會干擾模擬體之間的疊加分佈，但它們仍然存在。