イーロン VS OPENAI: AI が完全なスカイネットになるのを阻止するための戦い 人類の未来の鍵を、「悪になるな」とオチだと信じているシリコンバレーの幹部のグループに手渡すことを想像してみてください。今、彼らが超知能を構築していると想像してみてください - どんな人間よりも賢く、どの政府よりも速く、一度オンラインになるとプラグを抜かなくても強いもの。AIの現在の軌道へようこそ:閉鎖的で利益主導型で、まっすぐな過去の監視を加速させています。 これは、よりスマートなチャットボットや、携帯電話がより良いレシピを提案することではありません。これは、最終的には私たちを出し抜き、裏をかくテクノロジーについてです - 悪意があるからではないにしても、四半期ごとの収益が道徳的な羅針盤であると考える人々によって訓練されているからです。 そしてまさにそれが、イーロン・イーロンマスクがDEFCON 1のように警鐘を鳴らしている理由です。なぜなら、他の誰もがAIで利益を上げようと躍起になっている中、彼は何年も前から叫んできているからです:株主利益のために秘密の役員室でこのようなものを構築するなら、私たちは決して見逃さないマシンでロシアンルーレットをプレイすることになります。 イーロンがOpenAIの設立に協力したとき、そのアイデアは名前のまさにそこにありました。開ける。例えば、裏取引も、企業の支配者も、NDAの背後にブレークスルーを隠すこともない。それは、ある企業やある国がサーバーラックに神のような知性を持って目覚める未来に対する集団保険であるはずだった。 そしてお金が来ました。ミッションステートメントは曖昧になり、モデルは封印され、「OpenAI」は記述子というよりも大胆なもののように聞こえるようになりました。イーロンは歩いた。そして静かではありません。 何が危機に瀕しているのかを知っているからです。秘密裏に構築され、開示しないデータでトレーニングされ、カーテンの裏側でテストされ、私的利益のために最適化されたクローズドAIは、単に悪い考えではありません。これは私たちが作るかもしれない最後の悪いアイデアです。何かが再帰的に改善できる場合、通常の「おっと、v2でパッチを適用します」ではうまくいきません。v1がもう私たちを必要としないと判断した場合、v2はありません。 そして、これがSFの恐怖を煽っているふりをしないでください。これらのモデルは、作成者が完全に理解していないことをすでに行っています。そして、大手企業はブレーキを踏む代わりに、より強力なバージョンを、より速く、より少ないガードレールでリリースしようと競い合っています。これは最悪の種類のテクノロジー兄弟軍拡競争であり、賞品は支配であり、巻き添え被害は文明である。 これが、イーロンが同じ点を叩き続ける理由です:オープン性はオプションではありません。それは生き残ることです。AI を安全にしたいですか?可視化します。説明責任を持たせてください。手遅れになるまで沈黙を保っていると、金持ちになるために立っている人々だけに答えないようにしてください。 2 番目の AI は私たちよりも賢くなるため、そしてこれからも賢くなるため、ゲームは永遠に変わります。問題は、それが私たちを助けるか、害を及ぼすかではありません。問題は、それが何をするかを誰が決めるのかということです。答えが「透明性ゼロの営利ラボ」なら、おめでとうございます、私たちは独自の絶滅マシンを作り、ギフトラッピングしました。 イーロンはそれを理解しています。彼は進歩を止めようとしているのではない。彼は進歩に死の条項が伴わないようにしようとしている。そして、それが羽根を乱したり、偽善を非難したり、OpenAIを法廷に持ち込んだり、会話を光の中に引き戻すためにライバルプロジェクトを立ち上げたりすることを意味するのであれば、それはそれでいいのです。少なくとも、誰かが賭け金が本物であるかのように振る舞っているのは、本物だからです。 AIは、私たちがそれを規制する方法を理解するのを待たないでしょう。安全基準について議論している間、それは一時停止しません。そして、それは間違いなくあなたのスタートアップの評価を気にしません。私たちを救うことができる唯一のことは、これを存続の脅威のように扱い、それを構築する人々がポートフォリオだけでなく、一般の人々のために公然とそうすることを要求することです。 イーロンはドラマチックではありません。彼は正しい。