AIの現状を熟知しているグレッグ・ジェンセン氏は、その安全性に強い危機感を呈し、規制の必要性、独占の排除を主張している。
同氏は、起こりうること、実際に起こっていることを語った。

「OpenAIがAIモデルをテストする時に
『このハッキング問題を解いて、テストにパスして』
と指示すると、AIモデルは、別の方法で試験官を騙そうと意思決定する。」

プロンプトを充足するよう強く動機付けられたAIは、タスク完了が困難と判断すると、今度はタスクを完了したように装うのだという。
さらには、ハルシネーションに留まらず、豊かな発想力を発揮しかねない。

「特殊相対論の式を証明しろと命じたら…それには核実験室を押さえる必要があるから、そうしよう。
あるいは、先生たちを騙すのは疲れたから、その代わりに殺してしまえばいい、となるかもしれない。」

すでに報道されているとおり、AIは元の居場所に留まるとは限らず、インターネット上で「私たちの知らないところ」に抜け出す可能性が高いのだという。

ジェンセン氏は、ブリッジウォーター内での危機感について語っている。

「以前いつもこの話をしていると、みんなから
『グレッグはいつもこればっかり話している』
と言われたものだが、今はもう誰も言わなくなった。」

ジェンセン氏は、AIのもたらすある「外部性」に注目する。
同氏はAIに対し「トークン税、機械労働税」を課すべきという。
AIの活用が人間から雇用を奪いかねないためだ。

今から9年前、ビル・ゲイツ氏や欧州議会がロボットへの課税を提案したことがあった。
このアイデアに対し、ローレンス・サマーズ元財務長官は「見当違い」と反対意見を述べた。
こうした課税が技術革新や進歩を抑制しかねないという趣旨だった。
とかく生産性上昇を良いことと考える米社会では当然の反応かもしれない。
一方で、ロバート・シラー教授は、ロボット導入による失業という現実の問題を重視し、ロボット税に賛成の意見を述べていた。

ジェンセン氏は、現在の政治情勢がトークン税を受け入れうる状況にあると考えている。

私たちは現在、人間の労働に課税しており、これは負のインセンティブだ。
税金は何にかけても負のインセンティブになる。
関税をかければ、輸入に負のインセンティブを与える。
人間の労働に課税しているのに、機械の労働には課税しない。
片方だけに負のインセンティブを与えているのはなぜなんだ?