周りを見渡してみると、より知的なものが、より知的でないものによって支配されている例はほとんどなく、もしAIが私たちよりも賢くなったとき、支配権を握るのではないかと考えさせられる。

物理学者として私が非常に不安を覚えるのは、制御できないもの、その技術を駆使する際に限界がどこにあるのか分からないものだ。
– 2024年 ノーベル物理学賞受賞 ジョン・ホップフィールド

“And as a physicist, I’m very unnerved by something which has no control, something which I don’t understand well enough so that I can understand what are the limits which one could drive that technology.” – John Hopfield

周りを見渡してみると、より知的なものが、より知的でないものによって支配されている例はほとんどなく、もしAIが私たちよりも賢くなったとき、支配権を握るのではないかと考えさせられる。 – 2024年 ノーベル物理学賞受賞 ジェフリー・ヒントン

If you look around, there are very few examples of more intelligent things being controlled by less intelligent things, which makes you wonder whether when AI gets smarter than us, it’s going to take over control, – Geoffrey Hinton

AIモデルの性能に関する法則・スケール法則というものがある。AIモデルの性能は、学習に使われるデータの規模・学習に使われる計算量・モデルのパラメーター数が増加するほど強化される、というもので、この法則に限界点はない、とされている。

ビジネス的には AI学習に使う計算資源（≒電気代）をどう捻出するか、という議論が巻き起こっているが、このAIモデルの性能を向上させるファクターの中で分かりやすく限界点があるのは「データ規模」だ。（生成AIが再生成したようなデータではなく）AIモデルの性能向上のために必要な学習対象となる情報、人類が作り上げてきたデータを全て学習し尽くしてしまった時、AIはどのようなものになるのか。

人類知識をまさに体現するAIモデルに人間は対抗できるのだろうか。

※ 現代のAIでも教師なし学習を行うAIがある。例えば、将棋AIはもはや人類が作り上げた棋譜を使っていない。AI 同士の対戦データにより、より勝てる手を学習し、性能を強化している。将棋同様に「人類社会のルール化」が可能になれば、高度シミュレーションだけで人類を遥かに越える知識を手に入れるのかもしれない。