明らかなのは、AIの変化のスピードが、立法や幅広い規制を通じて政府が対応できるスピードをはるかに上回っていることです。
大半の政策当局は、AIの戦略的な重要性を認めています。また大半の政府は、AIが経済的・地政学的な力の源泉になっていると認めています。ただ、認めるのは簡単でも、実行となると途端に難しいものです。
政府は効果的な監視システムを構築できるのか、組織はAI導入のための確かな枠組みを構築できるのか、企業はディスラプションによる影響を吸収し、十分な速さで適応できるのか、ガバナンスは能力に遅れずに対応できるのか。
ここ10年のほとんどの期間、AI投資への疑問は主に能力に関するものでした。どのモデルが一番強いか、計算処理力が最も高いか、どのモデルがベンチマーク競争に勝つか。
これらの疑問は今でも重要ですが、次第に最重要ではなくなっています。
新たに浮上している問題は別にあります。ますます強力なシステムを誰が検証できるか、誰が監査できるか、誰がアクセスを制御するか、誰が基準を定めるか、誰が導入を統治するか、誰がこれらのシステムを安全な形で、政府、法人、軍、金融市場に統合できるか。
AIはもはや企業間の単なる技術競争ではなく、国家間の戦略的競争になっています。米国は、革新のペースが鈍化すれば中国の進歩に後れをとりかねないと危惧し、中国は、政治的統制と社会的安定を維持しながら、技術的な主導権を保つことを課題としています。両政府ともAIを重要なインフラとして扱うようになります。そうした実情では、双方とも逃れられない緊張状態に陥ります。つまり、行動が遅すぎると戦略的コストが生じ、行動が早すぎるとガバナンス・リスクが発生し、いずれも等しく重大な結果を招く可能性があります。
従来のAI安全性を巡る議論では、リスクの高まりを踏まえ、開発ペースを落とすべきだとされています。一方、国家安全保障の観点からは、戦略的競合国が開発を減速させない以上、自国も減速する余裕はないと考えられています。
どちらの議論も同時に成り立ち得ます。まさにそうした理由から、AIは単なる商用技術というより、戦略的インフラとしての性格を強めています。
投資家にとって、AIの次のフェーズは最初のフェーズと大きく違って見えるかもしれません。最初は知能を構築する競争でした。次のフェーズはそれを統治するための競争となる可能性が高いです。そうなれば、最も重要な投資機会は、フロンティアAIを生み出している企業だけでなく、社会が信頼し、導入し、安全を確保し、拡張し、適応し、維持できるようなシステムを構築する企業にもあるかもしれません。