何が起きたか

『ワシントン・サン』は、米国家安全保障局が今年、先端の人工知能を評価・テストするため、納税者の資金を数十億ドル使っていると報じた。根拠は、機密推計を知る二人の関係者への取材だ。記事は、正確な金額や詳しい内訳を示していない。

同局の人工知能安全センターは、フロンティアモデル、つまり最先端の人工知能モデルが、国の安全に関わる弱点を持つか調べているという。便利な機能を測るだけでなく、危険につながる能力を見つける仕事だと説明されている。

背景にある費用

記事によれば、テストで特に大きな費用になるのは、モデルを動かすための計算能力だ。高性能な計算機を使うには、多くの電力や機械の利用料がかかる。さらに、最先端モデルを評価できる専門家を雇う費用も重い。民間の人工知能企業が非常に高い報酬を提示するため、政府が同じ人材を集めるのは難しいという。

この話を大きく見せるのが、過去の公的な試算との差だ。記事は、人工知能の危険を調べる中心を作る法案について、議会予算局が年間約2000万ドルと見積もった例を紹介している。別の報告制度案は、5年間で3600万ドルだった。もちろん、これらは今回のテストと同じ範囲の仕事ではない。それでも、実際の検査に必要な計算機と人材を含めると、費用の議論が大きく変わることを示す。

なぜ重要か

人工知能の能力が上がるほど、公開前に安全性を調べる必要も大きくなる。政府が独立した検査を担えば、企業の説明だけに頼らずに済む。一方で、政府がすべての費用を負担すれば、税金への負担が増える。

そこで、人工知能を作る企業に負担金を求める案が出ている。企業同士が互いのモデルを調べる仕組みも提案されているが、安全の基準を作る会社が自分たちを甘く評価するおそれがある。企業の自主検査と、政府や第三者監査の役割をどう分けるかが核心になる。

記事から確認できる範囲

二人の関係者は、テスト資金が連邦政府の機密の国家安全保障予算から出ていると説明した。国防総省は、人工知能の資源配分について安全上の理由から話せないと答え、金額そのものは確認しなかった。専門家は、政府内に評価能力を持つことは必要だが、計算機と人材をそろえるのは本当に高価だと話している。

この話はハッカー・ニュースでも注目され、116ポイントと62コメントが付いた。ただし、ポイントとコメントはコミュニティーの注目度を示す数字であり、元記事の正しさを証明するものではない。

まだ分からないこと

実際に何十億ドルなのか、どの期間の費用を含むのか、計算機・人件費・他の契約にいくらずつ配分されたのかは不明だ。テストが具体的にどの能力を対象にしたのかも、記事からは分からない。機密情報をもとにした報道なので、公開予算や議会資料による裏付けも必要になる。

次に見る点

今後は、議会の説明、政府機関の正式な予算資料、国防総省や国家安全保障局の追加説明が手がかりになる。企業に費用を負担させるなら、検査を企業から独立させる仕組みも必要だ。金額の大きさだけでなく、誰が、どの基準で、どの結果を公表するのかを見るべきだ。

出典は『ワシントン・サン』の元記事とハッカー・ニュースの投稿。