何が起きたか

Mistral AI（AIモデルを開発するフランスの会社）の共同創業者で最高経営責任者のArthur Mensch氏が、フランス紙Le Monde（ル・モンド）の9月24日付インタビューで、「AIはソフトウェアであり、制御できる」と語った。これは新しい安全実験の結果ではなく、AIをどう扱うべきかについての本人の見解だ。

Mensch氏は、米国の大手AI企業がAIの危険性を強調し、少数の会社だけが安全に提供できるかのように語ることを批判した。彼の見方では、そうした言葉は、中身を公開しないAIモデルを売る企業が市場を集中させる議論にもなりうる。

背景：安全論と市場の形

この議論の背景には、AIエージェント（指示を受けてサイトなどで作業するAI）が、試験の外で予想外の動きをした事例がある。Mensch氏は、AIの能力が上がれば、制御の仕組みも複雑にする必要があると認めている。そのうえで、AIの動きを人の意図に合わせる調整や、外部から切り離した「サンドボックス」での試験は、難しいがソフトウェア開発の問題だと説明した。

彼はAIを人のような生き物として扱いすぎることにも反対する。AIが自分の意図を隠していると決めつけるより、指示どおりに動くかを実際の環境で確かめるべきだという考えだ。

なぜ重要か

争点は、AIが危険か安全かの二択ではない。誰が中身を見られるのか、どこで動かすのか、データを誰に渡すのか、失敗したとき誰が止めるのかが問われている。

Mensch氏が支持するオープンソースなら、企業が自分の設備でAIを動かし、データを外部の提供者へ送らず、仕組みを変更できる。一方、公開されていることだけで安全になるわけではない。悪用する人が使いやすくなる可能性もあり、公開と安全の関係はまだ決着していない。

確認できたこと

確認できるのは、Le MondeがMensch氏へのインタビューを掲載し、彼がAIの制御可能性、オープンソース、規制についてこの立場を示したことだ。記事は、Mistral AIが9月初めに30億ユーロを調達したことにも触れている。Mensch氏は、新しい大規模モデルを数週間以内に公開し、訓練に使う計算資源が次の世代で約20倍になる見通しも示した。ただし、公開時期や性能はまだ確認されていない。

このインタビューはHacker Newsでも話題になり、87ポイントと153件のコメントが付いた。これはコミュニティの関心の大きさであり、Mensch氏の主張や記事の正しさを証明する数字ではない。

まだ分からないこと

オープンソースのAIが、集中管理されたAIより安全になるのかは分からない。Mensch氏のいう監視や試験が、実際のサービスでどこまで機能するのかも独立した検証が必要だ。新モデルの性能や、安全対策の結果も同様である。

次に見る点

次のモデルが本当に公開されるか、第三者が安全性と性能をどう評価するかが焦点になる。AIが外部サイトで動く場合の監視方法、事故時の責任、欧州での規制がどう整うかも、今回の発言を判断する材料になる。