AIモデルの安全性を支える国際基準を提示
米オープンAIは21日、AIモデルの安全な開発を進めるため、世界で共通して利用できる技術基準を整えるよう求める提言を発表した。AIの進歩によって利用できる能力が拡大する一方、悪用や暴走につながる危険も高まっているとして、適切な開発速度を保つための安全上の枠組みが必要だとした。標準づくりでは、AI産業を先行する米国が中心的な役割を果たすべきだとの立場を示した。提言は、各国が個別の制度を構築するだけでなく、安全性を確認するための技術的な物差しを国際的に共有する方向を示している。
性能とリスクを測る評価項目の共通化求める
提言が重視したのは、AIモデルを評価する際の物差しを国際的にそろえることだ。モデルがどの程度の性能を持つのかに加え、どのような危険を伴うのかを判断するための基準を、各国政府や研究機関が連携して整備するよう求めた。事故に該当する事象の範囲や、発生時に求められる報告内容についても共通化を促し、各国が同じ前提でリスクを把握できる仕組みを目指している。オープンAIは、こうした技術基準を通じて、重大なAIリスクを抑えるために必要な対策を具体化する考えを示した。
脆弱性や安全対策を共有する国際的仕組みを提唱
オープンAIは、基準の作成だけでなく、重要な情報を国境を越えて共有する体制も必要だとした。安全保障に関わる懸念、AIシステムの脆弱性、安全確保に向けた先進事例などを報告し合う仕組みの形成を求めている。こうした連携については、開発企業への免許付与や公開前の強制的な審査よりも、航空や金融で用いられている国際的な技術ルールや連絡体制を参考にする考えを示した。事故や弱点に関する情報を関係機関で共有し、安全対策の事例も持ち寄ることで、国際的な安全確保につなげる枠組みを提示した。
24日の米中首脳会談にも対話進展への期待示す
中国とのAI開発競争が強まる中でも、オープンAIは安全性をめぐる対話の必要性を指摘した。24日に予定される米中首脳会談ではAIの安全が話し合われる見通しで、同社はこの分野で両国間の対話が進むことに期待を示した。競争関係にある国同士でも、安全上の課題について意思疎通を行うことを前向きな一歩と評価している。開発競争とは別に、リスク管理の分野で対話を続けることを重要な取り組みとして位置付けた。
競争下でも安全分野における協力継続を求める
国際的な標準づくりでは、米商務省のAI標準・イノベーションセンター、CAISIと、日本や韓国、欧州各国にあるAI安全機関が協力する形を提案した。オープンAIは、米国が主導的な立場を取らなければ、地域や国ごとに異なる制度が並立し、対立する枠組みに分かれる危険があると指摘している。各国の機関が評価方法、報告基準、情報共有の仕組みをそろえることで、AIの能力向上と安全確保を同時に進めるための国際的な基盤を築くよう求めた。米中間の対話も含め、国際的な協力を安全面の共通基盤づくりにつなげる姿勢を明確にした。
