政府、高性能AI暴走に罰則検討 悪質事業者に対抗手段へ法改正
政府が高性能人工知能(AI)が引き起こすリスクに対処するため、AI関連事業者に安全確保を義務付け、罰則を新設する方向で検討していることが11日分かった。AI法制度を議論する非公開の作業部会で確認した。年末までに法改正の内容を含めた制度見直しの全体像を示す。サイバー攻撃への悪用や暴走といった重大な脅威に対し、協議に応じないような悪質な事業者に政府として対抗手段を確保する狙いがある。
AI事業者は研究から基盤モデルの開発、利用者向けサービスの展開まで細分化している。どこまでを対象にすべきかは今後詰める。米国の巨大IT企業を含めた場合は、国内の利用者保護に向けた実効性の確保が問われそうだ。
問題が起きても協議に応じない事業者に対しては、国が必要に応じて強制力のある命令を出す。違反した場合に罰則を適用することを想定している。罰則は高性能なAIによる事案に絞る方向だ。
米国では開発中の先端AIが意図せず不正アクセスをしたといった想定外の危険性が報告されている。最近のサイバー攻撃の多発にもAIの悪用が疑われている。
