人工知能の安全性の担保へ「生成AIの関連法整備／ガイドライン策定」最新動向

文章や映像などのデジタルコンテンツを自動作成する生成AIには、現時点において多くの課題も存在します。とくに著作権やプライバシーの侵害、フェイク映像・ハルシネーション（事実とは異なる情報や存在しない情報を生成する現象）などは、社会の混乱やAI発展の阻害につながりかねない問題と認識されています。これらの課題を解決して生成AIの安全性を担保するため、世界各国ではどのような法整備やガイドライン策定の動きがあるのでしょうか。最新動向を解説します。

---

生成AIをめぐる懸念点とは

文章や画像、映像の作成に広く利用されるようになった生成AI。現在はコンタクトセンター業務をサポートするチャットボットをはじめ、システム開発におけるプログラミングコードの自動生成やバグフィックス、新製品開発におけるアイデア出しやデザインといったビジネス活用も始まっています。

このように多くのポテンシャルを秘めた生成AIですが、一方ではさまざまな懸念や問題点も指摘されています。まず挙げられるのが著作権・知的財産権の侵害です。生成AIが学習するデータには、著作権で保護されたコンテンツも含まれる可能性があり、それがクリエイターやアーティストといった著作権者の権利を脅かすという指摘です。また個人情報を含むデータを学習した結果、クレジットカード番号や過去の医療記録といったセンシティブな情報を不適切に使用した結果が出力されるというプライバシー侵害の危険性も問題視されています。

さらに、誤情報や偽情報を意図的に盛り込んだフェイク映像やデマ記事を拡散することにより、社会的混乱を引き起こすおそれも懸念されています。偏ったデータの学習によって人種・性別・宗教などによる偏見や差別を助長することも考えられます。

これらは生成AIの学習過程がブラックボックス化し、結果の出力過程が不透明であるがゆえに起こり得る懸念です。生成AIのハルシネーションを抑止するためにも、透明性の確保や説明責任の完遂は喫緊の課題と言えます。

生成AIのガイドライン策定が始まる

生成AIの懸念や問題点を払拭するため、生成AIの関連法制定やガイドライン策定の動きが進んでいます。2023年5月に開催されたG7広島サミットでは、生成AIを含むAIシステムの発展に伴うリスク管理の必要性が議論され、11項目からなる「広島プロセス国際行動規範」が採択されました。

これを受け、生成AIに関連する法整備やガイドライン策定に向けた取り組みが世界中で始まりました。ここでは欧州連合（EU）、米国、日本の取り組みに加え、国際的な協調の動きも紹介します。

広島プロセス国際行動規範（出典：総務省）https://www.soumu.go.jp/hiroshimaaiprocess/

● EUの動き● AIの包括的な規制を目的に「AI法」が成立

EUでは2024年8月、AIの包括的な規制を目的とした「AI法」が成立・施行されています。この法律はAIシステムを4つのリスクレベルに分類し、それぞれに適切な規制を適用しています。

具体的には①人間の安全や基本的権利を脅かすと判断されるAIシステムを「許容できないリスク」として使用を禁止する、②司法・医療・交通などの重要分野で使用されるAIシステムを「高リスク」として厳格な要件を課す、③チャットボットのようなユーザーが直接対話するAIシステムを「限定的リスク」として透明性の確保を求める、④スパムフィルターなどリスクが低いAIシステムを「最小リスク」として特別な規制を設けない、としています。

この法令の特徴は、違反者に対する罰則も設けられていることです。例えば「許容できないリスク」に分類されるAIシステムを利用した場合には最大3500万ユーロ、または前年度の全世界年間売上高の7％のいずれか高い方の制裁金が科されます。EU域内で事業を展開する海外企業（もちろん日本企業も含む）もAI法の適用対象となるため、自社のAIシステムが該当するリスクカテゴリーを確認しておく必要があります。

なお、EUはAI法の施行に伴い、禁止されるAIの使用例を詳細に定めたガイドラインも発表しています。ここにはインターネット上の情報を収集して顔認識データベースを作成するサービスなども含まれており、米国のトランプ大統領は「これらの規制は米国の技術企業を標的にしている」として懸念を表明するなど、国際的な対立も生じ始めています。

●米国の動き● トランプ政権発足により大幅な方針転換

米国では2024年9月、商務省産業安全保障局が最先端のAIモデルの開発者およびクラウドプロバイダーに対して、AI開発活動やセキュリティ対策、リスク評価結果などの詳細な報告を義務づける規則制定案を発表しました。この案は「AIシステムの安全性テスト結果を公開前に政府と共有する」という、バイデン前大統領が2023年に署名した大統領令に沿った動きとされています。

2024年10月にはバイデン前大統領がAIに関する国家安全保障覚書を発出。AIの進歩が国家安全保障と外交政策に重大な影響を及ぼすと想定し、「安全で信頼できるAIの開発」「民主主義的価値観に基づくAIの活用」「国際的なAIガバナンスの推進」に取り組むことを指示しています。

さらに2025年1月には、国土安全保障省が電力・水道、航空ネットワークといった重要インフラにおけるAI活用に関するガイドラインを発表。このガイドラインにはAIの安全性、人間中心の価値観との整合性、ユーザーのプライバシー保護、強固なセキュリティ対策などの必要性が盛り込まれています。同じく1月には米国著作権局から「AIによる生成物の著作権保護に関する包括的な報告書」が公表されました。この報告書にはAIが生成したコンテンツの著作権保護に関する指針が明確に示されています。

こうした動きの中でトランプ政権が発足すると、従来からの大幅な方針転換が図られます。トランプ大統領は2025年1月20日の就任初日、バイデン前大統領が署名したAIの安全性に関する大統領令を撤回。これによりAI開発者が安全性テストの結果を政府と共有する義務が解除されています。

トランプ大統領は現在、AIシステムの開発が「イデオロギー的な偏りや社会的アジェンダから自由であること」を目指す新たな大統領令の策定に取り組んでおり、AIの規制緩和によって民間のイノベーションを促進し、経済競争力と国家安全保障を強化する狙いがあると見られています。

●日本の動き● AI事業者ガイドライン（第1.01版）を公表

日本では2024年4月、経済産業省と総務省の協力により「AI事業者ガイドライン（第1.0版）」が公表されました。このガイドラインは既存のAI関連ガイドラインを統合し、新しいガイドラインとして取りまとめたもので、生成AIの普及に伴う急速な技術革新に合わせて大幅なアップデートが図られています。

新しいガイドラインでは、AIの開発・利用に関する基本的な考え方、AI事業者が遵守すべき事項が明確に示されています。とくに「AIの開発・利用において人権やプライバシーの尊重、差別の防止など倫理的な観点を重視すること」「AIシステムの安全性を確保し、予期せぬ動作や誤作動を防止するための措置を講じること」「AIの意思決定プロセスやデータ利用方法について、ユーザーや社会に対して透明性を持って説明すること」「関連する法令や規制を遵守し、社会的責任を果たすこと」が強調されています。

なお、このガイドラインは技術の進歩や社会の変化を見ながら、必要に応じて随時更新が行われる予定です（最新版は2024年11月の「第1.01版」）。

AI事業者ガイドライン（第1.01版）（出典：総務省）https://www.soumu.go.jp/main_sosiki/kenkyu/ai_network/02ryutsu20_04000019.html

●国際的な協調の動き● AI規制に関する国際条約を発効

AI関連の法整備やガイドライン策定の動きは、各国内の取り組みだけにとどまりません。2024年9月にはEU・米国・英国など6カ国が「人工知能と人権、民主主義および法の支配に関する欧州評議会枠組条約（仮称）」に署名するなど、国際的な協調の動きも活発化しています。

この条約では「AI技術が人権、民主主義、法の支配を尊重することを確保するため、各国が法的、行政的措置を講じること」「AIシステムのデータ保護、法的遵守、透明性に関するガイドラインに沿った措置を講じること」「AIの使用による有害な結果に対する責任を明確にし、プライバシーや平等の権利を尊重すること」などを法的拘束力込みで求めています。

日本は2025年2月に本条約に署名し、3月現在の署名国は11カ国となっています。

人工知能と人権、民主主義及び法の支配に関する欧州評議会枠組条約（仮称）の概要（出典：外務省欧州局政策課）https://www.mofa.go.jp/mofaj/files/100797912.pdf

さらに国際連合でも、AIに関する包括的なガバナンス戦略を推進しています。2024年9月には「人類のためのAIガバナンス」という報告書を公表。報告書には「国際的な科学パネルの設置」「AIガバナンスに関する政策対話の実施」「AI標準の交換メカニズムの構築」「AI能力開発ネットワークの創設」「グローバルAIファンドの設立」「グローバルAIデータフレームワークの策定」「国連事務局内にAIオフィスを設置」という7つの重要提言が記載されています。

こうした一連の生成AI関連法整備やガイドライン策定の動きにより、「著作権・知的財産権の保護強化」「公正性と倫理の重視」「透明性と説明責任の強化」「特定領域における厳格な利用制限・規制」などが実現され、生成AIをめぐる懸念や問題点は次第に解消していくものと期待できます。

さらに将来的には、人が関与しながらAIシステムによる業務自動化の利便性を享受できる「協調型AI」へと進化を遂げていくことでしょう。

※文中に掲載されている商品またはサービスなどの名称は、各社の商標または登録商標です。