法律情報

弁護士　溝上 武尊（弁護士法人HIRAKU）

• EU AI法50条の透明性義務が2026年8月2日から適用され、企業はAIシステムの種類や利用方法に応じた対応を求められます。
• 透明性義務は一律の「AI生成表示義務」ではなく、対象となるAIシステムや義務主体、義務内容が条項ごとに異なります。
• 欧州委員会はガイドライン、Q&A及びCode of Practiceを公表し、透明性義務の具体的な解釈や実装方法を示しています。

1.  はじめに

EUでは、世界初の網羅的なAI規制法として、2024年にAI法（Regulation (EU) 2024/1689。以下「EU AI法」といいます）が成立し、同年8月以降、各規定について段階的に適用が開始されています。

このうち、50条が定める透明性義務（Transparency obligations）は、2026年8月2日から適用が開始されました。また、これに関連して、欧州委員会は、50条の解釈及び適用について説明するガイドラインを採択するとともに、Q&A及びCode of Practiceを公表しています。

「EUではAI生成・加工コンテンツに表示義務が課され、違反すれば巨額の罰金が課される」といった報道も見られます。しかし、50条が定める透明性義務は、AI生成・加工コンテンツ一般に一律の表示義務を課すものではなく、義務主体や対象となるAIシステム、求められる措置が義務ごとに異なります。

本稿では、透明性義務の概要を紹介したうえで、ガイドライン等を踏まえ、実務上特に重要となるポイントを整理します。

2. EU AI法とは

EU AI法は、AIシステムのリスクに応じて規制内容を定める手法（リスクベース・アプローチ）を採用しています。

まず、人の意思決定を不当に操作するAI、脆弱な立場にある者を不当に利用するAI、ソーシャルスコアリングを行うAIなどは、原則として市場投入、サービス提供又は使用自体が禁止されます（第5条）。

次に、高いリスクを有すると考えられるAIシステムについては、「高リスクAIシステム」として厳格な適合性評価や品質管理が求められます。高リスクAIシステムには、大きく二つの類型があります。

第一は、EU AI法の附属書Ⅰに列挙されたEU整合法令（機械、玩具、医療機器、体外診断用医療機器、自動車、航空機等に関する製品安全法令）の対象製品に組み込まれるAIシステムです。これらの製品について当該法令により第三者による適合性評価が必要となる場合には、そのAIシステムは高リスクAIシステムに該当します。

第二は、EU AI法の附属書Ⅲに列挙されたAIシステムです。具体的には、

• 生体認証、感情認識
• 重要インフラ（交通、水道、ガス、電力等）
• 教育・試験
• 採用選考、人事評価、従業員管理
• 与信審査、生命保険・医療保険の引受け
• 法執行
• 出入国管理・難民審査
• 司法

などの分野で使用される一定のAIシステムが含まれます。

これに対して、高リスクAIシステム以外のAIシステムについては、高リスクAIシステムのように厳格な規制には服さないものの、本稿で取り上げる透明性義務が適用されます。

EU AI法はEU域内の事業者にのみ適用されるものではありません。AIシステムの提供者又は導入者がEU域外に所在していても、そのAIシステムが生成した出力がEU域内で使用される場合には、EU AI法の適用対象となります（2条1項c）。

3. 透明性義務の概要

50条は、主として以下の4種類の透明性義務から構成されています。これらの義務が履行されることにより、ユーザが十分な情報に基づいた判断を下し、AIに対する信頼や依存の度合いを調整し、誤情報や欺瞞を回避できるようになることが期待されています。

条項	対象AI	義務主体	義務の概要
1項	対話型AI	提供者	AIとの対話である旨を通知する義務
2項	画像、動画、音声又はテキストを生成・加工するAIシステム	提供者	コンテンツに機械可読な識別情報を付与しAI生成・加工である旨を検出できるようにする義務
3項	感情認識・生体分類システム	導入者	システム運用を通知する義務
4項	ディープフェイク及び公益上の事項のAI生成・加工テキスト	導入者	AI生成・加工である旨を開示する義務

50条の理解にあたっては、義務主体の違いに留意する必要があります。例えば2項は、AIシステムの提供者（provider）に対して、AI生成・加工コンテンツについて機械可読な識別情報を付与できるよう求める規定です。他方、4項は、AIシステムの導入者（deployer）に対して、ディープフェイクや公益上の事項についてAI生成・加工である旨を表示する義務を課すものです。

提供者と導入者は、それぞれ以下のとおり定義されています（EU AI法3条3号・4号）。

提供者：AIシステム又は汎用AIモデルを開発し、又は開発させ、自らの名称又は商標の下で、有償・無償を問わず、これを市場に投入し、又はAIシステムを供用する自然人、法人、公的機関、機関その他の団体

導入者：個人的かつ非業務的な活動の過程でAIシステムを使用する場合を除き、その権限の下でAIシステムを使用する自然人、法人、公的機関、機関その他の団体

したがって、透明性義務は対象AIと義務主体の両面から限定されており、「AIを利用して作成した資料には全てAIで作成した旨を表示しなければならない」といった理解は正確ではありません。

透明性義務は、2026年8月2日から適用されていますが、同日以降、対象となる全てのAIシステムは市場投入日がそれより前であっても透明性義務を遵守する必要があります。

なお、50条3項は、感情認識システム及び生体分類システムに関する透明性義務を定めています。生成AIに関する規律とは性質が異なるため、本稿では1項、2項及び4項を取り上げます。

4. 対話型AIシステム（50条１項）

50条1項は、人と直接対話するAIシステムについて、提供者に対して、ユーザがAIと対話していることを認識できるようにすることを求めています。

ガイドラインによれば、この義務の対象となるのは、AIチャットボット、AI音声アシスタント、AIアバターなど、自然人と直接コミュニケーションを行うAIシステムです。一方で、従来の産業用ロボット、レコメンドシステム、翻訳ツール、スパムフィルタなど、ユーザとの対話を目的としないAIシステムは通常対象となりません。

もっとも、AIとの対話であることが明らかな場合には、この義務は適用されません。ガイドラインでは、専門家や特定の分野に精通したユーザ向けのAIシステムは明白性を認めやすいと整理されています。

AIとの対話である旨の通知は、遅くとも最初のやり取りの開始時点で行われる必要があります（50条5項）。通知の形式は法定されていませんが、ガイドラインでは、「現在、AIシステムとやり取りしています」といったテキストによる開示や、「これは AI を搭載したアシスタントです」といった音声による開示がベストプラクティスとして挙げられています。他方、利用規約等に記載するだけでは不十分であると指摘されています。

企業においては、想定されるAIシステムのユーザ層の属性に応じて、通知の方法や内容を検討する必要があります。

5. コンテンツを生成するAIシステム（50条2項）

50条2項は、合成された画像、動画、音声又はテキストを生成又は加工するAIシステムについて、提供者に対して、その生成・加工コンテンツに機械可読な識別情報を付与するとともに、人工的に生成・加工されたものとして検出可能な状態とすることを求めています。

ガイドラインによれば、「機械可読」とは、ソフトウェアが人間の介入なしに識別情報を容易に認識できることをいいます。具体的には、電子透かし、メタデータ、暗号化などが想定されています。そして、当該コンテンツに触れる者が業界標準の検出ツールを使って、当該コンテンツが人工的に生成・加工されたものであることを検出できなければなりません。

これらの技術的手段は、有効性、相互運用性、堅牢性、信頼性という4つの品質要件を満たしている必要があります。

独立した専門家によって作成されたCode of Practiceは、法的拘束力を有するものではありませんが、本項の義務について、機械可読なマーキングの実装方法、それらを検出する仕組み、相互運用性や堅牢性を確保するための具体的な措置などを示しています。このCode of Practiceは欧州委員会により適切性が評価されており（欧州委員会の意見）、これに署名した事業者は、本項の義務の遵守を証明するにあたり、Code of Practiceの遵守を根拠とすることができます。

なお、AIシステムが標準的な編集のための補助機能を果たす場合や、導入者が提供した入力データを実質的に変更しない場合には、本項の義務が課されません。ガイドラインによれば、文法修正、スペルチェック、翻訳、フォーマット返還、軽微なトリミング等がこれに当たります。

企業においては、Code of Practiceも参照しながら、実装する識別手段が法の求めるレベルに達しているかどうかを検証する必要があります。

6. ディープフェイク（50条4項前段）

50条4項は、提供者ではなく導入者に課せられる義務を定めています。

50条4項前段は、ディープフェイクについて、導入者に対して、当該コンテンツが人工的に生成・加工されたことを開示する義務を定めています。

ディープフェイクとは、実在の人物、物体、場所、団体又は事象に酷似し、人に対して本物又は真実であるかのように誤認させるような、AIによって生成・加工された画像、音声又は動画コンテンツをいいます（3条60号）。「本物又は真実であるかのように誤認させる」ことがディープフェイクの本質的特徴です。ガイドラインによれば、ディープフェイクの肯定例として、政治家に似た人物が演説するAI生成動画などがあり、否定例として、動物が人間の言葉で議論するAI生成動画などがあります。

一方、芸術作品や風刺作品については、表現の自由や芸術の自由との調和を図る観点から緩和措置が設けられています。

開示方法について法文上は限定されていませんが、ガイドラインでは、特定の技術的ツールや特別な操作なく人が理解・認識できるものでなければならないと述べられています。Code of Practiceでは、この開示義務に対応したアイコンセットが用意されており、これと同等のアイコンの使用を約束する必要があります。

企業においては、AI生成・加工の画像や映像を使用する場合には、ディープフェイクに該当するかを検討し、Code of Practiceも参照しながら、適切な開示を実施する必要があります。

7. 公共の利益に関するAI生成・加工テキスト（50条4項後段）

50条4項後段は、公共の利益に関する事項について公衆に情報提供する目的で公表されるAI生成・加工テキストについて、当該テキストが人工的に生成・加工されたことを開示する義務を定めています。

ガイドラインによれば、「公共の利益」とは、政治、司法、公衆衛生、公共の安全、環境保護など、社会一般に関わる事項を指します。また、経済や科学、文化などについても、公の議論の対象となるものであれば公共の利益に該当し得ると説明されています。

他方で、広告や商品説明は「公共の利益」に該当しない例として挙げられています。ただし、それらに含まれる健康、消費者安全、サステナビリティなどに関する主張は、公共の利益に関する事項と評価される可能性があることも示されています。

さらに、AI生成テキストであっても、人が編集上の責任を負い、十分な人的レビューを行っている場合には、表示義務が適用されない場合があります。

開示方法については、ディープフェイクと同様の方法が求められます。

このように、「AIを使用して文章を作成した」という事実だけで直ちに本項の開示義務が生じるわけではありません。特に一般的な広告や商品パンフレットは通常対象外と考えられますが、健康情報、環境性能など社会的影響の大きい情報をAIにより生成・加工する場合には、ガイドラインの考え方を踏まえた検討が必要となります。

8. 罰則

50条が定める透明性義務に違反した場合は最大1,500万ユーロ又は全世界の年間売上高の3％のいずれか高い方の罰金が科されます。ただし、スタートアップを含む中小企業については、いずれか低い方の金額が上限となります。

9. おわりに

特にEU向けに生成AIサービスやAI搭載製品を提供する企業は、自社が提供者又は導入者のいずれに該当するかを確認し、必要な透明性措置を講じることが重要です。

今後、当局による執行が本格化し、具体的な違反事例の蓄積も進んでいくものと思われます。また、ガイドラインは、その末尾において、技術や社会の進展、欧州司法裁判所の解釈等を踏まえて見直されることが宣言されています。企業においては、執行の状況やガイドライン見直しの議論を引き続き注視していく必要があります。

本法律情報は、知的財産・企業法務に関する一般的な情報を分かりやすくお伝えすることを目的としています。掲載内容は執筆時点の法令、裁判例、ガイドライン等に基づいていますが、その後の法改正や実務の動向により内容が変更される場合があります。また、個別具体的な事案については、事実関係によって結論が異なることがあります。本法律情報は法的助言を提供するものではありませんので、具体的なご相談がございましたらお気軽にお問い合わせください。