2025年2月2日、欧州連合（EU）の「AI法案」が施行され、AIの利用に関する新たなルールが導入されました。 この法案は、AI技術のイノベーションを支えつつ、人々の健康、安全、基本権、民主主義、法の支配、環境保護を守ることを目指しています。

特に注目すべきは、AI法案第5条で定められた「禁止されたAI慣行」です。欧州委員会が発表したガイドラインをもとに、この禁止行為の概要と、企業や開発者が知っておくべきポイントをわかりやすく解説します。

欧州AI法案の目的とリスクベースのアプローチ

AI法案は、以下の目標を掲げています。

• 内部市場の機能向上：EU内でのAI技術の統一ルール確立
• イノベーションの支援：技術革新を妨げず、競争力を維持
• 人間中心で信頼できるAIの促進：倫理的で安全なAIの普及
• 有害な影響の防止：健康、安全、基本権、環境へのリスク軽減

これを実現するため、AI法案は「リスクベースのアプローチ」を採用。 AIシステムのリスクレベルに応じて規制を適用し、特に重大なリスクを伴う行為を第5条で禁止しています。 このガイドラインは、法的拘束力はないものの、禁止行為の解釈や適用を具体化し、企業や当局に実務的な指針を提供します。

AI法案第5条：禁止されるAIの使い方

AI法案第5条では、以下のようなAIシステムの使用が明確に禁止されています。 これらは、個人の権利や自由を脅かす可能性が高いと判断されたものです。

1. 操作的AIの使用禁止

• 📌 概要：個人の潜在意識を操作したり、脆弱性を悪用したりするAIシステムが対象。たとえば、ディープフェイクやVR技術を使った欺瞞的な操作、子供や高齢者を標的にした詐欺的メッセージ生成などが禁止されます。
• 📋 例：子供向けSNSのアルゴリズムが過剰なスクリーンタイムを誘発する、高齢者を騙す「デジタル孫トリック2.0」などが該当。
• 🔑 ポイント：正当な説得（透明で事実に基づく）とは異なり、個人の自治を損なう隠れた操作が禁止されます。

2. ソーシャル・スコアリングの禁止

• 📌 概要：個人の社会的行動や特性（性別、民族、収入など）に基づく評価で、不当な不利益や差別を引き起こすAIシステムを禁止。人間の尊厳やデータ保護を守ります。
• 📋 例：監視カメラのデータで個人の「社会的信頼度」をスコア化し、就職や融資で不利な扱いをするケース。
• ⚠️ 例外：クレジットスコアリングなど、法律に基づく比例的な評価は許可。

3. 犯罪リスク評価の禁止

• 📌 概要：個人特性に基づく犯罪リスクの予測（プロファイリング）が禁止。ただし、客観的事実に基づき人間の判断を補助する場合は例外。
• 📋 例：AIによる「犯罪予測」が個人の自由を侵害するケース。

4. 無差別な顔認識データベースの作成禁止

• 📌 概要：インターネットや監視カメラから顔画像を無差別に収集し、顔認識データベースを作成する行為を禁止。プライバシー侵害を防ぎます。
• 📋 例：公共カメラの映像で顔認識データベースを構築する行為。

5. 感情認識AIシステムの禁止

• 📌 概要：職場や学校での感情認識AI（例：顔の表情や声から感情を推測）が禁止。医療や安全目的は例外。
• 📋 例：職場での従業員の感情監視システム。

6. 生体認証カテゴリー化の禁止

• 📌 概要：人種、宗教、性的指向などを生体認証データ（顔の特徴、DNAなど）で分類するAIシステムを禁止。
• 📋 例：顔の特徴で政治的意見を推測するシステム。

7. リアルタイム遠隔生体認証識別システムの禁止

• 📌 概要：公共の場での刑事訴追目的のリアルタイム顔認識が禁止。ただし、誘拐被害者の捜索やテロ防止など「絶対に必要」な場合は例外。
• 📋 例：空港でのリアルタイム顔認識による容疑者特定（許可される場合あり）。

適用範囲と例外

AI法案第5条は、AIシステムの市場投入（初回提供）、運用開始（EU内での使用）、使用（ライフサイクル全体）に適用されます。

主な対象は、AIの提供者（開発者やブランド保有者）とオペレーター（自己責任で使用する者）です。

ただし、以下の場合は適用外となります。

• 🛡️ 国家安全保障・防衛・軍事目的：これらの目的専用のAIシステム。
• 🔬 研究開発：市場投入前のテストや開発活動。
• 👤 個人的な非職業的使用：経済的利益や犯罪に関わらない個人使用。
• 🔓 フリー・オープンソースライセンス：ただし、高リスクAIや禁止行為に該当する場合は適用。

また、他のEU法（例：GDPR）と連携し、禁止行為の例外が他の法律違反を正当化することはありません。

違反のペナルティと執行

AI法案の執行は、加盟国の市場監視当局（ドイツでは連邦ネットワーク庁が担当予定）や欧州データ保護監督官が行います。 違反した場合、最大3,500万ユーロまたは前年度世界売上の7％の罰金が科される可能性があります。 企業にとって、コンプライアンスは極めて重要です。

企業や開発者への実務的アドバイス

AI法案第5条の禁止行為に対応するため、以下のポイントを押さえましょう。

• 🔍 AIシステムのチェック：開発・運用するAIが禁止行為に該当しないか確認。
• 👥 脆弱なグループへの配慮：子供、高齢者、社会的弱者向けのAIには追加の保護措置を。
• ⚖️ 法的アドバイスの活用：規制の複雑さに対応するため、専門家の意見を取り入れる。
• 📚 判例の注視：欧州司法裁判所や国内裁判所の動向をチェック。

今後の展望

欧州委員会のガイドラインは、AIの倫理的かつ安全な利用を確実にするための第一歩です。

今後、AI法案はさらに発展し、具体的な適用事例や判例が蓄積されるでしょう。

企業や開発者は、規制の動向を注視し、コンプライアンスを徹底することで、信頼されるAI技術の普及に貢献できます。

まとめ

欧州AI法案は、AIの可能性を最大限に引き出しつつ、個人の権利と社会の安全を守るための包括的な枠組みです。

特に第5条の禁止行為は、AIの倫理的な利用を確保する鍵となります。

企業や開発者は、ガイドラインを参考に、リスクを最小限に抑え、信頼されるAIシステムを構築しましょう。