• トレンドレポート

昨今のAI技術の開発や普及により、様々な製品にAI技術が搭載され、我々の生活や労働環境は大きな変化を迎えようとしている。

AI技術の普及が進む中、欧州連合（以下EU）は、各種製品の変化やそれを販売する事業者の性質の変化に対応するため、EU加盟各国に製造物責任法や製品安全規制の整備方針を示し、一般製品安全規則や改正製造物責任指令が発効された。また包括的なAI規制であるAI法の成立やAIによる損害の法的責任を定めたAI責任指令の検討が進められた。

一方で、EU以外の各国はAI技術に特化した製品安全、製造物責任法に関する法整備は発展途上であり、基準やガイドラインの提示にとどまり、具体的な対応に関しては各事業者に委ねられている。

本レポートでは、EUの動向をベースとしてAIに関わる製品安全・製造物責任の国際動向について、具体的事例や関連法案などを交えながら紹介する。

本レポートは、SOMPOリスクマネジメントが2025年7月末までに実施した周辺動向調査の結果を取りまとめたものである。AI分野は動向の変化が著しいため、記載内容は今後更新される可能性があることをご了承されたい。

EUの動向

EUでは直接的ではないもののAIに対応した製品安全・製造物責任に関する法整備が進んでおり、GPSRや改正PL指令の発効によってAI関連製品に関わる事業者などに対する責任が示されている。さらに、AI法によってAIに関する包括的な定義、規制が定められ、より具体性を持った法整備も進められている。

GPSR、改正PL指令とAIの関連性

GPSRとAIの関連性

EUにおける消費者用製品の安全要件について包括的に規定した一般製品安全指令（General Product Safety Directive　以下GPSD）が改正され、2024年12月に一般製品安全規則（General Product Safety Regulation　以下GPSR）^※1として適用が開始されている。GPSDは「指令（Directive）」であり、EU加盟各国はこの指令に基づき、各自で国内法を整備することとなっていた。一方でGPSRは「規則（Regulation）」であるため、すべてのEU加盟各国に直接適用され、国内法と同様の拘束力を持つ点が大きな特徴である。

このGPSRでは、以下に示す製品の定義を拡大することや、安全性評価などを義務付けることで、AIに関する安全要件をカバーすることとなった。

改正PL指令とAIの関連性

EUの加盟各国における製造物責任（PL）法については、欧州委員会から出された製造物責任指令（以下PL指令）によって包括的に規定されている。加盟各国はこのPL指令を基にそれぞれ自国向けにPL法を整備することとなっている。欧州委員会はPL指令についても技術の進歩や製品の変化に応じた改正を検討、2024年12月には改正（Product Liability Directive　以下改正PL指令^※3）が発効され、段階的に適用が開始されており、各国は2026年12月までに本指令を国内法として移行させる必要がある。

この改正PL指令では、GPSRと同様、製品の定義が拡大され、これに伴う責任対象が明確化されることで、AIとPLとをより具体的に関連付けることとなった。

欧州AI法

欧州AI法の概要

欧州理事会および欧州議会は、人工知能（AI）に関する包括的な法的枠組み（欧州AI法^※5）について、2024年2月に加盟国の全会一致で可決し、3月には欧州議会でも採択が決議された。2024年8月には発効されており、段階的に適用が開始されていくことを想定している。このAI法は、欧州域内の市場で使用されるAIシステムの安全性確保や基本的権利の保護など、共通の価値観形成を目的としたものとされている。

AIシステムの定義

欧州AI法では、この規則の対象となるAIシステムを以下のように定義している。

AI法では、AIシステムの特長を「推論の能力（capability to infer）」とし、それを実現する手法として機械学習（machine learning）、ロジックベース(logic-based)、ナレッジベース(knowledge-based)のアプローチを挙げ、これらに基づいたシステムを「AIシステム」として位置付けている^※6。

禁止されるAI行為

AI技術は、活用方法によっては人の行動に悪影響を与えたり、自由な意思決定を阻害する可能性があり、この場合は重大な人権侵害となる恐れがあると言える。そのためAI法では、実装が禁止されるAIの特長についても以下のように定められている。

リスクベースアプローチ

AI法では、対象となるAIシステムで想定されるリスクに応じて、４つのリスクレベルを設定している。なかでも「容認不可リスク」、「高リスク」については、厳格な規制が課される。これらは禁止されないものの、適切な管理（リスク管理、データガバナンス等）や人間による監視、透明性やセキュリティの確保等、所定の要件を満たす必要がある。

欧州AI責任指令案

欧州AI責任指令案^※9は2022年に提案されたものであり、AI法が、AIシステムの要件を規定しているのに対して、AIシステムに起因する法的責任を定めようとするものであった。これはGPSRや各製品個別の規則・指令がそれぞれの製品での満たすべき要件を規定し、製造物責任に基づく企業の法的責任については、PL指令で規定（することを各国に求める）されているのと同じ構図と言える。

なお、本指令案については、AIに関する規制緩和が進む世界的情勢を考慮し、さらなる複雑化を推し進める要因になるとして2025年に撤回されている。

撤回とはなったが、欧州ではどのような発想があったかの参考となると考え、このAI責任指令案の特長を以下にまとめる。

英国の動向

英国においてはAIに特化した製品安全・製造物責任（PL）に関する新たな法律や条文は制定されていない。2020年にEUを離脱したため、上述のEUの規制に関しても対象外となる。英国独自の動向としては、自動運転技術について規定した自動運転車両法2024^※12の制定があげられる。

自動運転車両法2024の概要

自動運転車両法2024においては、自動運転車両に関する責任主体に関して細かな規定がされ、安全基準や自動運転に関するマーケティングに関しても規定がされることとなった。

本法においては、自動運転機能を持つ車両の使用者は、自動運転機能作動中に生じた交通違反行為（信号違反、一時停止などを含む）に関して責任は問われないことが定められている。一方で、運転方法以外で生じうる使用者の責任（シートベルトの着用確認や駐車違反、通行料支払い、自動車保険への加入^※13など）は使用者が負うものとされ、いつでも自動運転から手動制御に切り替えることができる状態（無免許、携帯電話の使用、睡眠はあってはならない）であることが求められる。例外として、運転者を一切不要とする自動運転車両に関してはこれらの責任は求められない（当該サービス利用者も責任を負わない）。

車両の使用者に責任が問われない場合、その責を負うのは認可自動運転主体（ASDE：Authorised Self-Driving Entity）^※14となる。このほか、認可自動運転主体は自身が主管する自動運転機能について安全かつ合法に動作するよう措置を講じる責務を常に負うこととなる。

本法に先んじて自動運転および電気自動車両法2018^※15が施行され、自動運転によって生じた交通違反や事故における保険会社の役割、立ち位置、支払保険金の求償権についても規定されている。そのため、実際に自動運転が関与する損害等が発生した際には第一に保険会社がその賠償責任を負い、自動運転機能の提供者に対して求償するといった流れが考えられる。

日本の動向

日本においてはAIに特化した製品安全・製造物責任（PL）に関する新たな法律や条文は制定されておらず、検討段階にある。現在は経済産業省が発行する「AI事業者ガイドライン」^※16にてAI関連事業者への、AI開発・提供・利⽤にあたって必要な取組についての基本的な考え方を示し、事業者側の自主的な取り組みを推進するにとどまっている。

しかし、同ガイドラインでは、AIの性能の限界や不確実性を前提に、開発・提供者にはアルゴリズムの透明性、バグ・誤作動への対処、説明責任、利用者への注意喚起などが求められており、PL法の「設計上の欠陥」「警告表示の欠陥」に対応しうる観点が含まれている。直接的な賠償責任を示したものではないものの、企業責任の判断の一助になり得る内容となっている。

AI事業者ガイドラインの概要

AI事業者ガイドラインにおいては、開発者、提供者、利用者に分けて基本的指針が、高度なAIシステム開発者には追加指針が示されている。以下に各事業者の定義を示す。

本ガイドには、製品安全・製造物責任（PL）に関する直接的な指針は示されていない。一方で、企業の賠償責任を考える際に関連しそうな内容が明記されている。以下に、各事業者におけるは製品安全・製造物責任（PL）に関連する指針を示す。

米国の動向

米国においては、連邦政府として、AIに特化した製品安全・製造物責任（PL）に関する新たな法律や条文は制定されていない。そもそもAIに関する法案の多くが未成立であり、現在は、行政命令、フレームワークを用いてAIの安全と責任の指標を⽰すにとどまっている。また、政権交代の影響もあり、規制を強化するのではなく、規制緩和によって技術発展を促すという動きがみられる。

州単位で見てもAIに特化した製品安全・製造物責任（PL）に関する新たな法律や条文は制定されていない。一方でディープフェイク^※22やAIを用いた欺瞞行為に関しては、州独自の法案が成立・施行されるなどの動きがみられる。

連邦政府の動向

NIST AIリスクマネジメントフレームワーク (NIST AI Risk Management Framework)の概要

NIST AIリスクマネジメントフレームワーク^※23は、2023年に米国商務省の国立標準技術研究所（NIST）によって発表され、AIシステムの設計、開発、展開、使用において、リスクを管理し、信頼性の高い責任あるAIの発展と使用を促進することを目的としている。

本フレームワークにおいても、製品安全・製造物責任に特化した明確な指標などは示されておらず、広範なリスクに対するリスク管理のプロセスなどが規定されている。大枠は従来のリスク管理プロセスを採用しており、AI独自が有するリスク（学習データへの依存性、従来ソフトウェアを超える複雑性、社会への影響度など）を組み合わせた構成となっている。

AIの安全・セキュリティ・信頼性に関する行政命令（Executive Order 14110）の概要

AIの安全・セキュリティ・信頼性に関する行政命令（Executive Order 14110）^※24は2023年に発令されたものであり、AIの安全とセキュリティに関する基準確立、国民のプライバシー保護、公平性と市民権の推進、消費者と労働者の擁護、イノベーションと競争の促進、米国のリーダーシップの推進などを8つの原則を示していた。

しかし本大統領令は2025年の政権交代に際し、撤廃された。新たに規制緩和、イノベーション、開発促進などに重きを置いた大統領令が発令されている。

州の動向

州単位で見ると、多くの州が州独自のAI関連法案を検討しており、法案提出の段階まで進んでいる（多くはディープフェイクや著作権侵害など個別のAIの問題点に関して制定されている）。この中でもコロラド州は、全米初の包括的なAI法としてコロラド州AI法^※25を制定、2026年2月に施行を予定している。

コロラド州AI法

コロラド州AI法は2024年に制定され、2026年から施行予定の州法である。AIによる差別や既知または予見可能なリスクから消費者を保護することを事業者に義務付ける法律となっている。

コロラド州AI法ではAI関連の製品安全・製造物責任に特化した明確なルールは示されていない。しかしながら本法への違反は、不公平取引慣行に該当するとされ、違反が確認された場合は法的措置をとることが可能であることが定められている。具体的には下記内容が事業者の責任として示されている。

本法においては事業者側の免責事項が設定されており、AIシステムが法に準拠していないことを発見・改善した場合や前述のNIST AI リスクマネジメントフレークワークのほか、公共性の高いフレークワーク、他の優先法令に準拠していた場合は、法的措置に対して抗弁が認められるとされている。^※27

中国の動向

中国においてはAIに特化した製品安全・製造物責任に関する法整備は未整備の状態であり、生成AIサービス管理暫定弁法や国家標準の制定などによる広範なリスクに対する安全性確保を図っている。

生成AIサービス管理暫定弁法の概要

生成AIサービス管理暫定弁法^※28は2023年に発行され、中国国内のAIサービスに関する管理の暫定措置について定めている。冒頭記載の通り、本法には製品安全、製造物責任に関する具体的なルール等は定められておらず、国家安全保障やサイバーリスク、知的財産権などに関するルールが主に定められている。一方で、未成年ユーザーの使用依存防止や生成された画像、ビデオなどのコンテンツに関してはマークをつけることを定めるなど、EUを除く他国と比べてやや具体的なルールが定められている。

また、違反した場合には是正措置が求められること、是正措置が不可または拒否された場合、サービス停止、法的処罰が下されること、事業者の行為が犯罪に資する行為となった場合は刑事責任にも問われる旨も定められている。

国家人工知能産業総合標準化体系構築ガイドライン（2024年版）の概要

中国においてはAIに関する国家または業過標準に関するガイドライン（国家人工知能産業総合標準化体系構築ガイドライン（2024年版））^※29を発表している。文書の中で、中国は2026年までに50以上の国家または業界標準を策定することを提案している。

「AI」に対するPL責任の想定

中国においては、PL責任に関連する法律として、民法（1202条〜1207条）、製品品質法、消費者権益保護法が存在しているが、現状の「製品」の定義においては、ソフトウェアやAIに対して何も言及していない。そのため、AI関連製品にPL責任が及ぶか否かについては、個別具体的な状況に応じた法解釈がなされることとなる。

たとえば、AIがハードウェアに組み込まれ、自動運転車やスマート家電の制御に用いられている場合、そのAIは製品の一部とみなされ、ハードウェア全体として「製品」性を認められる可能性が高い。一方、クラウドベースの生成AIや純粋なソフトウェアとして提供されるAIについては、現在の法制度上、「製品」としての法的位置づけが曖昧であり、PL責任ではなく契約責任や一般不法行為責任の枠組みで処理される可能性が高い。

また、AI固有の特徴である自律性や予測困難性は、設計や警告の欠陥の認定を難しくする要因となりうる。しかし中国は、消費者保護を重視する傾向が近年強く、被害者救済の観点から、製造者やサービス提供者に対して広く説明責任や注意義務を課す判断がなされる可能性がある。今後、AIの振る舞いに対する責任論がPL領域にも波及する可能性もあり、立法や司法判断の動向が注目される。

AIによって生じた損害に対する司法判断および和解事例^※30

AIに対応した製品安全・製造物責任に関する法整備が検討される中、すでに市場にはAI搭載製品、サービスが普及しつつある。件数はわずかながらもAIが原因と思われる事故、損害は発生しており、それらに対する訴訟が提起され、判決も下されている。また、訴訟には至らないものの、和解にて早期解決を図ったケースもある。以下に2事例紹介するが、いずれも米国の事例である。米国では、判例法主義（過去判例をもとに判決を下すという考え）がとられていることもあるが、現在の法体系でも解決は可能であることがうかがえる。

対話型AI自殺訴訟に関する司法判断

2023年には米国フロリダ州では対話型AIを使用し、精神的被害を負った少年が自殺してしまった事故を発端とした訴訟が提起されている。本訴訟では対話型AIサービスの提供者とその関係会社が被告として提起された。

被告側は、AIによって出力されたメッセージについては合衆国憲法第一条に規定される表現の自由に該当するものであるとして、対話型AIより出力されたメッセージに製造物責任の法理は適用されないという反論を行ったが、判事は大規模言語モデルから出力されたメッセージを表現として認めることはし難いとの判断を示し、当該対話型AIを「サービス」ではなく「製品」として判断した。

従来、ゲームやSNSプラットフォームといった無体物から発する情報などにから生じた危害などについては、前述の表現の自由により免責とされ、被告側も類似の判例を用いて反論を行ったが、当該対話型AIは「表現」をいう「サービス」ではなく「製品」として解釈されることとなった。

本訴訟は現在も係争中であるため、最終的な判決は定かでは無いが、AIによって生じた危害に対する賠償責任を製造物責任として認めた事実は今後のAI関連訴訟に大きな影響を与えうると考えられる。

自動運転タクシー交通事故に関する和解事例

2024年には米国カリフォルニア州では自動運転タクシーが歩行者に衝突し、長距離にわたってひきずるといった事故が発生した。

詳細な情報は現時点で得られていないが、本件事故は和解により早期に解決されることとなった。この和解後リコールが実施され、最終的に事業者は事業を終了するまでに至ったため、仮に訴訟となっていた場合、事業者側は非常に不利な立ち位置であったことがうかがえる。

AI製品という見方よりは、ソフトウェア組み込み型製品に関する事例とみるのが正しいとも考えられるが、AIソフトウェアが下した判断に対する責任を、最終的にはサービス提供者が負ったという点で、今後の自動運転関連訴訟等に大きなインパクトを与えうる事例であったと考えられる。

おわりに

本レポートでは、近年加速するデジタル化やAI技術の導入に伴い、法的枠組みも変革が求められる中、世界に先駆けて立法手続きを推し進める欧州の状況をはじめ、各国の状況を紹介した。欧州を除く各国の法整備はいまだ検討段階にあり、欧州でもAIに特化した責任指令に関しては、複雑化を推し進める要因になるとして撤回された。各国で立法手続きが進まない状況は、いまだ発展途上のAIに対し、規制を高めることが自国のAIの発展、イノベーションの障壁になってしまうことを考慮しての対応であることも一つの理由であると考えられる。また、「6. AIによって生じた損害に対する司法判断および和解事例」にあるようにすでに現在の法体系で対応可能であれば、新たに立法する必要がないとの見方もある。

一方でAIの進化は目覚ましく、AI技術が導入されることで製品の機能が大きく変化、設計段階では想定しえないリスクが生じる可能性がある。そのため、技術革新などが起こった場合は、従来とは違ったスピード感での規制強化や法整備が進む可能性が高い。

近年ではAI自体も多様化し、様々な企業が独自のAIを開発、競争も激化している。IoT製品のように今後、技術の発展に伴い各企業が独自に開発するAIが一般化し、それを搭載した製品の普及もさらに進むと予想される。AI利用サービスやAI搭載製品における設計や要件定義、デザインレビューの際には、各国の法整備の状況を踏まえたうえで、リスク評価と対策を行っていく必要があると考える。

SOMPOリスクマネジメントでは、今回紹介した欧州規制の状況をはじめ、各種製品安全に関するレポート情報などを配信するサービス「PL・リコールクラブ」を提供している。定期的かつ体系的に外部情報を収集でき、自社製品に係るリスクも的確かつ迅速に把握するとともに、具体的な対策のヒントを得ることが可能である。このような情報を活用して、最新の情報を入手することで、適切な対策を講じていくことが重要と考える。