OpenAI がプライバシー危機に直面: ChatGPT が致命的な嘘をでっち上げ、欧州規制当局が同社に責任追及
OpenAIのチャットボットChatGPTは、ユーザーに関する致命的な嘘をでっち上げたことで、再びヨーロッパでプライバシー侵害の苦情の中心となっている。この苦情は、プライバシー権擁護団体Noybが提出したもので、ノルウェー人男性が支援している。同男性は、ChatGPTが2人の子供を殺害し、3人目を殺害しようとしたという嘘の話をでっち上げたことを知って衝撃を受けた。
この事件は、ChatGPTが不正確な情報を生成するリスクを浮き彫りにし、データ保護とプライバシーの責任に関する大きな懸念を引き起こした。Noybは、ChatGPTの行動が 欧州連合の一般データ保護規則（GDPR）特に個人データの正確性と修正に関しては、細心の注意を払います。
「捏造殺人事件」が地元に衝撃
問題の男性、アルヴェ・ヤルマー・ホルメン氏は、ChatGPTと会話を交わし、AIに自身の情報を尋ねた際に愕然とした。AIは正確な情報を提供する代わりに、ホルメン氏が2人の息子を殺害し、3人目の息子を殺害しようとした罪で有罪判決を受けたという、全くの虚偽の話をでっち上げた。子供の数と性別についてはAIの回答は部分的に正確だったものの、捏造された殺人事件の話は深刻な不安を抱かせるものだった。
ノイブ氏は、子供たちの性別や家族の居住地など、特定の詳細が部分的に正確であったにもかかわらず、捏造された殺人申し立てがホルメン氏に多大な精神的苦痛を引き起こしたことを強調している。
プライバシーとデータの正確性: GDPR の厳しいテスト
Noybの法務チームは、GDPRは個人データの正確性を明確に規定しており、個人には不正確な情報が発生した場合に訂正を要求する権利があると主張している。OpenAIがAIに誤りがある可能性があると記載した短い免責事項は、OpenAIの責任を免除するものではない。OpenAIは虚偽の情報の生成について責任を負うべきである。
GDPRでは、データ管理者（この場合はOpenAI）は、処理するすべての個人データが正確であること、そして個人がエラーを修正するための明確なメカニズムを備えていることを保証する必要があります。しかし、ChatGPTは現在、虚偽の情報を修正する手段を提供していないため、同社が罰則を受ける可能性があります。実際、GDPR違反は、企業の全世界での年間売上高の最大41兆円相当の罰金につながる可能性があります。
欧州規制当局が法的責任を強化
この事件は、AI生成コンテンツに対する懸念が高まっている欧州の規制当局から大きな注目を集めている。Noybはノルウェーで苦情を申し立て、関係規制当局にOpenAIの慣行の徹底的な調査を要請した。他の関連訴訟も進行中である。例えば、 ポーランドのプライバシー規制当局 2023年9月以降、OpenAIのChatGPTに対して正式な回答を出していない。
一部の国はより慎重な姿勢を取っており、生成AIツールを全面的に禁止するつもりはないが、捏造された情報がもたらす危険性により、規制当局は姿勢を変える可能性がある。OpenAIはすでに複数の国で規制措置に直面しており、イタリアではデータ保護規制に完全に準拠していないとして同社は2023年に一時的に活動停止となり、1500万ユーロの罰金を科せられた。
AI製造の問題: 倫理から法的課題まで
この事件は、特に倫理的および法的観点から、情報の捏造に関して AI がもたらす潜在的なリスクを改めて強調しています。 ノイブの弁護士は、AI企業が責任を回避するために免責事項に頼ることはできないと主張している。「『当社が間違っている可能性があります』という免責事項を付け加えるだけで、実際に生じた損害を無視することはできない」と彼らは述べた。
AI ツールがますます普及するにつれ、個人のプライバシーや評判を損なう可能性に対する懸念が高まっています。AI 企業は、虚偽の情報の拡散を防ぐだけでなく、そもそもそのような情報が捏造されないようにすることで、より多くの責任を負う必要があります。
将来の規制と責任: OpenAI はプライバシーの課題にどのように対処するのでしょうか?
Noyb氏の新たな訴えは、OpenAIにとっての課題であるだけでなく、世界中のAI企業が直面する共通の課題でもあります。それは、捏造された情報によって自社の技術が法的・倫理的な問題に発展しないよう、どのように保証するかということです。欧州の規制当局がAIツールに対する監視を強化する中、OpenAIがこれらの課題にどのように対応するかは、世界市場における同社のコンプライアンスに大きな影響を与えるでしょう。
将来的には、プライバシーに関する苦情や規制措置が増加し、AI 企業は製品設計においてデータ保護とユーザーの権利を優先せざるを得なくなる可能性があります。イノベーションとプライバシー保護のバランスを取ることは、AI 企業が取り組まなければならない重要な問題になりつつあります。
