生成AIで近づく、個人情報ディストピア：事例やリスク・対策を解説

生成AIとは何か？

生成AIとは、人工知能技術を用いて、新しいデータやコンテンツを生成するシステムのことです。例えば、テキスト、画像、音楽など、まるで人間が作り出したかのようなコンテンツを生み出すことができます。これは、機械学習モデルが大量のデータからパターンを学習し、それを基に新しいデータを生成する仕組みに基づいています。具体的には、GPT-3のようなテキスト生成AIは、小説や記事の自動作成に利用されることがあります。また、Deepfake技術は、既存の映像や写真に基づいて新たな映像を作成するのに使われ、これが個人の肖像権やプライバシーに関わる問題を引き起こすこともあります。

個人情報とは具体的に何を指すのか？なぜ重要なのか？

個人情報とは、個人を特定することができる情報のことを指します。これには名前、住所、電話番号、メールアドレス、写真などが含まれます。

個人情報が漏洩すると何が嫌なのでしょうか。「なんとなく気持ち悪い」ということ以上に様々な被害が起こりえます。

最もイメージしやすいのはクレジットカード情報の漏洩でしょう。不正にショッピングに使われるのは誰でも嫌ですよね。またSNS上でなりすましに使われるということも、経験されている方も多いのではないでしょうか。企業においてはランサムウェア（人質ウェア）という手法も広がっています。「システムを故障させた（もしくはデータを使えなくした、漏洩させる準備がある、など）。元通りにしてほしくば●●円を用意せよ」などと言って金銭を要求する手法です。

しかし、テクノロジーが発展するにしたがって個人情報の悪用の方法はどんどん進化していきます。

個人情報ディストピア・ブラックミラーから学ぶ

個人情報に関する教材として最も優れているのはNetflixシリーズのブラックミラーだと筆者は考えています。これは世にも奇妙な物語の近未来版、というような短編集で、特に個人情報が新しいテクノロジーによって筒抜けになってしまうことによる悲劇を描いています。

たとえば「秘密」というエピソードはポルノを見て自慰行為をしていた主人公の映像がパソコンのカメラから撮影されており、その映像を広められたくなければという条件で運び屋をやらされることになります。

Uber Eatsのようにどこからどこに行けば良いのか指示が出て、すこしでも不自然な移動をすると咎められ、再度脅されます。自らの行動は完全に制御され、言われるままに犯罪行為を続けるしかなくなっていく主人公。

これは程度の差こそあれ、現代でも存在します。「見られたくないもの」が重ければ重いほど、言うことを聞かざるを得ない。お金が奪われるよりも悲惨なのは、その「見られなくないもの」を消去させることが実質的に不可能だからです。つまり永遠に脅しをかけることができます。

他にも個人情報が筒抜けになってしまうことによるディストピアを描いているエピソードを紹介します。

「人生の軌跡すべて」: このエピソードでは、主人公リアムが自分の体にチップを埋め込んで自分の記憶を動画として保存する未来が描かれています。リアムは、この技術を使って自分の妻フィオンの浮気の疑いを追及します。
「アークエンジェル」: このエピソードでは、母親のマリーが娘の身体に最先端のチップ「アークエンジェル」を埋め込みます。このチップを通して娘の視界を監視し、危険なものから遠ざけることが可能ですが、これが娘のプライバシーの侵害となり、母娘の関係に問題を引き起こします。
「クロコダイル」: このエピソードでは、「リコーラー」という記憶を観る装置が登場します。この装置を警察や保険調査員が使い、人の記憶を画面に映すことができます。

特に「人生の軌跡のすべて」は主人公が弁護士であるため、彼の観察眼や妻の追い込み方がすさまじいです。視覚情報からわずかな行動の機微を手掛かりに真実に迫っていく彼ですが、そもそもこのテクノロジーがあることによって生まれた「疑惑」の心こそが最も有害なのではと視聴者に感じさせるところがあります。

このシリーズを通して分かることは、やましいことがない人（そんな人がいるのかはわかりませんが）でも、個人情報が筒抜けになることで予想だにしない疑念が生まれ、二次被害が生まれてしまうということです。

現状の法的な個人情報保護

こういった被害を避けるため、多くの国では、個人情報の保護に関する法律が制定されており、企業や組織はこれらの法律に従って個人情報を取り扱わなければなりません。

特にナチスなどの全体主義に関してトラウマのある欧州連合では一般データ保護規則（GDPR）が、個人情報の扱いに関して厳格なルールを設けています。GDPRは、データの最小限化、透明性、データ主体の権利などを規定しており、違反した企業には重大な罰則が科されることがあります。

アメリカでは、カリフォルニア州においてカリフォルニア消費者プライバシー法（CCPA）が施行されており、これも個人情報の取り扱いに関する重要な法律です。

生成AIにおける個人情報の扱いとリスクについて

生成AIが個人情報を扱う際には、特に注意が必要です。生成AIは、学習データとして提供された情報を基にコンテンツを生成するため、もし個人情報が含まれていれば、それが新たな形で広まる可能性があります。これにより、プライバシーの侵害や詐欺などのリスクが生じることがあります。例えば、顔認識技術を用いた生成AIが、無断で個人の顔写真を学習に使用し、その結果として新たな顔写真を生成した場合、その個人の同意なくその写真が広まることになり、プライバシーの侵害につながる可能性があります。

リスクと対策

個人情報の不正使用を防ぐためには、データの匿名化や擬似化、アクセス制御の強化などの対策が必要です。また、生成AIを利用する際には、個人情報が含まれていないか、または適切に保護されているかを常に確認することが大切です。データ匿名化は、個人を特定できる情報を削除または変更することで、個人が特定されるリスクを減少させます。擬似化は、実際のデータに似たが実在しないデータを生成し、分析やテストに利用する手法です。アクセス制御の強化は、不正アクセスやデータ漏洩を防ぐために、認証や権限管理を厳格に行うことを指します。

生成AIを利用する際のガイドラインと法的な情報

生成AIを安全に利用するためには、以下のガイドラインに従うことが推奨さ

データの選別: 使用するデータから個人情報を除外する。
同意の取得: 個人情報を使用する場合は、関係者から明確な同意を得る。
透明性の確保: データの使用目的をユーザーに通知し、透明性を保つ。
セキュリティの強化: データの漏洩を防ぐためのセキュリティ対策を講じる。

また、個人情報保護に関連する法律や規制に常に注意を払い、遵守することが必要です。これには、データ保護に関する法律の最新の変更を常にチェックすることや、データ保護オフィサーの指導のもとで運用を行うことが含まれます。さらに、ユーザーに対しては、どのようなデータが収集され、どのように使用されるかを明確に伝え、必要に応じて同意を得るべきです。