パーソナルデータ、IoT、AIの利活用とプライバシーに関わる問題

Society5.0 実現の中核となるデータの高度な利活用は、これまでとは質・量ともに大きく異なる。とりわけパーソナルデータの利活用は、個人の嗜好やニーズにより的確にアプローチすることを可能とし、企業にとってビジネスの源泉となる。さらに、個人への的確なアプローチを駆使した様々な取組は最終的に社会的課題の解決にも繋がりうることから、社会全体にとっても非常に重要である。

一方で、パーソナルデータの利活用の進展は、個人のプライバシーに対する影響の多様化と深く関連している。

例えば、データ収集の局面においては、デジタルサービスの提供者により、精密かつ膨大な個人のデータが収集されることによって人物の行動履歴や健康状態、思想・信条、趣味嗜好等が詳細に把握可能になるといったように、個人のプライバシーに影響を与える可能性が高くなっている。個人のパーソナルデータが政治的なターゲティング広告などに利用されると、民主主義が成立する前提が脅かされる可能性も生じている。

データ解析の局面では、機械学習等を用いたAI を含む、人を介さないアルゴリズムによる判断が社会において大きな役割を担うのに伴い、その安全性や適切性についても問題が大きくなっている。例えば、機械学習は、既存状況のデータを統計的に処理したモデルを通じて、対象に関する推定や判断をすることから、新規の対象には対処することが難しく、また状況が変化した場合もその推定や判断精度は落ちることになる。このため、常に揺れ動くフィジカル空間に関する推定や判断においては間違える可能性があり、その結果として対象やその特徴を間違えたり、特にサイバー空間の推定や判断がフィジカル空間にフィードバックされると、その間違いが、結果として個人に対する差別や偏見が助長されたり、事故につながるリスクがある。また、機械学習のモデルの元となる既存状況のデータに偏りがあった場合や統計処理が不適切な場合も間違った推定や判断となりやすいことが知られている。

IoTとAIの利活用とプライバシーに関わる問題の例

IoT機器等の利用

IoT 機器等により消費者からデータを取得する場合、消費者がデータ取得されていることを認識しにくく、認識したとしても、データ取得に関して自らの意思を反映させる機会がないという問題が発生しやすい。また、IoT 機器等によって取得するデータは、そもそも当該消費者以外を巻き込んでしまう（カメラであれば映り込んでしまう）性質があることにも注意が必要である。

計測されるデータ（What）：IoT 機器がどのようなデータを計測するかわかりにくい
計測の場所と時間（Where＆When）：いつどこで計測されているのかわかりにくい
計測されたデータの解釈（How）：計測されたデータがどう解釈されるか、わからない
計測の主体（Who）：データ取得主体が誰なのかわからない
計測の目的（Why）：計測の活用の目的を消費者に伝えることが難しい

AIを活用して特定の個人を推測

データを利用するという観点においては、消費者から直接取得したデータが限定的である場合に、AI 等を用いて本人の行動等から本人に関する属性等を類推し、機械的に判断すること（いわゆるプロファイリングを含む）について、推定や判断の間違い、さらにはプライバシーに関わる問題が発生しやすい

ところで、プライバシーは従来、「私生活をみだりに公開されない法的保障ないし権利」や「放っておいてもらう権利」として考えられていたものが、情報通信技術が発展し、情報プライバシーという概念が生まれてからは、個人の権利を尊重することの必要性の理解が浸透してきたことも相まって「自己情報のコントロール」などに発展していった。IoT やAI などの技術進展によって、例えば、データ解析の結果、機械的に不当な差別的扱いを受ける、あるいは多数の有権者の政治的選択に対して介入される可能性が生じる、といったプライバシーに関わる新しい問題も顕在化している。

他方で、国内における商店街や商業施設、公共交通機関等への防犯カメラの設置などのケースを見ると、一定の配慮の下で設置されることに対する肯定的な評価もある一方で、特に顔認証データの取得に関して批判的な意見や懸念もある。また、防犯カメラによる画像の当初の防犯目的の範囲を超える利用や、識別機能を有する監視カメラの登場などにより、撮影された画像データに関する懸念は高まりつつあり、欧州や米国で厳格な規制が始まりつつある。

このように、個人へのプライバシー侵害から、個人に影響を与えた結果生じる社会的価値に対する悪影響（社会の分断など）、例えば選挙に対する操作の可能性を生じてしまうことまで、プライバシーに関して生じる悪影響は多様化している。さらに、個人的な感じ方の相違、社会受容性が、コンテキストや時間の経過によって変わり得るなど、プライバシーという概念を固定して考えられない点に、対応の難しさがあるといえる。そこのような時代においては、個人や社会から、「これはプライバシー侵害ではないか」との問いかけがなされる中で、プライバシーについての考え方が変わったり、プライバシーに関して問題とされる類型が広がってくる。プライバシーに関する問題が個人や社会に顕在化するリスク（以下「プライバシーリスク」という。）に、企業が適切に対応できなければ、その結果が、経営上の悪影響につながる経営リスクとして、企業に跳ね返ることとなる。

企業がプライバシー保護の取組を推進する上で、プライバシーリスクとは企業のリスクである前に個人にとってのリスクであること、そしてそれが社会全体に影響を及ぼす可能性があることを認識し、プライバシーに関する検討や取組を、企業活動に常時組み込むことが重要となる。