続・進化し続けるAI-今後知っておくべきこと 考えておくべきこと-

 前稿(http://www.message-at-pen.com/?p=2115)では、我々の日常生活に浸透しつつあるAIを概観した。その中で、AIが判断を誤る可能性が高い分野について、AIを活用することの判断やその結果の利用には人間が深く関与することの重要性を指摘した。

 本稿では、AIの進化と情報ネットワークの形成によって、個人のプライバシーに関わる問題が浮上し始めていることを挙げ、自己による情報コントロールの必要性について述べたい。

 昨年8月に、就職情報サイト「リクナビ」が、ウェブの閲覧履歴(クッキー)をもとに就活生の内定辞退率を個々の学生ごとにAI分析し、そのデータを本人の知らない間に志望企業に販売していた問題が発覚した。政府の個人情報保護委員会は、利用企業の責任は重く、問題行為として37社へ行政指導を行い、社名を公表した。

 これまでインターネット上の閲覧履歴は、それ自体では本人を特定できないため個人情報には当たらず、消費者の好みや関心を測るデータとして幅広く使われてきた。しかし、AIによる分析技術が進化し個人の特定が比較的容易になった。

 今後、第5世代(5G)移動通信システムやIoT(Internet of Things:センサーと通信機能をもったモノのインターネット経由のつながり)の普及が見込まれ、スマートフォンだけでなくテレビや冷蔵庫、空調、照明、車まで、あらゆるモノがあらゆる場所でネットにつながり、データが飛び交う社会が想定されている。そうなれば個人の生活、行動、思考までもデータとして丸ごと吸い上げられ、AIによって分析される事態も容易に想像できる。

 我々が認識しておくべきなのは、データ社会では、あらゆるデータのフローとストックが絶え間なく繰り返されるということである。第一段階は、大量のデータが収集され集積される段階。第二に、集積されたデータがAIによって解析され、人間が気づくことができないような相関関係や行動パターンなどが抽出される段階。第三に、抽出された相関関係や行動パターンを特定のデータベースと照合し、登録されている個々人の趣味嗜好、健康状態や心理状態、性格、能力、信用力などが予測される段階(プロファイリングの段階)。そして第四に、プロファイリング結果が、特定の目的、例えばマーケティングや企業の採用活動、あるいは犯罪の予防活動へ利用される段階。最後は、このプロファイリング結果の妥当性を検証するために、データベース登録者の行動が事後的に追跡される段階。そして追跡結果がAIの解析システムへフィードバックされ、解析方法が最適化(賢くなる)される。

 それでは、このようなデータの循環過程は何を目的になされているのだろうか。それは、「予測」と「個別化」である。例えば、あるインターネットサイトの利用者の趣味嗜好が予測されれば、利用者の好みに合った個別化広告を送ることができる。不特定利用者を相手に一般的な広告を大量に送付していた運営企業にとっては効率的である。また、関心のない広告が排除され、有用な個別化された情報が提示されるという意味では、利用者にとっても利益となる訳だ。

 このように、AI社会は一見便利な世の中のように見えてしまうが、良い面ばかりではないことを指摘しておかなければならない。AIを用いたプロファイリングが無制限に行われれば、差別や社会的排除へつながる可能性がある。しかも、誰もが差別や排除の対象になり得るということを認識しておきたい。もし、AIによるプロファイリング結果によって、「職務遂行能力が低い」という分類に含まれてしまったらどうだろうか。AIによる分析結果がそうであっても、その個人はそうでないかもしれない。分析結果のみが独り歩きを始め、プロファイリング結果に反論する機会もなく、しかもAIを利用する側でさえも、AIがなぜそのような評価を下したのか説明できないまま、その個人は「劣った」集団に属したままとなってしまう。そして、企業がこのような分析情報を活用したとすれば、その個人が知らないうちに、採用活動や社内の人事的処遇で不利益を被る可能性が生じる。

 我々はスマートフォンを常に携帯し、常に情報ネットワークシステムとつながった状態(個人情報が閲覧可能な状態)にある。私生活が暴露され、他者の視線にさらされることからの自由という古典的なプライバシー権の理解には限界があり、主体的に個人情報をコントロールしていく必要性が指摘されている。これまで述べてきたように、AI社会では我々の情報が常に収集され、AIに供給され、プロファイリングされ、重要な評価決定の基準となっている可能性がある。そのようなデータ社会の中に在って、自己情報の適切なコントロールこそが、無秩序なAIプロファイリングへの対抗するチカラとなる。

 政府の個人情報保護委員会では、個人情報保護法改正へ向けた動きが進んでいる。個人が自分のデータの利用を企業に止めさせる「使わせない権利」の導入が目玉となり、今国会で審議される予定だ。改正法では、企業がクッキーを個人の分析に使う他の企業に提供する場合に、個人情報と同等に扱い本人の同意を取ることを義務付けて、個人データがいつの間にか拡散し、本人が知らないうちに趣味や嗜好、生活パターンなどが分析される事態を防ぐ。

 欧州連合は、個人情報の厳格な取り扱いを盛り込んだ「一般データ保護規則」を導入し、個人情報が適切に扱われることは「基本的人権」とうたっている。経済のグローバル化が進み、企業や我が国の法整備にとっても国際レベルの人権感覚が問われることになる。

 あらゆるデータが行き交う「データ社会」が進展しつつある。その利便性を不安なく享受できるよう、企業が個人の権利に関して理解を深めることは不可欠である。また、社会全体が関心を高めることによって、個人データの適正利用が促されるよう、権利の保護と情報活用を巡る議論を深めることが重要だ。
橋爪良信(理化学研究所マネージャー)

Authors

*

Top