日本は、G20の議長国となる2019年というタイミングで、AIやビックデータの活用によって、ビジネスにおける国際競争をリードしようとするのみならず、人々の日常の暮らしへ大いにAIを活用しようとしている。
データやAIの活用により、新たなビジネスが生まれ、企業の国際化が推進されることを高く期待している。しかし、慶應義塾大学法科大学院教授で慶應義塾大学グローバルリサーチインスティテュートの副所長でもある山本龍彦氏から、AIのプロファイリングがプライバシーを侵害する可能性があること、人々をAIが検出するアルゴリズムに基づく恣意的なカテゴリーで分類する危険性を持ち合わせていることを説明いただいた。山本教授はその上で、データを活用した新たなビジネスのチャンスを法的枠組みによって適切に管理する必要性を訴えた。

まず、AI社会とはどのような社会なのか。多くのデータを分析し、自己学習を行うことで、相関関係やパターンをあぶりだし、特定の人の行動パターンや趣味趣向、健康状態、心理状態、性格、能力、信用力を予測・審査（判断）することである。つまり、AIの分析能力を高めるために、様々なデータを収集し、細分化されたグループを多くつくることが志向されている。
AIにデータを習得させる過程では、プライバシーの侵害が起こる可能性がある。例えば、米国におけるターゲット事件では、スーパーマーケットの食品や日用品の購入履歴から、顧客が妊娠しているかを割り出し、そのデータを広告宣伝に活用していたと言われている。このように直接的にはプライべートな情報として扱われない買い物情報をもとに、非常にプライベートな情報を高い正確性で割り出すことができる技術や行為は、法的枠組みの中で指針をつけていく必要がある。
また、このような分析は、個人をある「セグメント」に分類し、レッテルを貼る作業である。つまり、AIによって個人に対する価値審査が行われる可能性がある。例えば、アマゾンの採用プログラムにおいて、理想的なプログラマーをあぶりだそうと、現社員を母集団としたデータ分析を試みた。採用可否の判断をAIが行うのである。しかし、既存の社員の多くが男性であったことから、理想的な社員として審査通過する候補は男性が多くなってしまった。つまり、もともとのデータ取得に偏りがある場合、相関関係が実態を反映した正確性の高いものとはならない。また、AIの分析は確率論で成り立っているため、その分類に100%の確証はない。100%の確証がないのに、男性を優秀とレッテル貼りすることは、マイノリティに不利な社会を不当に助長することになる可能性がある。
憲法13条「個人の尊重」は、個人が集団から切り離された存在として評価されることを謳っている。これは身分制からの脱却を目指した考えに基づいている。この憲法上の規定に基づき、AI分析はその分析手法を選択し、アルゴリズムを規定する人間によって、適切に管理・運営されるべきであり、そのために欠如している法整備が世界的に求められている。EUにおけるDPRD（EU一般データ保護規則）では、22条において、自動処理のみに基づいて重要な決定をくだされない権利を規定している。また世界では、複雑すぎて人間が理解できないアルゴリズムの策定（技術的ブラックボックス）の禁止や、必要に応じて、分析対象となった人にアルゴリズムを説明する責任等を保証する法的枠組みを求めている。
山本教授は、AI関連の法規制が今後進展した場合、これら法規制やガイドラインが求められる社会的な意義を、日本企業や個人が理解する必要があると考えている。日本がAIを始めとする技術を用いて、データガバナンスの国際的なリーダーシップをとる過程で、日本国民がガバナンスの必要性の根拠である多様性や個人の尊重の重要性が身をもって実感できるようにならないだろうか。島国であり移民流入が限定的であった日本においては、多様性や個人の尊重に関する考え方が海外諸国に比べて劣後している指摘はあった。その理由は、自らが画一的な思考や蔑みの被害者になる実感を持てないからでもある。
私は、AIやデータガバナンスは日本人の経験不足を補う存在にならないかと思うのだ。楽観的かもしれないが、日本国内でも自分の属性や多様性に関する議論が生まれるかもしれない。私は、自分の属性やアイデンティティに関する日本人の感覚が研ぎ澄まされ、他者との調和的な生活のあり方や、海外の国々が直面してきた多様性や平等に関する課題にやっと一人ひとりが直面する時代が来ることを待望している。G20関連の報道を通じて、AIがプロファイリングを行う世の中になることに伴い、「自分とは何か」、「他者とはどのような人か」という多様性について、気づきを得られるようになるとよいと思う。
沙織