「人の感情を測るAI」で管理社会のディストピアになる？

急速に進化する科学技術は、私たちの生活や社会、ビジネスの在り方に大きな変化をもたらしている。その一方で、最先端技術に関する倫理的・法的・社会的な課題――「ELSI（エルシー）」が浮かび上がっている。技術が生み出す新たな可能性と向き合い、どのような未来を築いていくべきか。その答えを見つけるために、今こそ立ち止まり、考える必要がある。

本連載では、話題の新技術やビジネス動向を通じてELSIの考え方をひも解き、社会とビジネスにおける実践的な視点を提供する。初回となる今月は、注目を集めるAI技術のひとつ「感情認識技術」に焦点を当て、倫理学を専門とする長門裕介氏がその論点と課題を詳しく掘り下げる。（第2回／全3回）

 

 

【第1回から読む】AIが日々のストレスを記録!?「感情認識技術」のメリットと課題｜感情認識技術のELSI (1)

感情認識技術による監視・管理への懸念

まず最初に思い浮かぶ懸念は、こうした感情認識技術の普及が極度の監視主義、ひいては全体主義的な社会に結び付くのではないかというものだ。

たしかに、感情認識技術とその社会実装は、高度なテクノロジーによる監視や反抗的・反社会的な感情の抑圧が一般化した社会を描くディストピアSFを連想させるところがある。

ただし、監視そのものが常に抑圧的で倫理的に許されないというわけではない。たとえば、職場で従業員が業務時間内に個人的なネットオークションに夢中になっていたり、タバコ休憩の時間があまりに長い場合、それを監視して注意することは十分に正当化されるだろう。

「監視そのものが悪い意味を持つ言葉なので、監視はすべて許されない」というのは結論を先に決めてしまう論点先取であって、議論を混乱させるだけである（註3）。

大事なのは基本的な手続きを踏んでいること

では、どのような条件の下で管理・監視は正当化されるだろうか。これについては、（月並みだが）「ちゃんとした手続きを踏んでいるか」が最大の焦点になるだろう。

たとえば、感情認識技術によるシステムを導入する際には最低限、次のようなステップが条件になるかもしれない。

1. 誰が／いつ／どこで／なにを／どんな目的で／どのように情報を収集しているかが適切に開示されること
2. 疑問に答えるための説明会などが開催され、十分に納得し、同意するための時間が与えられること
3. 事情に応じてその技術の利用を拒否する権利が与えられ、それによって不利を被らないことが保証されること

どれも基本的なものに思えるが、実際に導入されている現場でもこうした手続きが踏まえられているかは点検してみる意義があるし、これから導入を考えている場合はそうした手続きを確保する十分な理由がある。

先に見た関西経済同友会の提言では（提言レベルなので仕方がない部分もあるが）、情報を収集・分析・フィードバックする主体が誰なのかが明示されていないことはかなり不気味に思える。

一般的な職場に限定しても、感情を含む個人のデータを閲覧して分析し、介入するのは誰なのか（各フェイズで異なる主体が行うこともありうるだろう）は明示化されるべきである。直属の上司なのか、人事担当なのか、外部のコンサルティング会社なのか……などで納得の度合いは変化するはずだからである。

同様に、休憩時間や業務時間外での扱いをどうするか、目的外利用（恋愛感情を抱いている従業員の情報を閲覧するなど）をどう防止するかなどもあらかじめ取り決めておくことが望ましいだろう。

プライバシーか、ウェルビーイングか

ただし、こうした基本がなおざりにされてしまうことの原因を、たんなる権利意識や適正手続き（デュープロセス）の無視とみなすべきではないかもしれない。

法学者のダニエル・ソロブは『プライバシーなんていらない!?』（2017、勁草書房）のなかで、テロリストの脅威にさらされたアメリカ合衆国の国民が「プライバシーか、セキュリティか」という二者択一を迫られ、プライバシーをたやすく放棄してしまった事情を指摘している。

セキュリティの問題が生存にかかわる喫緊のものであるのに対して、プライバシーの権利の恩恵は見えにくい。このふたつは完全にトレードオフの関係にあるわけではないにもかかわらず、そのように二者択一の形で提示されることによって極端に触れてしまうのが私たちの常であるというわけだ。

ここでの「セキュリティ」の代わりが目下の文脈では「ウェルビーイング」になっているということができる。

ウェルビーイングは日本語にしにくい用語だが、身体的・精神的・社会的に良好な状態を指すものとされる。そうした「良好な状態」を望まない人はいないだろうが、そのためであればプライバシー保護に関する手続き的側面を放棄していいことにはならない。

ウェルビーイングに資する、という名目があまりにもキラキラしているからといって、それを実現するための手段（きちんとした手続きや説明責任を果たすこと）に目が向かなくなってしまうことは危険なのだ。

（註3）K. Ball, Workplace surveillance: An overview, Labor History, 51 (1) (2010), pp. 87-106.

【次回更新は1月29日(水)】「他人の感情を測定したい」ニーズが含み持つ社会的課題｜感情認識技術のELSI (3)