最近、黒人男性が登場するムービーをFacebookで見たユーザーは「ムービー視聴後に『霊長類に関するビデオを見続けたいですか』というメッセージが表示された」ことを明かしました。この事実を知ったFacebookは「このようなメッセージをAIが表示するのは会社としても容認することはできない」とし、AIの誤判定について、謝罪する事態に発展したとのことです。
このユーザーが見たとされるムービーはイギリスのタブロイド紙である「The Daily Mail」が2020年６月に投稿したもので、黒人男性と白人の警察官や民間人と争っている様子が映っていたそうです。動画再生後、通常であれば、FacebookはAIによって「先程視聴していたムービーと関連するもの」をメッセージとともにユーザーに案内します。しかし、今回のムービーに関して、AIは黒人男性を霊長類と誤認識し「霊長類関連のムービー」を推奨したようでした。
今回の問題はAI(ソフトウェア)の判定ミスによるものです。根本的な問題として、AIが100％正解を導き出すことは事実上困難なことから、Facebookはユーザーに対して「一部の人に不快な表示をAIが行ってしまった」と通知文を掲載し、AIの誤判定を少なくする対応を行うだけで良さそうです。しかし、記事作成時点では「アジア人に対するヘイト問題」「BLM問題」等の様々な人種差別に関してセンシティブになっていることから、Facebookは報道機関に謝罪文を送付する大きな対応を取りました。
Facebookは報道機関宛の謝罪文で「私たちはこれまでも『AIの改善』に注力してきましたが、完璧ではなく今後も改善を続けてまいります。今回、このような不快なメッセージを目にしてしまった方々にお詫び申し上げます」と述べました。
AIの顔認識技術は記事作成時点で発展途上といえる状態であり、Facebook以外にもGoogleが同様の対応で謝罪したことがあります。GoogleのAIの場合は「黒人」を「ゴリラ」と誤判定していました。現時点においては有色人種の顔認識が困難であるとされており、コンピューターや来場者の認証等をAIで行うことを想定する場合は顔認識精度のますますの発展が必要なようです。
