2021年12月に10歳の少女がTikTokに投稿されたムービーで見た「自分の首を絞めて失神する」失神チャレンジ（ブラックアウト・チャレンジ）に挑戦して死亡するという事故が発生しました。彼女の両親は「自分の娘が命を落としたのはTikTokのせいだ」として、TikTokの運営元であるByteDanceを提訴したとのことです。
当時、アメリカのペンシルベニア州南東部のフィラデルフィア郊外に住んでいた10歳のナイラ・アンダーソンさんは2021年12月に寝室で意識を失っているところを発見されました。その後、彼女は病院に運ばれ、集中治療室で5日間治療が行われていましたが、そのまま息を引き取ったそうです。
ナイラさんの母親のタワンナ・アンダーソンさんは「娘はTikTokのオススメに表示された失神チャレンジのムービーを見て、興味を覚えて挑戦してしまったのです。本来、TikTokは健全な動画を紹介すべきなのに、このような危険な内容をオススメするのは間違っています」と述べ、TikTokが視聴者に合わせて、オススメムービーを紹介する機能のアルゴリズムに問題があるため、訴訟に至ったとしています。
TikTokの運営元であるByteDanceは今回の訴訟についてコメントをしていないものの、ナイラさんの死について「今回問題となっている危険なチャレンジは、TikTok以前から別の動画サイト等で公開されていたものでした」と説明。今回の例はTikTokが原因となったが、チャレンジ自体は他のプラットフォームでも多く公開されているものであるとしています。
ペンギン議長の一言
今回の問題はAIによるオススメ動画の自動判定が招いたものですね。今回の訴訟の行方はわかりませんが、AIのソフトウェアを作成およびサービス提供しているByteDance側に一定の賠償命令が下される可能性はありそうです。アメリカでの訴訟でもありますし……
