SNS上ではその匿名性を利用して暴言や誹謗中傷に該当するような発言するユーザーが一定数いるもの。そんなユーザーに対して「アカウント停止をチラつかせる警告文を送信すると、該当のユーザーがおとなしくなる」との研究結果がニューヨーク大学より報告されたとのことです。
- Warnings May Reduce Hate Speech on Twitter, New Study Finds – NYU's Center for Social Media and Politics
- Twitter May Be Able to Curb Hate Speech With Warnings, Study Finds | Technology News
SNS上で誹謗中傷の発言を行うユーザーはTwitterだけでなく、様々なプラットフォーム上でも一定数おり、各サービスは対応するため、日々「サービス規約の変更」「AIによる投稿内容の監視」などの様々な取り組みが行われています。今回ニューヨーク大学が行った研究では「この対応に向けた一筋の光明をみつけた」ものであり、今後の取り組みや対応策の方向性を指し示すものになっているとのことです。
この研究はTwitterで「誹謗中傷の発言をしてアカウントが停止されたユーザーのフォロワーである4300人」に着目して行われました。研究者は「問題のあるユーザーをフォローしている人は『自分自身もアカウント停止対象の候補にいる』と考えている可能性が高い」と推測されることから、実験対象に選んだと説明しています。
研究では対象の4300人を7つのグループに分け、6つのグループはそれぞれ「あなたがフォローしているユーザー(@アカウント名)が停止されてました」という共通メッセージの後に「自身も監視対象である旨を告げる」内容の文面がグループ毎に異なる表現方法（乱暴な表現、丁寧な表現等）で送信され、残り1つのグループに対しては何の警告も行わない措置がとられました。
すると、警告メッセージを受け取ったユーザーは1週間以内に「誹謗中傷や暴言」に該当するようなツイートの投稿頻度が最大10％減少したことが確認され、「警告文が丁寧な表現」に該当していたグループでは15～20％減少したことが確認されたそうです。なお、警告後、1カ月経過すると元の状態に戻っており、警告の効果は1カ月ほどで収束することも確認されました。
本研究に携わったムスタファ・ミクダット・ユルドゥルム氏は「警告の効果は一時的なものでしたが、今回の研究成果は『ユーザーの暴言や誹謗中傷の発言に困っているSNSプラットフォーム』にとって、今後の対応策を決める道筋を示す可能性があります」と述べていました。
