Facebookの自殺防止ツールは役に立っているのか、研究者から疑問の声
2019年5月9日 22:18
taraiok曰く、 Facebookでは、2017年頃から機械学習を利用した自殺予防・通報システムが採用されてきた。CEOのMark Zuckerberg氏によると、1年間で3500人に対して救済支援が行われたとされている。しかし、ハーバード大学の精神科医John Torous氏は、このツールが誤認識などによって救済されたとされるユーザーの精神衛生や健康上の問題を悪化させていないか懸念している（SFGATE、Slashdot）。
Torous氏はMicrosoftなどと共同で同様の研究をしてきたが、Facebookはこういったツールについて研究者や医者、科学界との情報共有を行っていないという。また、Facebookはツールがどのように機能するかについてのデータも公開していない。そのため、氏はFacebookの自殺予防・通報システムについて詳しく把握できていないという。
同氏は、このツールを使用したことによる救済効果は個人情報の観点から公開されず、検証できない点も問題視している。同様の問題は個人情報を取り扱うApple WatchやAmazon Alexa、そして瞑想アプリのようなものでさえも抱えている問題だと指摘している。