本周一,Facebook稱已經成功將模式識別軟件用於監測其美國用戶的自殺傾向,並將把這個監測軟件推廣到其他國家。
早在今年三月份,通過掃描分析用戶發表的有自殺傾向的帖子或評論,Facebook首先對其美國用戶使用這個軟件。對於這個軟件的技術細節,Facebook並沒有透露,不過該公司稱這個軟件會搜索那些可能是自殺線索的短語或句子,比如“你好嗎?”和“需要幫助嗎?”。
一旦檢測到潛在的自殺傾向,該模式識別軟件將發送通知給Facebook專門處理此類事件的員工。該軟件會立即給發帖的用戶或其朋友發送一些有用信息,比如幫助熱線電話。有時,Facebook員工還會通知當地政府來幹預此類事件。
Facebook副總裁Guy Rosen稱由於該軟件在美國成功測試,於是准備推廣到其他國家,讓其他國家的Facebook用戶也用上這個軟件。他說:“響應速度真的很重要,我們必須及時地幫助那些需要幫助的用戶。”
去年,在Facebook上線直播功能後,就出現了某些用戶的違規行為,比如直播自殺。這給公司形象帶來了威脅。Facebook稱其已經雇傭了超過3000員工用於監控視頻和其他內容。
Rosen沒有提到具體將會對哪些國家的Facebook用戶應用此軟件,不過他說最終會使除歐盟外的國家的用戶都用上,除去歐盟是由於某些敏感原因。
其他科技公司也采取了類似措施來阻止用戶自殺,比如穀歌會在用戶搜索自殺相關詞彙時顯示幫助熱線電話。