新聞中心

您所在的位置:

新聞中心>商業

生死70分鐘背后:他們默默在做細小而正確的事

新聞來源:遂寧新聞網 更新時間: 2020-07-02 11:02

自殺自殘,是個體面對特定事件超過個人解決能力的一種極端解決辦法,背后原因極為復雜。在快手,有這樣一些團隊,通過算法技術及時識別,第一時間處置賬號和內容,積極聯動有關部門,竭力挽回行將逝去的生命。今年以來,他們就聯動警方干預了270余名有自殺自殘傾向的用戶。

70分鐘,與死神賽跑

6月26日21時許,快手員工正在對用戶直播進行常規巡查,突然發現一個直播間的畫面中,男子躺在沙土地上,臉色蒼白,手腕鮮血淋漓。

“是自殺!快報警!”快手社區安全員工張洋立即啟動應急響應,第一時間掐掉直播,并將相關信息推送給客服團隊。不到10分鐘,客服團隊就與屬地云南省個舊市公安局建立了聯動關系。

圖片5.png

圖為民警在高架橋下找到輕生者李林(個舊市公安局提供)

只有大體位置,本著生命至上的原則,在快手平臺協助下,個舊市公安局立即安排民警摸黑展開地毯式搜尋。經過70分鐘的全力搜索,繞過三個高架橋之后,當天22時30分,民警終于在大屯轄區某高架橋下找到已經跳下高架橋且割腕的李林。經過醫生的救治和民警的安撫,李林生命體征平穩、情緒逐漸趨于穩定,已被家屬帶回家做進一步觀察。

今年25歲的李林,只因欠了4000塊錢外債,周圍親友拒絕借錢幫其償還,心灰意冷的他選擇從高架橋一躍而下,發現沒死后用玻璃劃破手腕,在手機鏡頭前等死。

快手的快速響應,民警的及時救援,一場悲劇被成功阻止。

圖片6.png

圖為民警在安撫李林(個舊市公安局提供)

在快手,這樣驚心動魄的場景并非偶然,社區安全和客服團隊每天都要處理多起類似事件。今年以來,快手社區安全和客服團隊已聯動各地警方救援270余名試圖自殺自殘的用戶。

算法賦能+多方聯動,阻擋自殺自殘

作為一款國民級應用,每天有大量的人在快手上記錄生活的點點滴滴,直播自己的喜怒哀樂。然而,在網絡的某個角落里,一些人正在面對人生的至暗時刻。

湖北巴東一名女孩,因為失戀而抑郁,不停上傳有明顯自殺傾向的作品;吉林一名網友直播時一邊拿著藥盒,一邊激動地講述自己悲慘經歷,表示自己不想活了……快速變化的社會里,很多人處于多重壓力環境下,自殺自殘事件愈發常見,容易因一件小事情緒崩潰,沖動決定自殺。

對于日活躍用戶數超過3億的快手而言,每天有海量的用戶上傳視頻作品、開直播。僅靠人工無法審核全部的內容,在技術和算法的賦能下,有自殺自殘傾向的作品,系統會第一時間識別并自動攔截。在直播中出現自殺、揚言自殺等內容,系統警報會立即拉響,相關直播很快被關閉。

然而,僅僅是刪除或屏蔽相關視頻作品、關掉直播,并不能完全攔阻自殺自殘行為繼續進行??焓稚鐓^安全和客服團隊不停琢磨,認為除了處理相關作品和直播,還應該采取更加積極主動的手段,去干預自殺自殘的行為。

經過不停嘗試和摸索,快手社區安全和客服團隊建立了一套相對完備的自殺自殘干預處置策略,搭建了快速反饋流程。直播判罰結果為“自殺自殘”的,直播會立即被關閉,相關信息會同時推送給客服團隊,由客服團隊確認后迅速聯動警方介入;對于有自殺自殘傾向的作品,風控會召回相關用戶和作品,通過線上流程及時推送給客服團隊,由客服團隊確認后聯動警方介入干預;一線評級團隊發現相關異常情況也會快速同步給客服團隊。

別怕,我們都在

3月18日凌晨,在一個直播間里,一名男子手持電棍坐在車上,旁邊還有一名疑似被控制的女子,身上僅穿內衣,有傷害自殘傾向。相關信息很快就被快手社區安全團隊捕捉到,隨后被推送至客服團隊。當晚值班的客服團隊劉坤很快向屬地山東濱州警方報警求助。

在客服團隊協助下,濱州市公安局沾化分局立即開展調查工作,妥善處理了該事件,及時消除了負面影響。事后,當地警方還給快手公司發來一封感謝信。

圖片7.png

圖為感謝信

“危機干預是一場戰斗,當事人在痛苦掙扎的同時,我們都不能袖手旁觀?!皠⒗ふf,在這一點上,快手和警方的目標是一致的。在干預自殺自殘上,快手與各地警方已經建立了密切的協作關系。

其實,在與死神對抗的過程中,不僅僅只有當事人,快手、警方、第三方機構都在另一端默默努力著。

除了處置賬號和內容、報警介入等直接干預手段,情緒的紓解與表達也是自殺自殘干預中的關鍵。

圖片8.png

圖為快手高敏關鍵詞搜索結果頁面

在快手搜索“自殺”“自殘”“我想死”等極端關鍵詞,會發現置頂顯示的是一個名為“別怕,我們都在”的心理咨詢H5宣傳頁。點開宣傳頁,是一個自動滾動的“群聊”信息頁面?!斑@個世界雖然不完美,但愛和關心不會缺少”“沒有爬不過的山沒有過不了的坎,所有的一切都會隨風過去”“沖鴨,今天也要開心鴨”等“群聊”信息映入眼簾,最后還附上24小時免費心理危機咨詢熱線的電話號碼。

在H5頁面下方,系統會自動展現平臺內各類正向內容,向特定用戶提供情緒紓解與表達的渠道。在快手,這樣潤物細無聲的舉措還有不少。

“做細小而正確的事,這符合我們的價值觀?!笨焓窒嚓P負責人說,自殺自殘干預困難重重,策略還要不斷迭代完善,還有很多漏洞需要填補,但我們會一直堅持做下去。(文中人名均為化名)

責任編輯:杜鵑    編輯:朱鵬

相關新聞

遂寧新聞網版權所有 未經書面授權 不得復制或建立鏡像 本網違法和不良信息舉報郵箱:[email protected] 舉報電話:0825-2321500

地址:四川省遂寧市遂州中路718號 郵編:629000 電話:0825-2321500 傳真:0825-2324488

互聯網新聞信息服務許可證編號:51120170008 蜀ICP備05003517號 川公網安備 51090302000108號

增值電信業務經營許可證:川B2-20110150 廣播電視節目制作經營許可證:(川)字第101號

遂寧市互聯網不良與違法信息舉報中心電話(傳真):0825-2988759 郵箱:[email protected]

中國互聯網舉報中心 四川省互聯網舉報中心 經營性網站備案信息 網絡110
報警服務
網上有害信息
舉報專區
中国体育彩票摧见号码