Mạng xã hội lớn nhất thế giới này đã cho phép người dùng gửi báo cáo về các nội dung có dính dáng tới tự tử,ửdụngAIđểpháthiệnngườidùngcóýđịnhtựtửthe thao ngoai hang anh sau đó các báo cáo đó sẽ được rà soát và cân nhắc để Facebook đưa ra các hỗ trợ phù hợp, ví dụ số điện thoại hotline phòng ngừa tự tử, hoặc trong những trường hợp đặc biệt, chính đội phản ứng thực thi pháp luật của Facebook sẽ can thiệp.

AI đã làm thay đổi cung cách thực hiện quy trình phòng ngừa tự tử nói trên từ một năm trước. Đã có công cụ tự động đánh dấu các bài đăng có dấu hiệu bằng ngôn từ về ý định tự tử, và sẽ được gửi về cho nhân sự duyệt nội dung xem xét. Báo cáo mới nhất của Facebook về hiệu quả của hệ thống này cho thấy, số lượng nội dung liên quan tới tự tử được gửi duyệt nội dung xem xét đã tăng tới 20 lần, và con số những người nhận được hỗ trợ từ Facebook đã tăng gấp đôi. Công ty này cũng triển khai hệ thống với nhiều ngôn ngữ hơn và áp dụng cho cả Instagram ở mức thử nghiệm ban đầu.

"Chúng tôi nghĩ việc cung cấp hỗ trợ cho những người cần nó càng nhanh càng tốt chính là điều quan trọng nhất", Dan Muriello, kỹ sư phần mềm thuộc nhóm nghiên cứu người dùng của Facebook cho biết.

Có thể bạn không thường xuyên nhìn thấy các post có ý nghĩ về tự tử trên dòng thời gian của mình, nhưng với hàng triệu bài đăng đã xuất hiện trên Facebook, tự tử là một nguy cơ đáng sợ. Nó nằm trong top 10 nguyên nhân gây tử vong nhiều nhất tại Mỹ, đứng thứ hai trong list nguyên nhân tử vong của những người có độ tuổi từ 15 đến 34, chỉ sau tai nạn ngoài ý muốn.

Vào năm 2013, Facebook đã thành lập phòng nghiên cứu AI và mời được chuyên gia hàng đầu Yann Lecun tham gia. Phòng thí nghiệm này đã đạt được nhiều thành tựu mới với những công cụ như nhận diện đồ vật trong bức ảnh người dùng đưa lên, chuyển các văn bản text sang các ngôn ngữ khác, và dịch các đoạn hội thoại trong video.

Facebook đã nghiên cứu về công cụ phòng ngừa tự tử trong hơn một thập niên qua. Bắt đầu từ những thông tin của trung tâm hỗ trợ của mạng xã hội này, nơi mọi người có thể nhận được sự giúp đỡ. Sau đó là những người dùng khác chung tay hỗ trợ bằng việc report nội dung mang thông điệp xấu này.

Hầu hết các gã khổng lồ công nghệ trên thế giới đều đầu tư vào AI để phát triển sản phẩm dịch vụ và nền tảng của mình. Nhưng không phải ông lớn nào cũng quan tâm tới câu chuyện về ngăn chặn tự tử. Khi bạn gõ vào ô tìm kiếm của Google cụm từ "I want to kill myself" - Tôi muốn kết liễu đời mình - số điện thoại của đường dây hỗ trợ ngăn chặn tự tử của Mỹ sẽ hiện lên.