Cụ thể, ngày 5/11 vừa qua, Facebook đã xóa “Stop the Steal” (Ngăn chặn hành động ăn cắp), nhóm được mệnh danh là “siêu group”, khi đã thu hút 320.000 người chỉ sau chưa tới 24 giờ. Nhưng trước đó vài tháng, mạng xã hội này đã huy động một lực lượng lớn xử lý các nội dung về bầu cử Tổng thống, trong đó có “những lời kêu gọi bạo lực đáng lo ngại từ một số thành viên”.

Đại diện Facebook cho biết, hiện đã xóa 14.200 nhóm kể từ tháng 8. “Chúng tôi đang nỗ lực giảm tác hại trong thế giới thực và bất ổn dân sự thông qua việc xử lý các nội dung trên nền tảng của mình, bao gồm trong group“, Dani Lever, phát ngôn viên Facebook cho biết. 

Trước đó, do áp lực về nội dung gia tăng trên Facebook khiến CEO Mark Zuckerberg phải tạm dừng đề xuất các nhóm mới nếu liên quan đến chính trị và bầu cử. Tuy vậy, biện pháp này vẫn không thể ngăn chặn “Stop the Steal” – một trong những nhóm phát triển nhanh nhất trong lịch sử Facebook.

Theo một khảo sát về các group trên Facebook được công ty tình báo kỹ thuật số CounterAction, từ tháng 9 đến tháng 10, hàng nghìn nhóm công chúng có khuynh hướng chính trị với hàng triệu thành viên đã có những phát ngôn mang tính bạo lực.

Trong đó, có khoảng 20 cụm từ mang nghĩa này được dùng thường xuyên. Chẳng hạn, cụm từ “chúng ta cần nội chiến” kèm hình ảnh về bầu cử Mỹ đã xuất hiện khoảng 41.000 lần trong chưa đến một tháng; hay cụm “bắn”, “giết tất cả” xuất hiện lần lượt ít nhất 7.345 lần và 1.415 lần, “treo cổ” xuất hiện 8.132 lần.

Sau khi phát hiện vụ việc trên, các cơ quan an ninh Mỹ đã bắt đầu theo dõi các nhóm Facebook có những phần tử quá khích. Họ đã phát hiện sớm một cuộc tấn công được lên kế hoạch nhằm vào những người biểu tình chống phân biệt chủng tộc Black Lives Matters ở Las Vegas và một kế hoạch bắt cóc thống đốc bang Michigan.

Giữa năm nay, Facebook cũng đã công bố một loạt chính sách nhằm “kiềm chế các phong trào quân sự hóa xã hội”. Đại diện mạng xã hội cũng thừa nhận phụ thuộc nhiều vào AI để giám sát diễn đàn, đặc biệt là các nhóm riêng tư.