Gần đây, người dùng Instagram, đặc biệt là tính năng Reels, đã bị “khủng bố” bởi hàng loạt video chứa nội dung đầy bạo lực, máu me, hành hạ động vật và cả xác chết. Sự việc này dấy lên nhiều lo ngại về thuật toán của Instagram và chính sách kiểm duyệt nội dung của Meta, công ty mẹ của nền tảng này.
Theo phản ánh của người dùng trên Reddit, một diễn đàn thảo luận trực tuyến, nguồn cấp dữ liệu Reels của họ tràn ngập những video kinh hoàng, từ cảnh người bị voi giày xéo, bị máy bay trực thăng cắt xé, cho đến cảnh tự hành hạ bằng cách nhúng mặt vào dầu sôi. Thậm chí, một số người còn cho biết họ “đã chứng kiến ít nhất 10 người chết trên Reels của mình”.
Trang tin công nghệ 404 đã ghi nhận một trường hợp điển hình, trong đó nguồn cấp dữ liệu Reels của một người dùng đam mê xe đạp lại xuất hiện những video như người bị thiêu sống, cảnh cướp có súng, nội dung từ tài khoản có tên “PeopleDeadDaily” (Người Chết Hàng Ngày), và cảnh lợn bị đánh bằng cờ lê. Điều này cho thấy thuật toán đề xuất dường như đã gặp trục trặc nghiêm trọng, không còn phân loại nội dung phù hợp với sở thích của từng người dùng.
Nhiều người dùng đặt câu hỏi liệu Instagram đang cố tình tăng tương tác bằng cách hiển thị nội dung gây sốc hay không.
Một người dùng trên Reddit chia sẻ: “Trong 24 giờ qua, tôi cảm thấy thuật toán của Instagram như phát điên. Nguồn cấp dữ liệu của tôi đầy những Reels bạo lực – liên tục, hết cái này đến cái khác. Cứ như thể Instagram đang cố gắng khiến tôi tự hỏi liệu mình có vô tình theo dõi một tài khoản ‘đổ máu và hỗn loạn’ nào đó hay không. Tôi hiểu rằng nền tảng này hướng đến ‘tương tác’ và ‘xu hướng’, nhưng liệu họ có thực sự nghĩ rằng đây là cách để mọi người lướt xem nhiều hơn?”
Đại diện của Meta đã lên tiếng xin lỗi và cho biết đây là một lỗi kỹ thuật đã được khắc phục, khẳng định sự việc này không liên quan đến việc thay đổi chính sách kiểm duyệt nội dung gần đây, bao gồm việc loại bỏ bộ phận kiểm tra thông tin và giảm đáng kể mức độ kiểm duyệt trên các nền tảng công ty.
Tuy nhiên, nhiều người vẫn hoài nghi về lời giải thích này. Liệu đây thực sự chỉ là một lỗi thuật toán ngẫu nhiên, hay là hậu quả của việc nới lỏng kiểm duyệt, khiến cho nội dung bạo lực dễ dàng len lỏi vào nguồn cấp dữ liệu của người dùng?
Sự việc này đặt ra một dấu hỏi lớn về trách nhiệm của các mạng xã hội trong việc bảo vệ người dùng, đặc biệt là trẻ em, khỏi những nội dung độc hại và gây ảnh hưởng tiêu cực đến tâm lý. Cần có những biện pháp mạnh mẽ hơn để đảm bảo an toàn thông tin trên mạng, cũng như tăng cường tính minh bạch trong hoạt động của các thuật toán.
