Vào mùa thu năm 2021, một nhà tư vấn tên Arturo Bejar đã gửi cho Meta một ghi chú bất thường:
“Tôi muốn thu hút sự chú ý của bạn đến một lỗ hổng nghiêm trọng,” Bejar nói, đồng thời cho biết Meta đã tự lừa dối mình mặc dù thường xuyên đưa ra các báo cáo công khai về sự an toàn của người dùng.
Trải nghiệm của người dùng trẻ hơn với Instagram—nơi Bejar dành hai năm trước đó làm cố vấn—đặc biệt sâu sắc. Trong email tiếp theo gửi tới người đứng đầu Adam Mosseri, một thống kê đáng chú ý đã được ghi lại: 1 trong 8 người dùng dưới 16 tuổi cho biết họ đã từng bị quấy rối tình dục không mong muốn trên nền tảng này. .
Đối với Bejar, phát hiện đó không có gì đáng ngạc nhiên. Con gái riêng của ông cũng đã nhận được những bức ảnh nhạy cảm từ năm 14 tuổi và hệ thống của Meta đã bỏ qua điều này.
Bejar lập luận rằng vì lợi ích của người dùng, Meta nên thay đổi hướng đi và tập trung nhiều hơn vào hệ thống kiểm soát. Công ty cần thu thập dữ liệu về những gì khiến người dùng khó chịu, sau đó tìm cách khắc phục.
“Tôi cảnh báo bạn. Tôi tin rằng làm việc theo cách này sẽ thay đổi văn hóa”, Bejar viết cho Zuckerberg.
Khi được yêu cầu bình luận, Meta phản bác khẳng định của Bejar. Công ty cho biết họ luôn chú ý đến trải nghiệm người dùng, thậm chí còn tung ra một số tính năng hiệu quả, chẳng hạn như cảnh báo người dùng trước khi họ đăng bình luận về những nội dung có khả năng gây phản cảm.
Bejar ban đầu được thuê làm giám đốc kỹ thuật của Facebook vào năm 2009. Chịu trách nhiệm bảo vệ người dùng nền tảng, ban đầu ông coi nhiệm vụ này là công việc bảo mật truyền thống, xây dựng các công cụ để chống lại tin tặc và các vấn đề bảo mật. gian lận.
Việc theo dõi bài viết của hơn 300 triệu người dùng Facebook vào thời điểm đó không hề đơn giản. Có quá nhiều tương tác trên Facebook và công ty không thể kiểm soát hết được.
Bejar yêu thích công việc này nhưng quyết định rời đi vì muốn dành nhiều thời gian hơn cho con cái. Sau đó, anh và cô con gái 14 tuổi theo đuổi một sở thích chung là cùng nhau sửa chữa những chiếc xe cổ và đăng kết quả lên Instagram.
Tuy nhiên, rắc rối bắt đầu. Nhiều người xem video của cô chỉ vì bị thu hút bởi bộ ngực khủng của cô. Instagram đã không cảnh báo những tài khoản có những từ ngữ thiếu tế nhị và điều này khiến Bejar choáng váng. Ông còn sốc hơn khi gần như tất cả bạn bè của con gái ông đều bị quấy rối tương tự.
Bejar bắt đầu hỏi các đồng nghiệp cũ của mình tại Facebook xem họ có thể xử lý hành vi sai trái như vậy như thế nào. Công ty đáp lại bằng việc mời anh ký hợp đồng hợp tác tư vấn có thời hạn 2 năm.
Năm 2019, Bejar quay trở lại Meta và có cơ hội tiếp cận nhiều giám đốc điều hành cấp cao. Anh phát hiện ra rằng trong suốt 4 năm vắng bóng, Meta chỉ tiếp cận việc quản lý hành vi người dùng như một quy trình tự động. Các kỹ sư biên soạn nội dung nhạy cảm, sau đó đào tạo người mẫu để sàng lọc nội dung đó.
Theo dữ liệu riêng của công ty, cách tiếp cận này cực kỳ hiệu quả. Trong vòng vài năm, công ty tự hào rằng 99% nội dung khủng bố mà họ gỡ xuống đã tự động bị xóa. Tuy nhiên, hệ thống không phát hiện được hầu hết nội dung bị cấm. Guy Rosen, người đứng đầu bộ phận kiểm duyệt của Facebook vào thời điểm đó, đã cảnh báo rằng các công cụ phân loại của Meta chỉ có thể loại bỏ một tỷ lệ thấp lời nói căm thù.
Để chứng minh những thiếu sót của Meta, Bejar và nhóm nhân viên bắt đầu thu thập dữ liệu. Dựa trên mô hình khảo sát thường xuyên với người dùng Facebook, nhóm đã xây dựng một bảng câu hỏi mới có tên BEEF, viết tắt của “Phản hồi về trải nghiệm cảm xúc tồi tệ”. Kết quả là tỷ lệ người dùng chứng kiến hành vi quấy rối trong tuần qua cao hơn 100 lần so với thống kê của Meta.
Trong số những người dùng dưới 16 tuổi, 26% cho biết họ có trải nghiệm không tốt. Hơn 20% cảm thấy tồi tệ hơn về bản thân sau khi xem bài đăng của người khác, trong khi 13% đã trải qua những hành vi tán tỉnh tình dục không mong muốn.
Các nhóm khác tại Instagram đã bắt đầu nghiên cứu các đề xuất nhằm giải quyết vấn đề mà BEEF nêu bật. Để giảm thiểu nội dung nhạy cảm, Instagram có thể giới hạn lượng nội dung mà người dùng tiếp xúc. Nền tảng này cũng có thể giúp người dùng báo cáo hành vi không mong muốn để tăng trải nghiệm tích cực.
Tuy nhiên, Meta không nhận ra điều này.
Đại diện Meta cho biết: “Thật vô lý khi nghĩ rằng chúng tôi chỉ bắt đầu khảo sát nhận thức của người dùng vào năm 2019”.
Bejar biết công ty không đánh giá cao mức độ nghiêm trọng của vấn đề nhưng vẫn cố gắng gửi email cho Mark Zuckerberg, CEO Sheryl Sandberg, Giám đốc sản phẩm Chris Cox và Giám đốc Instagram Adam Mosseri về kết quả khảo sát BEEF. Cùng ngày, phiên điều trần quốc hội đầu tiên có sự góp mặt của cựu nhân viên Frances Haugen đã diễn ra. Người phụ nữ này cáo buộc nền tảng này cố tình làm hại người dùng và làm suy yếu diễn ngôn của công chúng.
Adam Mosseri thay mặt nhóm trả lời. Ông thừa nhận vấn đề mà Bejar chỉ ra và bày tỏ mong muốn được khắc phục vấn đề.
Tuy nhiên, nỗ lực chia sẻ dữ liệu của Bejar đã gặp trở ngại. Sau khi Haugen công bố nghiên cứu nội bộ của mình, Meta đã chặn mọi thông tin mà nếu bị rò rỉ sẽ gây tổn hại nghiêm trọng đến danh tiếng. Công ty cũng đã ngừng tiến hành khảo sát BEEF, sau đó sa thải hầu hết các thành viên dự án như một phần trong kế hoạch ‘Năm hiệu quả’ của mình.
Dựa theo: WSJ
Link nguồn: https://cafef.vn/mark-zuckerberg-ngo-lo-su-te-hai-cua-instagram-co-1-lo-hong-nghiem-trong-bao-cao-ve-an-toan-nguoi-dung-khong-chinh-xac-188231103153200986.chn
