Facebook cấm video Deepfake

Hôm qua (6/1), Facebook ban hành chính sách cấm phát tán video deepfake, cũng như tất cả hình ảnh và âm thanh giả mạo trên nền tảng.

Facebook tuyên bố, giải pháp ngăn chặn nạn phát tán video deepfake và nội dung giả mạo gồm điều tra hành vi lừa đảo trong video được tạo ra bởi trí tuệ nhân tạo (AI) và hợp tác với các tổ chức nghiên cứu, chính phủ để xác định các nội dung giả mạo.

“Nội dung giả mạo có thể được tạo ra qua công nghệ đơn giản, như Photoshop hoặc các công cụ tinh vi, như AI, thuật toán học sâu (deep learning) hay còn gọi là deepfake”, Facebook nói. “Dù video deepfake còn hiếm gặp trên Internet, sự gia tăng nhanh chóng của nội dung này đang đặt ra thách thức lớn cho các mạng xã hội và nền tảng của chúng tôi”.

Theo thông báo hôm 6/1 của Facebook, các video được cho là deepfake sẽ bị xóa khỏi nền tảng, gồm nội dung tổng hợp hoặc chỉnh sửa không rõ ràng có thể khiến người dùng hiểu nhầm về chủ đề của video và sản phẩm được lồng ghép nội dung bởi AI hoặc công nghệ học máy (machine learning) khiến video có vẻ chân thực. Công ty khẳng định, chính sách mới không ảnh hưởng đến các nội dung mang tính giải trí.

Các video gắn cờ sẽ được kiểm duyệt viên của bên thứ ba xác thực. Trong quá trình kiểm tra, Facebook sẽ “giảm đáng kể việc phân phối” hoặc chặn nếu nội dung chạy quảng cáo trên nền tảng. Ngoài ra, công ty cảnh báo người dùng muốn chia sẻ rằng video chứa thông tin sai lệch.

Hồi tháng 9/2019, Mike Schroepfer, Giám đốc công nghệ Facebook công bố cuộc thi phát triển công nghệ chống video deepfake. “Mục tiêu của chúng tôi là tạo ra công nghệ mà mọi người đều có thể sử dụng để phát hiện video bị AI can thiệp nội dung, đánh lừa người xem”, ông nói.

Năm ngoái, Facebook đã bị các thành viên của Quốc hội Mỹ chỉ trích vì chính sách kiểm duyệt quảng cáo chính trị. Công ty tiết lộ hầu như không xác thực quảng cáo chính trị. Quá trình kiềm duyệt lỏng lẻo của Facebook gây tranh cãi, sau khi Tổng thống Mỹ Donald Trump chạy quảng cáo chính trị chứa thông tin sai lệch về cựu Phó Tổng thống Mỹ Joe Biden. “Khi chính sách mới áp dụng, chúng tôi sẽ yêu cầu các đối tác kiểm duyệt rà soát hoạt động của tất cả chính trị gia ở mọi cấp độ trên nền tảng”, Facebook cho biết.