Công nghệ phát hiện “trị” deepfake.

Công nghệ phát hiện “trị” deepfake. Sự phát triển nhanh chóng của AI đã khiến việc tạo nội dung giả mạo (deepfake) trở nên dễ dàng hơn bao giờ hết. Đồng thời, một “ngành công nghiệp nhỏ” gồm các startup chuyên phát hiện deepfake cũng đang hình thành nhằm đối phó với mối đe dọa này. Một thử nghiệm thực tế cho thấy mức độ đáng lo ngại của công nghệ. Một phóng viên đã tạo video với hình ảnh và giọng nói của chính mình bằng công cụ AI, chỉ cần khoảng 9 giây dữ liệu âm thanh thu thập từ các bài đăng cũ. Dù người thân có thể nhận ra sự khác biệt, các chuyên gia cảnh báo mức độ này đã đủ để đánh lừa đồng nghiệp hoặc hệ thống xác minh. Hiện nay, nhiều công ty như Reality Defender, Pindrop Security hay GetReal đang phát triển các công cụ phát hiện deepfake. Theo thống kê, thị trường này đã đạt quy mô khoảng 5,5 tỷ USD và tiếp tục tăng trưởng mạnh. Các hệ thống phát hiện sử dụng máy học để phân tích và nhận diện nội dung giả mạo. Một phương pháp phổ biến là “mô hình thầy - trò”, trong đó AI được huấn luyện bằng cả dữ liệu thật và giả để học cách phân biệt. Đáng chú ý, để phát hiện deepfake tốt hơn, các hệ thống này phải tạo ra những phiên bản giả tinh vi hơn để tự “bắt bài”. Deepfake sử dụng thuật toán học sâu để mô phỏng khuôn mặt và giọng nói giống người thật. Trước đây, người dùng có thể nhận biết bằng các mẹo thủ công, nhưng hiện nay AI đã đủ khả năng tái tạo cả cử chỉ, biểu cảm, khiến việc phân biệt bằng mắt thường gần như không thể. Do đó, các chuyên gia cho rằng chỉ có công cụ AI mới đủ khả năng phát hiện deepfake hiệu quả. Tuy nhiên, những công cụ này vẫn chưa thể đảm bảo an toàn tuyệt đối, đặc biệt trong môi trường xã hội phức tạp. Nguy cơ lớn nhất nằm ở việc tội phạm mạng chuyển từ tấn công cá nhân sang các chiến dịch quy mô lớn. Chúng có thể thu thập dữ liệu từ mạng xã hội như LinkedIn, TikTok, Facebook để xây dựng “kho giọng nói” của nhiều người, sau đó sử dụng AI để thực hiện các cuộc gọi lừa đảo. Thiệt hại từ các vụ lừa đảo deepfake là rất lớn. Trung bình mỗi vụ có thể khiến doanh nghiệp mất khoảng 450.000 USD, thậm chí lên tới hàng triệu USD. Các kịch bản nguy hiểm thường đánh vào tâm lý khẩn cấp, như giả giọng người thân cầu cứu hoặc dàn dựng tình huống bắt cóc. Dù công nghệ phát hiện đang phát triển, nhiều người vẫn chưa nhận thức đầy đủ về rủi ro. Các chuyên gia cho rằng doanh nghiệp cần đóng vai trò quan trọng trong việc triển khai hệ thống phát hiện nhanh, chính xác để bảo vệ người dùng. Về lâu dài, việc chỉ “bắt lỗi” deepfake có thể không còn hiệu quả khi công nghệ ngày càng hoàn thiện. Thay vào đó, giới công nghệ đang hướng tới các giải pháp xác thực nguồn gốc nội dung, như tiêu chuẩn C2PA, nhằm phân biệt dữ liệu thật và giả ngay từ đầu. Tuy nhiên, C2PA vẫn chưa hoàn hảo vì các nhãn xác thực có thể bị xóa hoặc làm giả. Ngoài ra, sự thiếu đồng bộ giữa các nền tảng khiến việc áp dụng gặp nhiều khó khăn. Một tệp không có nhãn chưa chắc là giả, nhưng có nhãn cũng không đảm bảo hoàn toàn đáng tin. Trong tương lai, các chuyên gia kỳ vọng hệ thống phát hiện deepfake sẽ được tích hợp rộng rãi như phần mềm diệt virus, hoạt động tự động trên trình duyệt và hạ tầng Internet để ngăn chặn nội dung giả trước khi đến tay người dùng. Sự phát triển của AI đang làm lung lay niềm tin vốn dựa vào “mắt thấy tai nghe”, buộc con người phải xây dựng lại niềm tin trên nền tảng công nghệ. Cuộc chạy đua giữa tạo và phát hiện deepfake vì thế sẽ còn tiếp diễn trong thời gian dài. Thùy Dương tổng hợp