Để giải quyết vấn đề này, công ty công nghệ Honor của Trung Quốc đã phát triển tính năng hiện đại có thể phát hiện video deepfake, ngăn chặn những kẻ xấu đang cố gắng khai thác khả năng này của AI để lừa đảo.

Một trong những thực trạng đang nhức nhối hiện nay là các công cụ AI đã được sử dụng để tạo ra hình ảnh giả của các ứng cử viên chính trị nổi tiếng như Phó Tổng thống Mỹ Kamala Harris hay cựu Tổng thống Mỹ Donald Trump, nhằm dựng lên những câu chuyện không có thật.

Và những kẻ lừa đảo cũng sử dụng trò lừa đảo deepfake để lừa một nhân viên của tập đoàn Arup của Anh chuyển 25 triệu USD cho chúng.

Trước tình hình đáng lo ngại trên, công ty công nghệ Honor của Trung Quốc đã cố gắng giải quyết vấn đề này bằng tính năng phát hiện video deepfake. Công ty đã phát triển công nghệ có thể phân biệt được khuôn mặt trong video đã bị chỉnh sửa hay không.

Ông GEORGE ZHAO – Tổng Giám đốc điều hành công ty Honor, Trung Quốc cho biết: "AI mang đến trải nghiệm người dùng tuyệt vời và đáng kinh ngạc, thay đổi cuộc sống hàng ngày của chúng ta. Nhưng thành thật mà nói, AI cũng mang lại một số rủi ro, rắc rối cho người dùng. Vì vậy, chiến lược của công ty Honor là lấy con người làm trung tâm. Chúng tôi sử dụng AI để hỗ trợ mọi người ngăn chặn tình trạng deepfake đang thay đổi khuôn mặt của mọi người để lừa đảo."

Đây là một tính năng trên thiết bị, nghĩa là người dùng sẽ không phải kết nối với đám mây để sử dụng. Tính năng này hoạt động bằng cách phân tích từng khung hình của video để tìm ra sự không nhất quán - có thể là đường viền khuôn mặt hơi mờ hoặc ánh sáng không đúng. Sau đó, nó đưa ra kết luận và nếu phát hiện ra thủ thuật AI, nó sẽ ước tính khả năng xảy ra một số loại hoán đổi khuôn mặt.

Ông GEORGE ZHAO – Tổng Giám đốc điều hành công ty Honor, Trung Quốc cho biết: "Chúng tôi sử dụng công nghệ để phân tích video, kiểm tra từng chi tiết và đánh giá video đó là giả hay thật."

Honor không phải là công ty đầu tiên tham gia vào cuộc chiến chống hình ảnh giả mạo này. Microsoft đã phát triển một công cụ xác thực có thể phân tích ảnh hoặc video xem liệu chúng có bị thao túng hay không.

Ông KANE MCKENNA – Nhà phân tích công nghệ, Mỹ cho biết: "Chúng ta sắp chứng kiến một cuộc đua giữa các công ty đang đầu tư vào công nghệ phát hiện và ngăn chặn hình ảnh deepfake giả mạo một cách thực sự hiệu quả. Tuy nhiên, những kẻ xấu, những kẻ tạo ra deepfake để lừa đảo cũng sẽ phát triển công nghệ của chúng. Đây sẽ là cuộc chiến liên tục.”

Tính năng Phát hiện Deepfake AI của Honor đã được trình diễn tại triển lãm công nghệ tiêu dùng IFA ở Berlin, Đức.

Ông KANE MCKENNA – Nhà phân tích công nghệ, Mỹ cho biết: “Hiện tại, tôi nghĩ rằng phương pháp phát hiện deepfake này rất mới mẻ và hữu ích, nên công ty sẽ thu hút rất nhiều nhà đầu tư quan tâm đến."

Công ty Honor hy vọng sẽ bắt đầu triển khai tính năng này trên các thiết bị trong một đến hai quý tới.