Theo các chuyên gia, cùng với sự phát triển của công nghệ trí tuệ nhân tạo, tình trạng sử dụng giả mạo giọng nói, gương mặt hay còn gọi là công nghệ Deepfake để lừa đảo gần đây đang có dấu hiệu gia tăng.

Về cơ chế hoạt động, deepfake sử dụng kỹ thuật trí tuệ nhân tạo tiên tiến thu thập dữ liệu về chuyển động vật lý, đặc điểm khuôn mặt và thậm chí cả giọng nói, rồi xử lý thông qua thuật toán mã hóa AI hoặc Mạng đối kháng tạo sinh (GAN), để tạo ra âm thanh, hình ảnh giả nhưng vô cùng giống thực.

Nói cách khác, đó là video, hình ảnh hoặc âm thanh được tạo bằng AI, bắt chước ngoại hình và/hoặc giọng nói của một người. Tuy nhiên, nếu thận trọng người dùng vẫn hoàn toàn có thể nhận biết được.

Bản thân deepfake hay trí tuệ nhân tạo không xấu nhưng thường bị lợi dụng cho những mục đích mờ ám. Một báo cáo gần đây của Trung tâm Giám sát an toàn không gian mạng quốc gia cảnh báo rằng hầu hết các deepfake lan truyền đều có mục đích xấu.

Những nội dung mà công nghệ này thường bị lợi dụng bao gồm: Ghép mặt người vào những bối cảnh có toan tính riêng. Sử dụng hình ảnh và tiếng nói của một người để vượt qua mật khẩu sinh trắc học. Lừa đảo trên nền tảng kỹ thuật số. Trộm cắp danh tính, tống tiền. Đáng lo ngại hơn, khi công nghệ này ngày càng dễ tiếp cận, số vụ phạm tội có thể tăng lên.

Trung tâm Giám sát an toàn không gian mạng quốc gia khuyến cáo để bảo vệ tiền trong tài khoản của mình, và tránh bị lừa đảo, người dân cần thận trọng trước những cuộc gọi, trao đổi liên quan đến tiền, đến tài chính, đồng thời cũng khuyến cáo người dùng nên tránh để lộ lọt các thông tin cá nhân, hình ảnh, dữ liệu sinh trắc học để tránh bị kẻ xấu lợi dụng khai thác.