Singapore phát triển công nghệ phát hiện deep fake

Hãy để ý người đàn ông này trên màn hình. Và chính người đàn ông đó thực ở ngoài trông hoàn toàn khác. Đó chính là công nghệ giả mạo hình ảnh deep fake đang được sử dụng ngày càng tinh vi nhằm đánh lừa nạn nhân để đánh cắp thông tin, tiền bạc.

Ứng dụng Aletheia do hãng Ensign phát triển, phân tích video để phát hiện ra những cử động cơ thể và khuôn mặt có vẻ khác thường và nhấp nháy, cùng nhiều dấu hiệu khác do AI tạo ra. Từ đó, ứng dụng đưa ra cảnh báo cho người sử dụng gần như thời gian thực, với độ trễ khoảng 10 giây.

Đây được coi là bước tiến vượt bậc so với các công nghệ khác khi việc phân tích video diễn ra ngay tại máy ngưởi dùng thay vì phải gửi lên đám mây để phân tích rồi gửi trả kết quả mất nhiều thời gian.

Ông Lee Joon Sern, Phó Chủ tịch bộ phận Nghiên cứu máy học và Đám mây tại Ensign Labs: “Cảnh báo không chỉ được gửi đến nạn nhân qua thông báo lỗi trên màn hình, mà một cảnh báo khác cũng sẽ được gửi đến chuyên gia phân tích bảo mật trên hệ thống. Điều này có nghĩa là việc phát hiện deep fake được kiểm soát trên toàn bộ môi trường, từ đó có thể cảnh báo các nhân viên hay toàn bộ công ty đang phải trải qua đợt tấn công sử dụng video giả mạo hay không.”

Hiện Aletheia có thể phát hiện ra deepfake do hầu hết các trình tạo hình ảnh AI tạo ra, ngoại trừ các deepfake cực kỳ tinh vi được tạo ra cho các bộ phim điện ảnh. Nhà phát triển cho biết sẽ tiếp tục được cải thiện Aletheia để theo kịp tính chân thực ngày càng tăng của deepfake.

Ông Lee: "Trong tương lai, có thể có nhiều thuật toán deep fake tinh vi hơn. Vì vậy, chúng tôi liên tục nâng cấp và cải thiện công nghệ. Bên cạnh đó, chúng tôi cũng có chức năng phát hiện âm thanh giả mạo. Nếu bất kỳ thứ gì phát ra từ loa của bạn là giả, người dùng cũng sẽ được cảnh báo theo cách tương tự.

Đại diện Ensign cho biết hiện một số khách hàng thuộc ngành ngân hàng, năng lượng đã đưa vào sử dụng công cụ này.

Ứng dụng Aletheia mới chỉ được cài đặt trên windows. Các phiên bản cho điện thoại di động và nền tảng IOS sẽ sớm được ra mắt.