Lừa đảo bằng giọng nói nhờ AI đang ngày càng phát triển. Nguồn:tuoitrethudo.com.vn

Những tiến bộ gần đây về trí tuệ nhân tạo tạo sinh (Generative AI) đã thúc đẩy việc phát triển tổng hợp giọng nói thực tế. Công nghệ này có tiềm năng cải thiện cuộc sống của chúng ta thông qua trợ lý giọng nói cá nhân hóa và các công cụ truyền thông tăng cường tiếp cận, nhưng đồng thời nó cũng dẫn tới sự xuất hiện của deepfake: các tên tội phạm có thể lạm dụng giọng nói tổng hợp để đánh lừa con người và máy móc nhằm trục lợi.

Để chống lại nguy cơ đang gia tăng này, phó giáo sư khoa học và kỹ thuật máy tính Ning Zhang tại Trường Kỹ thuật McKelvey thuộc Đại học Washington đã phát triển một công cụ có tên là AntiFake. Đây là một cơ chế phòng vệ tân tiến, có khả năng ngăn chặn việc tổng hợp giọng nói trái phép trước khi nó xảy ra. Zhang đã ra mắt AntiFake tại Hội nghị của Hiệp hội Máy tính về An ninh Máy tính và Truyền thông ở Copenhagen, Đan Mạch, cuối tháng 11 vừa qua.

Các phương pháp phát hiện deepfake truyền thống được sử dụng như một công cụ đánh giá và phát hiện âm thanh tổng hợp, nhưng chỉ sau khi vụ tấn công đã xảy ra. Trong khi đó, AntiFake chủ động hơn. Nó sử dụng các kỹ thuật tấn công học máy đối nghịch để ngăn chặnviệc tổng hợp giọng nói lừa đảo bằng cách khiến các công cụ AI khó đọc được những đặc điểm cần thiết từ các bản thu âm giọng nói. Phần code này được cung cấp miễn phí cho người dùng.

Zhang nói: "AntiFake đảm bảo rằng khi chúng ta đưa dữ liệu giọng nói ra ngoài thì bọn tội phạm khó mà sử dụng được thông tin đó để tổng hợp giọng nói của chúng ta rồi giả mạo danh tính."

Để đảm bảo AntiFake có thể chống lại những kẻ tấn công tiềm năng và các mô hình tổng hợp chưa xác định không ngừng thay đổi, Zhang cùng tác giả chính, nghiên cứu sinh Zhiyuan Yu đã xây dựng công cụ này để khái quát hóa và thử nghiệm nó với năm phần mềm tổng hợp giọng nói tiên tiến nhất. Kết quả, AntiFake đạt tỷ lệ bảo vệ là 95%, kể cả với cả những phần mềm thương mại tổng hợp giọng nói vô hình. Họ cũng thử nghiệm khả năng sử dụng của AntiFake với 24 người tham gia để đảm bảo công cụ này dễ tiếp cận các nhóm dân số đa dạng.

Hiện tại, AntiFake có thể bảo vệ các đoạn nói ngắn, nhằm vào dạng giả mạo giọng nói phổ biến nhất. Nhưng Zhang cũng chia sẻ rằng không gì có thể ngăn công cụ này mở rộng để bảo vệ những đoạn ghi âm dài hơn, thậm chí là âm nhạc, trong cuộc chiến chống lại thông tin sai lệch đang tiếp diễn.