RIO giúp xác định vị trí và mức độ ảnh hưởng của các tài khoản phát tán tin giả.

Các chiến dịch lan truyền tin giả vì các mục đích khác nhau không phải là mới - thậm chí đã có từ thời chiến. Tuy nhiên, điểm mới là giờ đây tin giả lan truyền qua internet và phương tiện truyền thông xã hội. Việc lan tryền tin giả có khả năng thay đổi các cuộc bầu cử, củng cố các thuyết âm mưu và gieo rắc mối bất hòa giữa các quốc gia hoặc nhóm sắc tộc.

Để hiểu rõ hơn về các chiến dịch này, Nhóm Kiến trúc và Thuật toán Phần mềm Trí tuệ Nhân tạo của Phòng thí nghiệm MIT Lincoln đã tạo ra chương trình Trinh sát các Hoạt động thông tin có ảnh hưởng (RIO). Đây là một hệ thống có thể tự động phát hiện những câu chuyện chứa tin tức sai lệch, cũng như những cá nhân đang lan truyền những câu chuyện đó, trên các mạng truyền thông xã hội. Đầu năm nay, nhóm đã xuất bản một bài báo về công trình của mình trong Kỷ yếu của Viện Hàn lâm Khoa học Quốc gia Mỹ, và đã nhận được giải thưởng R&D 100 cho chương trình này vào năm ngoái.

Ý tưởng dự án bắt nguồn từ năm 2014, vào thời gian bầu cử giữa nhiệm kỳ ở Mỹ, khi Steven Smith và các đồng nghiệp đang nghiên cứu cách mạng xã hội được khai thác vào mục đích chính trị. Họ nhận thấy trong khoảng thời gian này, mức độ hoạt động của các tài khoản thường đưa ra các ý kiến thân Nga (pro-Russian) gia tăng bất thường. Chương trình do họ phát triển đã được đưa vào thực tế trong cuộc bầu cử năm 2017 ở Pháp, để xem liệu các chiến dịch tin giả tương tự liệu có xuất hiện hay không.

Trong 30 ngày trước cuộc bầu cử năm 2017 ở Pháp, nhóm RIO đã thu thập dữ liệu truyền thông xã hội theo thời gian thực để tìm kiếm và phân tích sự lan truyền thông tin sai lệch. Họ đã tổng hợp tất cả 28 triệu bài đăng trên Twitter từ 1 triệu tài khoản. Sau đó, bằng cách sử dụng hệ thống RIO, họ có thể phát hiện các tài khoản thông tin sai lệch với độ chính xác 96%.

Điểm độc đáo của RIO là nó kết hợp nhiều kỹ thuật phân tích để tạo ra một cái nhìn toàn diện về vị trí hoạt động cách thức vận hành của các tài khoản lan truyền thông tin sai lệch.

Edward Kao, thành viên của nhóm nghiên cứu, cho biết: “Nếu bạn đang cố gắng trả lời câu hỏi ai là người có ảnh hưởng trên mạng xã hội, theo truyền thống, mọi người sẽ xem xét số lượng tương tác". Ví dụ, trên Twitter, các nhà phân tích sẽ xem xét số lượng tweet và retweet. "Nhưng chúng tôi nhận thấy, trong nhiều trường hợp, điều này không đủ. Tương tác không thực sự cho bạn biết tác động của các tài khoản trên mạng xã hội", Kao nói.

Kao đã phát triển một phương pháp thống kê - hiện được sử dụng trong RIO - để xác định không chỉ liệu tài khoản mạng xã hội có lan truyền thông tin sai lệch hay không mà còn cả mức độ tác động của tài khoản đó.

Erika Mackin, một thành viên khác trong nhóm nghiên cứu, cũng áp dụng phương pháp học máy mới giúp RIO phân loại các tài khoản này dựa trên dữ liệu liên quan đến các hành vi, như liệu tài khoản có tương tác với phương tiện truyền thông nước ngoài hay không, và ngôn ngữ mà tài khoản sử dụng. Cách tiếp cận này cho phép RIO phát hiện các tài khoản xấu hoạt động trong các chiến dịch khác nhau, từ cuộc bầu cử tổng thống Pháp năm 2017 đến việc phát tán thông tin sai lệch về Covid-19.

Một khía cạnh độc đáo khác của RIO là nó có thể phát hiện và định lượng tác động của các tài khoản được vận hành bởi cả bot (chương trình máy tính lập trình sẵn) và con người, trong khi hầu hết các hệ thống tự động đang được sử dụng hiện nay chỉ phát hiện ra bot. RIO cũng có khả năng giúp những người sử dụng hệ thống đưa ra các biện pháp đối phó khác nhau đối với một chiến dịch thông tin sai lệch cụ thể.

Nhóm nghiên cứu cho rằng RIO có thể được sử dụng bởi cả chính phủ và ngành công nghiệp, và trong các lĩnh vực truyền thông như báo chí và truyền hình. Hiện tại, họ đang tiếp tục phát triển chương trình để hiểu hơn thái độ và hành vi của các cá nhân bị ảnh hưởng như thế nào bởi thông tin sai lệch. “Bảo vệ chống lại thông tin sai lệch không chỉ là vấn đề an ninh quốc gia mà còn là bảo vệ nền dân chủ", Kao nói.

Hoàng Phương tổng hợp