Bộ Quốc phòng Mỹ được huy động để triển khai chương trình chống tin giả

Tin giả và các bài đăng trên mạng xã hội đã trở thành một mối đe dọa cho an ninh Mỹ lớn đến mức Bộ Quốc phòng đã phải khởi động một dự án nhằm đẩy lùi "các cuộc tấn công bằng tin giả tự động và trên quy mô lớn," khi những quan chức hàng đầu của Đảng Cộng hòa đang ngăn chặn các nỗ lực bảo vệ sự toàn vẹn của cuộc bầu cử.

Cơ quan các Dự án Nghiên cứu Quốc phòng Tiên tiến muốn tùy chỉnh phần mềm để có thể phát hiện các tin giả nằm trong hơn 500.000 câu chuyện, hình ảnh, video và clip âm thanh. Nếu thành công, hệ thống này có thể mở rộng sang việc phát hiện mục đích xấu và ngăn chặn việc lan truyền các tin giả để làm phân chia xã hội.

Nỗ lực này diễn ra khi các quan chức Mỹ đang nghiên cứu kế hoạch nhằm ngăn chặn các hacker bên ngoài phát tán các tin giả trên mạng xã hội trước cuộc bầu cử 2020.

 

Những câu chuyện giả mạo giờ có thể trở nên ngày càng nguy hiểm hơn với sự xuất hiện của công nghệ deepfake đang ngày càng trở nên tinh vi và khiến việc phát hiện tin giả bằng các phần mềm dựa trên dữ liệu trở nên khó khăn hơn. Các nhà nghiên cứu đã cho thấy những mạng đối nghịch tổng hợp – hay GANs – có thể được sử dụng để tạo ra các video giả mạo.

Vì vậy bằng cách tăng cường số lần kiểm tra thuật toán, cơ quan nghiên cứu quân sự hy vọng họ có thể phát hiện tin giả với các ý định độc hại trước khi nó lan truyền rộng rãi.

"Một bộ toàn diện các công cụ phát hiện mâu thuẫn về ngữ nghĩa sẽ làm tăng đáng kể gánh nặng cho những kẻ tạo ra tin giả, buộc chúng phải làm chính xác mọi chi tiết về ngữ nghĩa, trong khi những người ngăn chặn chỉ cần phát hiện ra một, hoặc một vài điểm mâu thuẫn." Cơ quan này cho biết về chương trình giám sát ngữ nghĩa Semantic Forensics của họ.

Các lỗi ngữ pháp

Cơ quan này cho biết thêm: "Công nghệ SemaFor này sẽ giúp xác định, ngăn chặn và hiểu được các chiến dịch thông tin sai lệch gây bất lợi."

 

Các hệ thống giám sát hiện tại thường hướng tới "các lỗi ngữ nghĩa." Một ví dụ của việc này là phần mềm sẽ không thông báo về những đôi khuyên tai không đúng vị trí trong các đoạn video hay hình ảnh giả mạo. Các dấu hiệu khác cũng thường bị những cỗ máy bỏ qua bao gồm: những cái răng kỳ dị, tóc rối và phần nền không bình thường.

Quá trình kiểm tra của thuật toán sẽ bao gồm cả khả năng quét và đánh giá hơn 250.000 bài viết tin tức và 250.000 bài đăng trên mạng xã hội với 5.000 chi tiết được làm giả lẫn trong đó. Chương trình trải qua 3 giai đoạn trong 48 tháng, bắt đầu từ việc quét tin tức và mạng xã hội, trước khi phân tích bằng công nghệ. Dự án sẽ còn bao gồm cả giai đoạn "hackathon" kéo dài đến hàng tuần.

Khoảng cách công nghệ

 

Cơ quan này cũng có một chương trình nghiên cứu khác trong hiện tại có tên MediFor, được tạo ra nhằm thu hẹp khoảng cách công nghệ về việc nhận diện hình ảnh, khi không có hệ thống đầu cuối nào có thể xác thực được việc chỉnh sửa các hình ảnh trên smartphone và camera kỹ thuật số.

"Cùng với sự trỗi dậy của hình ảnh kỹ thuật số là các kỹ năng liên quan cho phép ngay cả những người tương đối ít trình độ cũng có thể thao túng và bóp méo thông điệp của phương tiện truyền thông hình ảnh." Theo website của cơ quan này cho biết. "Trong khi những hoạt động thao túng như vậy vẫn còn khá ôn hòa, vì mục đích giải trí hoặc nghệ thuật, cũng như mục đích gây mâu thuẫn, ví dụ các chiến dịch tuyên truyền hoặc phát tán tin giả."

Với quy mô kéo dài 4 năm của dự án SemaFor, có thể nó sẽ không kịp thời triển khai để đáp ứng cho cuộc bầu cử vào năm tới của nước Mỹ.

Tham khảo Bloomberg

Nguồn: Genk.vn