AI của Meta đang bị lợi dụng để tạo ảnh phản cảm

VTV.vn - Một số người dùng Facebook Messenge phản ánh tính năng tạo Sitcker bằng AI của Meta có thể tạo ra những hình ảnh phản cảm và được dùng để lan truyền trên mạng xã hội.

Các công ty công nghệ lớn đang đầu tư tài chính và nhân lực để chạy đua phát triển trí tuệ nhân tạo (AI), một trong những tính năng được ứng dụng phổ biến là tạo hình ảnh theo yêu cầu. Tuy nhiên, những công cụ này chưa được kiểm soát đúng mức nên dễ bị kẻ xấu lợi dụng để lan truyền những chủ đề độc hại trên không gian mạng.

Mới đây, sau khi Meta ra mắt tính năng tạo Sticker (nhãn dán) bằng AI, công cụ này bị người dùng lên tiếng phản ánh khi tạo ra những nhãn dán khỏa thân, bạo lực và phản cảm. Người dùng có thể sử dụng những nhãn dán này để gửi tới các tài khoản khác.

Đại diện Meta xác nhận ứng dụng Messenger tích hợp AI có thể cho kết quả đầu ra không phù hợp trong giai đoạn đầu thử nghiệm. Sau khi nhận phản hồi từ người dùng, công ty sẽ cập nhật để cải thiện tính năng.

Không chỉ xảy ra với Meta, người dùng Bing Image Creator của Microsoft cho biết khi kết hợp từ khóa về bộ phim thiếu nhi Spongebob và World Trade Center, AI sẽ cho ra những bức ảnh mô tả nhân vật hoạt hình lái máy bay hướng tới tòa tháp đôi, gợi nhớ vụ khủng bố 11/9/2001 tại Mỹ. Bằng cách tương tự, người dùng cũng có thể tạo ra hình ảnh các nhân vậy nổi tiếng cầm vũ khí thực hiện hành động bạo lực.

Một số người cũng tạo ảnh phản cảm bằng các công cụ AI khác như Dall-E của OpenAI hay Stable Diffusion của Stability AI, sau đó lan truyền lên mạng xã hội.

Có thể thấy, đi cùng với sự phát triển của các công cụ trí tuệ nhân tạo, các công ty công nghệ cũng đang loay hoay tìm giải pháp với các vấn đề phát sinh như nội dung, hình ảnh phản cảm hay sự lan tràn của thư, tin nhắc rác (spam).

Nguồn: GenK