Hội đồng giám sát Meta xem xét việc xử lý nội dung khiêu dâm của người nổi tiếng do AI tạo ra

NEW YORK, ngày 16 tháng 4 (Reuters) – Nền tảng Meta’ (META.O), Hội đồng Giám sát đang xem xét việc xử lý hai hình ảnh khiêu dâm do AI tạo ra của những người nổi tiếng nữ lưu hành trên các dịch vụ Facebook và Instagram của công ty, hội đồng cho biết hôm thứ Ba.

Hội đồng quản trị, được tài trợ bởi gã khổng lồ truyền thông xã hội nhưng hoạt động độc lập với nó, sẽ sử dụng hai ví dụ để đánh giá hiệu quả tổng thể của các chính sách và thực tiễn thực thi của Meta đối với nội dung khiêu dâm giả được tạo bằng trí tuệ nhân tạo, nó cho biết trong một bài đăng trên blog.

Người phát ngôn của hội đồng cho biết họ cung cấp mô tả về những hình ảnh được đề cập nhưng không nêu tên những người phụ nữ nổi tiếng được mô tả trong đó để “ngăn chặn tác hại thêm”.

Những tiến bộ trong công nghệ AI đã khiến hình ảnh, clip âm thanh và video bịa đặt hầu như không thể phân biệt được với nội dung thực do con người tạo ra, dẫn đến một loạt nội dung giả mạo tình dục lan tràn trên mạng, chủ yếu mô tả phụ nữ và trẻ em gái.

Trong một trường hợp đặc biệt nổi tiếng vào đầu năm nay, nền tảng truyền thông xã hội X thuộc sở hữu của Elon Musk đã nhanh chóng chặn người dùng tìm kiếm tất cả hình ảnh của ngôi sao nhạc pop Hoa Kỳ Taylor Swift sau khi gặp khó khăn trong việc kiểm soát sự lan truyền của những hình ảnh khiêu dâm giả mạo về cô ấy.

Một số giám đốc điều hành trong ngành đã kêu gọi ban hành luật hình sự hóa việc tạo ra “hàng giả sâu” có hại và yêu cầu các công ty công nghệ ngăn chặn việc sử dụng sản phẩm của họ như vậy.

Theo mô tả của Ủy ban Giám sát về các trường hợp của mình, một trường hợp liên quan đến hình ảnh do AI tạo ra về một phụ nữ khỏa thân giống nhân vật của công chúng đến từ Ấn Độ, được đăng bởi một tài khoản trên Instagram chỉ chia sẻ hình ảnh do AI tạo ra về phụ nữ Ấn Độ.

Hội đồng cho biết, hình ảnh còn lại xuất hiện trong một nhóm Facebook để chia sẻ các sáng tạo của AI và có hình ảnh do AI tạo ra về một phụ nữ khỏa thân giống “nhân vật của công chúng Mỹ” với một người đàn ông đang sờ soạng ngực cô ấy.

Meta đã xóa hình ảnh mô tả người phụ nữ Mỹ vì vi phạm chính sách bắt nạt và quấy rối, trong đó cấm “các bức vẽ hoặc ảnh photoshop mang tính chất khiêu dâm xúc phạm”, nhưng ban đầu vẫn để lại hình ảnh có người phụ nữ Ấn Độ và chỉ đảo ngược hướng đi sau khi hội đồng quản trị chọn nó để xem xét.

Trong một bài viết riêng, Meta thừa nhận các trường hợp và cam kết thực hiện các quyết định của hội đồng quản trị.

THÔNG TIN LIÊN HỆ

SDT: 0977383456

EMAIL: kbtech.technology@gmail.com

WEBSITE : kbtech.com.vn

ĐĂNG KÝ ZALO OA : dangkyzalooa.com