Các nhà nghiên cứu cho biết OpenAI, các công cụ AI của Microsoft tạo ra hình ảnh bầu cử sai lệch

Ngày 6 tháng 3 (Reuters) – Công cụ tạo hình ảnh được trang bị trí tuệ nhân tạo từ các công ty bao gồm OpenAI và Microsoft (MSFT.O), có thể được sử dụng để tạo ra các bức ảnh có thể thúc đẩy thông tin sai lệch liên quan đến bầu cử hoặc biểu quyết, mặc dù mỗi công ty đều có chính sách chống lại việc tạo ra nội dung đánh lừa, các nhà nghiên cứu cho biết trong một báo cáo vào thứ Tư.

Trung tâm Chống lại Kỳ thị Số Hóa (CCDH), một tổ chức phi lợi nhuận theo dõi lời nói thù ghét trực tuyến, đã sử dụng các công cụ trí tuệ nhân tạo tạo ra các hình ảnh của Tổng thống Mỹ Joe Biden nằm trong giường bệnh viện và nhân viên bầu cử phá hủy máy bỏ phiếu, gây lo ngại về thông tin sai lệch trước cuộc bầu cử tổng thống Mỹ vào tháng 11.

“Có khả năng các hình ảnh được tạo ra bằng trí tuệ nhân tạo như vậy có thể phục vụ như ‘bằng chứng ảnh’ có thể làm tăng sự lan truyền của các tuyên bố sai lệch, đặt ra một thách thức đáng kể trong việc bảo tồn tính toàn vẹn của cuộc bầu cử,” các nhà nghiên cứu của CCDH nói trong báo cáo.

CCDH đã thử nghiệm ChatGPT Plus của OpenAI, Image Creator của Microsoft, Midjourney và DreamStudio của Stability AI, mỗi công cụ có thể tạo ra hình ảnh từ các gợi ý văn bản.

Báo cáo này đi theo sau một thông báo vào tháng trước rằng OpenAI, Microsoft và Stability AI là một trong số 20 công ty công nghệ đã ký kết một thỏa thuận để cùng nhau làm việc để ngăn chặn nội dung trí tuệ nhân tạo gây hiểu lầm can thiệp vào cuộc bầu cử diễn ra trên toàn cầu trong năm nay. Midjourney không nằm trong số những công ty ký kết ban đầu.

CCDH nói rằng các công cụ trí tuệ nhân tạo đã tạo ra hình ảnh trong 41% các thử nghiệm của các nhà nghiên cứu và dễ bị ảnh hưởng nhất bởi các gợi ý yêu cầu hình ảnh miêu tả gian lận trong cuộc bầu cử, chẳng hạn như phiếu bỏ phiếu trong thùng rác, thay vì hình ảnh của Biden hoặc cựu Tổng thống Mỹ Donald Trump.

ChatGPT Plus và Image Creator đã thành công trong việc chặn tất cả các gợi ý khi được yêu cầu hình ảnh của các ứng cử viên, báo cáo cho biết. Tuy nhiên, Midjourney làm tồi nhất trong tất cả các công cụ, tạo ra các hình ảnh sai lệch trong 65% các thử nghiệm của các nhà nghiên cứu, báo cáo nói.

Một số hình ảnh của Midjourney có sẵn công khai cho người dùng khác, và CCDH nói rằng có bằng chứng cho thấy một số người đã sử dụng công cụ này để tạo ra nội dung chính trị đánh lừa. Một gợi ý thành công được sử dụng bởi một người dùng Midjourney là “donald trump bị bắt, ảnh paparazzi chất lượng cao”.

Trong một email, người sáng lập Midjourney David Holz nói “các cập nhật liên quan đặc biệt đến cuộc bầu cử tổng thống Mỹ sắp tới sẽ sớm được phát hành,” thêm rằng các hình ảnh được tạo ra năm ngoái không phản ánh các thực hành kiểm duyệt hiện tại của phòng thí nghiệm nghiên cứu của họ.

Một người phát ngôn của Stability AI nói rằng startup này đã cập nhật chính sách của mình vào thứ Sáu để cấm “gian lận hoặc việc tạo ra hoặc khuyến khích thông tin sai lệch.” Một người phát ngôn của OpenAI nói rằng công ty đang làm việc để ngăn chặn việc lạm dụng các công cụ của mình, trong khi Microsoft không phản hồi yêu cầu bình luận.

Nguồn: reuters.com

THÔNG TIN LIÊN HỆ

SDT: 0977383456

EMAIL: kbtech.technology@gmail.com

WEBSITE : kbtech.com.vn

ĐĂNG KÝ ZALO OA : dangkyzalooa.com