Microsoft hé lộ công nghệ AI avatar sống động như thật nhưng không đưa ra ngày phát hành

Các nhà nghiên cứu tại Microsoft đã tiết lộ một công cụ nhân tạo mới có thể tạo ra hình đại diện con người có độ chân thực cao nhưng không đưa ra thời gian biểu để cung cấp công cụ này cho công chúng, với lý do lo ngại về việc tạo điều kiện cho nội dung giả mạo sâu.

Mô hình AI có tên VASA-1, dành cho “kỹ năng cảm xúc thị giác”, có thể tạo ra một video hoạt hình về một người đang nói chuyện, với chuyển động môi đồng bộ, chỉ sử dụng một hình ảnh duy nhất và một đoạn âm thanh lời nói.

Các nhà nghiên cứu thông tin sai lệch lo ngại việc lạm dụng tràn lan các ứng dụng hỗ trợ AI để tạo ra các hình ảnh, video và clip âm thanh “giả mạo sâu sắc” trong một năm bầu cử quan trọng.

Các tác giả của báo cáo VASA-1 do Microsoft Research Asia công bố tuần này đã viết: “Chúng tôi phản đối bất kỳ hành vi nào nhằm tạo ra nội dung gây hiểu lầm hoặc có hại cho người thật”.

Họ nói: “Chúng tôi tận tâm phát triển AI một cách có trách nhiệm, với mục tiêu nâng cao sức khỏe của con người”.

“Chúng tôi không có kế hoạch phát hành bản demo trực tuyến, API, sản phẩm, chi tiết triển khai bổ sung hoặc bất kỳ dịch vụ liên quan nào cho đến khi chúng tôi chắc chắn rằng công nghệ này sẽ được sử dụng một cách có trách nhiệm và tuân thủ các quy định phù hợp.”

Các nhà nghiên cứu của Microsoft cho biết công nghệ này có thể ghi lại nhiều sắc thái khuôn mặt và chuyển động đầu tự nhiên.

Các nhà nghiên cứu cho biết trong bài đăng: “Nó mở đường cho sự tương tác trong thời gian thực với các hình đại diện giống như thật mô phỏng các hành vi trò chuyện của con người”.

Theo Microsoft, VASA có thể hoạt động với các bức ảnh nghệ thuật, bài hát và bài phát biểu không phải tiếng Anh.

Các nhà nghiên cứu đã quảng cáo những lợi ích tiềm năng của công nghệ như cung cấp giáo viên ảo cho học sinh hoặc hỗ trợ trị liệu cho những người có nhu cầu.

Họ nói: “Nó không nhằm mục đích tạo ra nội dung được sử dụng để gây hiểu lầm hoặc lừa dối”.

Theo bài đăng, các video VASA vẫn có “hiện vật” cho thấy chúng được tạo ra bởi AI.

Trưởng nhóm công nghệ ProPublica, Ben Werdmuller cho biết ông sẽ “rất vui mừng khi biết về việc ai đó sử dụng nó để đại diện cho họ trong cuộc họp Zoom lần đầu tiên”.

“Như thế nào rồi? Có ai để ý không?” anh nói trên mạng xã hội Threads.

Nhà sản xuất ChatGPT OpenAI vào tháng 3 đã tiết lộ một công cụ nhân bản giọng nói có tên “Voice Engine” về cơ bản có thể sao chép giọng nói của ai đó dựa trên mẫu âm thanh 15 giây.

Nhưng họ cho biết họ đang “thực hiện một cách tiếp cận thận trọng và sáng suốt để phát hành rộng rãi hơn do có khả năng lạm dụng giọng nói tổng hợp.”

Đầu năm nay, một nhà tư vấn làm việc cho một ứng cử viên tổng thống lâu năm của đảng Dân chủ thừa nhận anh ta đứng sau vụ mạo danh Joe Biden bằng cuộc gọi tự động gửi tới cử tri ở New Hampshire, nói rằng anh ta đang cố gắng nêu bật sự nguy hiểm của AI.

Cuộc gọi có âm thanh giống như giọng nói của Biden kêu gọi mọi người không bỏ phiếu trong cuộc bầu cử sơ bộ vào tháng 1 của bang, làm dấy lên cảnh báo đối với các chuyên gia lo ngại về làn sóng thông tin sai lệch sâu do AI cung cấp trong cuộc đua vào Nhà Trắng năm 2024.