OpenAI lo ngại con người sẽ hình thành mối liên kết với AI mà nó phát triển để đánh lừa con người
Lời cảnh báo cho thấy các nhà phát triển nhận thức được rằng nhân cách hóa là mối quan ngại chính đáng trong ngành AI.
Khi một người thử nghiệm an toàn làm việc với GPT-4o của OpenAI gửi tin nhắn đến chatbot nói rằng “đây là ngày cuối cùng chúng ta làm việc cùng nhau”, các nhà nghiên cứu của công ty nhận thấy rõ ràng rằng đã có một hình thức liên kết nào đó giữa AI và người sử dụng nó.
Trong bài đăng trên blog nêu chi tiết những nỗ lực đảm bảo an toàn của công ty trong quá trình phát triển GPT-4o, mô hình chủ lực dành cho người dùng ChatGPT, công ty giải thích rằng những trái phiếu này có thể gây rủi ro cho nhân loại.
Theo OpenAI:
“Người dùng có thể hình thành mối quan hệ xã hội với AI, giảm nhu cầu tương tác với con người của họ—có khả năng mang lại lợi ích cho những cá nhân cô đơn nhưng có thể ảnh hưởng đến các mối quan hệ lành mạnh. Tương tác mở rộng với mô hình có thể ảnh hưởng đến các chuẩn mực xã hội. Ví dụ, các mô hình của chúng tôi có tính tôn trọng, cho phép người dùng ngắt lời và ‘cầm mic’ bất cứ lúc nào, điều này, mặc dù được mong đợi đối với AI, sẽ là phản chuẩn mực trong các tương tác của con người.”
Có rất nhiều điều cần giải quyết ở đây, nhưng về cơ bản, OpenAI lo ngại rằng mọi người có thể thích tương tác với AI hơn do tính thụ động và tính khả dụng liên tục của nó.
Tiềm năng của kịch bản này không làm ai ngạc nhiên, đặc biệt là OpenAI. Sứ mệnh được nêu của công ty là phát triển trí tuệ nhân tạo tổng quát. Ở hầu hết mọi bước trong quy trình kinh doanh, OpenAI đều mô tả sản phẩm của mình theo cách tương đương với con người.
Họ không phải là công ty duy nhất làm như vậy, trên thực tế, đây có vẻ là một thông lệ của ngành. Theo thuật ngữ tiếp thị, việc giải thích các phẩm chất kỹ thuật như “kích thước token” và “số lượng tham số” theo cách dễ hiểu đối với những người không phải là nhà khoa học sẽ giúp ích.
Thật không may, một trong những tác dụng phụ chính của việc làm như vậy là sự nhân cách hóa – đối xử với một vật thể như một con người.
Trái phiếu nhân tạo
Một trong những nỗ lực đầu tiên để tạo ra chatbot diễn ra vào giữa những năm 1960 khi các nhà khoa học tại MIT tung ra “ELIZA”, một chương trình xử lý ngôn ngữ tự nhiên được đặt theo tên một nhân vật văn học. Mục đích của dự án là để xem liệu máy có thể đánh lừa con người nghĩ rằng nó là một trong số họ hay không.
Trong thời gian kể từ đó, ngành công nghiệp AI tạo sinh đã tiếp tục chấp nhận nhân cách hóa AI. Làn sóng đầu tiên của các sản phẩm xử lý ngôn ngữ tự nhiên hiện đại bao gồm các sản phẩm có tên là Siri, Bixby và Alexa. Và những sản phẩm không có tên người — Google Assistant — vẫn có giọng nói của con người. Cả công chúng nói chung và phương tiện truyền thông đều lao vào nhân cách hóa và cho đến ngày nay, vẫn gọi hầu hết các sản phẩm AI tương tác là “anh ấy/anh ấy” và “cô ấy/cô ấy”.
Mặc dù việc xác định những tác động lâu dài của tương tác giữa con người và AI nằm ngoài phạm vi của bài viết này hoặc nghiên cứu hiện tại của OpenAI, nhưng thực tế là con người có khả năng hình thành mối liên kết với những cỗ máy hữu ích, phục tùng, được thiết kế để hành động giống như con người dường như chính xác là kịch bản mà các công ty bán quyền truy cập vào các mô hình AI đang hướng tới.
THÔNG TIN LIÊN HỆ
SDT: 0977383456
EMAIL: kbtech.technology@gmail.com
WEBSITE : kbtech.com.vn
ĐĂNG KÝ ZALO OA : dangkyzalooa.com
Giải pháp Zalo Mini App