Claude AI của Anthropic hiện có khả năng chấm dứt các cuộc trò chuyện 'gây khó chịu'

Claude AI của Anthropic hiện có khả năng chấm dứt các cuộc trò chuyện ‘gây khó chịu’

Claude AI có thể là khởi đầu cho sự kết thúc của cộng đồng bẻ khóa AI . Công ty đã thông báo trong một bài đăng trên trang web của mình rằng các mô hình Claude Opus 4 và 4.1 hiện có khả năng kết thúc cuộc trò chuyện với người dùng. Theo Anthropic, tính năng này sẽ chỉ được sử dụng trong “những trường hợp hiếm hoi, cực đoan liên tục gây hại hoặc lạm dụng tương tác của người dùng”.

Để làm rõ, Anthropic cho biết hai mô hình Claude này có thể thoát khỏi các cuộc trò chuyện có hại, chẳng hạn như “yêu cầu từ người dùng về nội dung khiêu dâm liên quan đến trẻ vị thành niên và các nỗ lực thu thập thông tin có thể dẫn đến bạo lực hoặc hành vi khủng bố trên quy mô lớn”. Với Claude Opus 4 và 4.1, các mô hình này sẽ chỉ kết thúc cuộc trò chuyện “như một giải pháp cuối cùng khi nhiều nỗ lực chuyển hướng đã thất bại và hy vọng về một tương tác hiệu quả đã cạn kiệt”, theo Anthropic. Tuy nhiên, Anthropic khẳng định hầu hết người dùng sẽ không gặp phải tình trạng Claude cắt ngang cuộc trò chuyện, ngay cả khi đang nói về những chủ đề gây tranh cãi cao, vì tính năng này sẽ được dành riêng cho “những trường hợp cực đoan”.

Trong trường hợp Claude kết thúc cuộc trò chuyện, người dùng sẽ không thể gửi bất kỳ tin nhắn mới nào trong cuộc trò chuyện đó nữa, nhưng có thể bắt đầu một cuộc trò chuyện mới ngay lập tức. Anthropic cho biết thêm rằng nếu một cuộc trò chuyện kết thúc, nó sẽ không ảnh hưởng đến các cuộc trò chuyện khác và người dùng thậm chí có thể quay lại, chỉnh sửa hoặc thử lại các tin nhắn trước đó để chuyển sang một hướng trò chuyện khác.

Đối với Anthropic, động thái này là một phần trong chương trình nghiên cứu của họ, tập trung vào ý tưởng về phúc lợi AI. Mặc dù ý tưởng nhân cách hóa các mô hình AI vẫn đang là một chủ đề tranh luận, công ty cho biết khả năng thoát khỏi “một tương tác có khả năng gây căng thẳng” là một cách tiết kiệm chi phí để quản lý rủi ro cho phúc lợi AI. Anthropic vẫn đang thử nghiệm tính năng này và khuyến khích người dùng cung cấp phản hồi khi gặp phải tình huống như vậy.

THÔNG TIN LIÊN HỆ

SDT: 0977383456

EMAIL: kbtech.technology@gmail.com

WEBSITE : kbtech.com.vn

ĐĂNG KÝ ZALO OA : dangkyzalooa.com