Microsoft tuyên bố công cụ an toàn AI của họ không chỉ tìm ra lỗi mà còn sửa lỗi

Tính năng ‘sửa lỗi’ mới có thể xác định, đánh dấu và viết lại các đầu ra AI không chính xác.

Microsoft đang tung ra một tính năng mới có tên là “sửa lỗi” dựa trên nỗ lực của công ty nhằm chống lại sự không chính xác của AI. Khách hàng sử dụng Microsoft Azure để cung cấp năng lượng cho hệ thống AI của họ hiện có thể sử dụng khả năng tự động phát hiện và viết lại nội dung không chính xác trong đầu ra AI.

Tính năng sửa lỗi có sẵn trong bản xem trước như một phần của Azure AI Studio — một bộ công cụ an toàn được thiết kế để phát hiện lỗ hổng, tìm “ảo giác” và chặn lời nhắc độc hại. Sau khi bật, hệ thống sửa lỗi sẽ quét và xác định các điểm không chính xác trong đầu ra AI bằng cách so sánh với tài liệu nguồn của khách hàng.

Từ đó, nó sẽ làm nổi bật lỗi, cung cấp thông tin về lý do tại sao lỗi không chính xác và viết lại nội dung đang được đề cập — tất cả “trước khi người dùng có thể thấy” sự không chính xác. Mặc dù đây có vẻ là một cách hữu ích để giải quyết sự vô nghĩa thường được các mô hình AI đưa ra , nhưng nó có thể không phải là giải pháp hoàn toàn đáng tin cậy.

Vertex AI, nền tảng đám mây của Google dành cho các công ty phát triển hệ thống AI, có tính năng “làm cơ sở” cho các mô hình AI bằng cách kiểm tra đầu ra so với Google Tìm kiếm, dữ liệu của chính công ty và (sắp tới) là các tập dữ liệu của bên thứ ba.

Trong một tuyên bố gửi tới TechCrunch , một phát ngôn viên của Microsoft cho biết hệ thống “sửa lỗi” sử dụng “các mô hình ngôn ngữ nhỏ và các mô hình ngôn ngữ lớn để căn chỉnh đầu ra với các tài liệu cơ sở”, điều này có nghĩa là nó cũng không miễn nhiễm với việc mắc lỗi. Microsoft nói với TechCrunch rằng “Điều quan trọng cần lưu ý là phát hiện tính cơ sở không giải quyết được ‘độ chính xác’, mà giúp căn chỉnh đầu ra AI tạo ra với các tài liệu cơ sở ” .

THÔNG TIN LIÊN HỆ

SDT: 0977383456

EMAIL: kbtech.technology@gmail.com

WEBSITE : kbtech.com.vn

ĐĂNG KÝ ZALO OA : dangkyzalooa.com