Citation tool là giải pháp mới giúp nâng cao độ tin cậy nội dung AI. Các chatbot AI hiện nay có thể đóng nhiều vai: từ từ điển, nhà tư vấn tâm lý, đến nhà thơ hay “bạn biết tuốt”. Mặc dù các mô hình trí tuệ nhân tạo này trả lời nhanh và chính xác, nhưng làm sao xác minh được thông tin là thực hay chỉ là nhầm lẫn?
ContextCite: Một citation tool thông minh
Để giải quyết vấn đề này, các nhà nghiên cứu tại MIT CSAIL phát triển ContextCite. Đồng thời, đây là một citation tool giúp người dùng theo dõi nguồn thông tin mà mô hình thông minh sử dụng. Hơn nữa, công cụ còn hỗ trợ kiểm chứng các câu trả lời mà AI tạo ra. Theo Ben Cohen-Wang, nghiên cứu sinh tại MIT, “ContextCite giúp phát hiện chính xác câu mà mô hình dựa vào, từ đó kiểm chứng thông tin dễ dàng hơn”.
Nguyên lý hoạt động của citation tool
Nguyên lý hoạt động của ContextCite dựa trên “context ablation”. Khi một câu trả lời của AI dựa trên thông tin cụ thể, loại bỏ thông tin đó sẽ thay đổi phản hồi. Thay vào đó, ContextCite sử dụng phương pháp loại bỏ ngẫu nhiên nhiều lần và công cụ xác định được phần dữ liệu quan trọng nhất. Ví dụ, khi AI trả lời “Xương rồng có gai để chống động vật ăn thực vật”, loại bỏ câu liên quan trong Wikipedia sẽ thay đổi kết quả. Do đó, AI khó đưa ra câu trả lời ban đầu, giúp người dùng xác định nguồn chính xác.
Ứng dụng thực tiễn của citation tool
Citation tool có thể loại bỏ thông tin không liên quan, từ đó nâng cao độ chính xác của phản hồi. Bên cạnh đó, công cụ đồng thời phát hiện các “poisoning attack” – khi kẻ xấu cố tình đưa thông tin sai lệch. Kết quả là, AI sẽ khó bị lừa bởi nguồn dữ liệu giả mạo. Điều này đặc biệt quan trọng trong y tế, pháp luật và giáo dục ì những lĩnh vực này yêu cầu độ chính xác thông tin rất cao.
Tiềm năng và cải tiến tương lai
Hiện tại, ContextCite vẫn cần nhiều lượt suy luận (inference passes) để trích dẫn chi tiết và phải cải tiến để xử lý ngôn ngữ phức tạp. Tuy nhiên, các chuyên gia coi đây là bước tiến quan trọng trong việc đảm bảo thông tin AI đáng tin cậy. Harrison Chase, CEO LangChain, nhận xét rằng ContextCite giúp các nhà phát triển triển khai ứng dụng AI nhanh hơn và tự tin hơn, vì có thể xác minh nguồn dữ liệu bên ngoài mà AI dựa vào.
Như Aleksander Madry, giáo sư MIT EECS và điều phối viên CSAIL, nhấn mạnh:
“Khả năng mở rộng của AI có thể giúp chúng ta xử lý thông tin hàng ngày hiệu quả. Mặc khác, các dữ liệu phải đáng tin cậy và có nguồn gốc rõ ràng. Bên cạnh đó, ContextCite như một citation tool hướng tới mục tiêu này. Nó trở thành nền tảng cơ bản cho tổng hợp tri thức AI”.
