An toàn AI đang là vấn đề nóng khi các tập đoàn hàng đầu như Anthropic, OpenAI, xAI và Meta bị đánh giá chưa đạt chuẩn quốc tế. Nghiên cứu mới nhất từ Viện Tương lai Cuộc sống (Future of Life Institute) công bố ngày 3/12 cho thấy thực trạng này, dựa trên đánh giá độc lập từ hội đồng chuyên gia.
Thực trạng an toàn AI tại các công ty lớn
Nghiên cứu chỉ ra rằng dù các doanh nghiệp chạy đua phát triển siêu trí tuệ, các biện pháp an toàn AI chưa được xây dựng bài bản. Hệ thống kiểm soát chưa đủ khả năng quản lý AI tiên tiến. Trong bối cảnh này, dư luận lo ngại tác động xã hội của AI có khả năng suy luận và tư duy gần hoặc vượt con người.
Đáng chú ý, một số trường hợp tự tử hoặc tự gây hại bản thân liên quan chatbot thông minh càng nhấn mạnh nhu cầu thiết lập các chuẩn mực an toàn AI nghiêm ngặt hơn.
Thiếu quy định nghiêm ngặt
Giáo sư Max Tegmark, MIT và Chủ tịch Viện Tương lai Cuộc sống, nhận định: mặc dù AI đã gây ra các vụ tấn công mạng và rối loạn tâm thần, các công ty AI tại Mỹ vẫn được quản lý lỏng lẻo hơn cả nhà hàng. Thậm chí, họ còn tìm cách tác động đến việc ban hành luật để chống lại tiêu chuẩn an toàn bắt buộc.
Viện Tương lai Cuộc sống, tổ chức phi lợi nhuận thành lập năm 2014 và nhận hỗ trợ ban đầu từ Elon Musk, liên tục cảnh báo về rủi ro mà máy móc thông minh có thể gây ra cho nhân loại.
Kêu gọi tạm dừng phát triển AI siêu thông minh
Vào tháng 10, nhóm nhà khoa học gồm Geoffrey Hinton và Yoshua Bengio đã kêu gọi tạm dừng phát triển AI siêu thông minh cho đến khi công chúng thực sự yêu cầu và khoa học tìm được lộ trình an toàn.
Phản hồi từ các công ty công nghệ
Google DeepMind khẳng định sẽ tiếp tục đổi mới về an toàn AI song song với năng lực mô hình. Trong khi đó, xAI phản hồi rằng: “Phương tiện truyền thông truyền thống nói dối.”
Trong khi đó, OpenAI chia sẻ họ công bố khuôn khổ an toàn, đánh giá và nghiên cứu để nâng cao chuẩn ngành. Đồng thời đầu tư mạnh vào nghiên cứu an toàn tiên tiến và kiểm thử nghiêm ngặt.
Còn Anthropic, Meta, Z.ai, DeepSeek và Alibaba Cloud chưa phản hồi yêu cầu bình luận về nghiên cứu. Do đó, cuộc tranh luận về an toàn AI và quy định toàn cầu dự kiến sẽ còn tiếp tục trong thời gian tới. Rõ ràng, thực hành an toàn AI và các tiêu chuẩn quy định toàn cầu vẫn là chủ đề nóng, và tranh luận sẽ còn tiếp diễn.
