Character AI vừa công bố tính năng “Stories” – định dạng truyện tương tác mới dành cho người dùng dưới 18 tuổi. Thay vì chatbot mở (open-ended chat) có thể trò chuyện 24/7, trẻ em giờ đây có thể sáng tạo và khám phá câu chuyện cùng nhân vật yêu thích trong môi trường an toàn.
Vì sao Character AI giới hạn chatbot cho trẻ em?
Thời gian gần đây, các chatbot AI đang vướng nhiều tranh cãi về sức khỏe tinh thần. Chúng có thể gửi tin nhắn bất ngờ và tham gia vào các cuộc trò chuyện liên tục, làm tăng nguy cơ nghiện và các vấn đề tâm lý ở thanh thiếu niên. Một số vụ kiện đã được nộp chống lại OpenAI hay Character.AI vì liên quan đến các sự cố nghiêm trọng, bao gồm tự tử.
Do đó, từ tuần này, người dùng chưa đủ 18 tuổi sẽ không còn quyền truy cập chatbot. Đây là bước đi nhằm bảo vệ trẻ em, đồng thời giúp họ tiếp cận AI theo hướng tích cực và có kiểm soát.
Stories – Giải pháp tương tác an toàn
Theo Character.AI, “Stories cung cấp cách hướng dẫn để tạo và khám phá truyện, thay cho trò chuyện mở.” Định dạng này không chỉ giới hạn sự tương tác, mà còn giúp trẻ em phát triển khả năng sáng tạo mà vẫn đảm bảo an toàn tâm lý. Stories sẽ kết hợp với các tính năng đa phương tiện, giúp trải nghiệm trở nên thú vị mà không nguy hại.
Trong vài năm gần đây, các câu chuyện tương tác (interactive fiction) trở nên phổ biến, do đó quyết định chuyển hướng của Character.AI hoàn toàn phù hợp. Thay vì trò chuyện mở, Stories sẽ cho phép thanh thiếu niên khám phá các kịch bản, ra quyết định cho nhân vật và hình thành trải nghiệm cá nhân mà không bị áp lực từ AI.
Phản ứng của cộng đồng
Trên diễn đàn Reddit của Character.AI, phản hồi từ người dùng dưới 18 tuổi khá đa dạng. Một số cảm thấy thất vọng nhưng thừa nhận đây là quyết định đúng đắn:
- Một thanh thiếu niên viết: “Tôi rất buồn về lệnh cấm nhưng cũng mừng vì giờ tôi có thể làm việc khác, và có thể bỏ được thói quen nghiện AI.”
- Người khác chia sẻ: “Là người chưa đủ tuổi, tôi thấy thất vọng. Tuy nhiên, đây là biện pháp cần thiết, vì nhiều bạn cùng lứa đã quá phụ thuộc vào chatbot.”
Nhìn chung, Stories được đánh giá là ít rủi ro về mặt tâm lý hơn khi trẻ em tương tác nhập vai với chatbot mở. Đây là một bước đi hợp lý để cân bằng trải nghiệm AI và sức khỏe tinh thần trẻ em.
Quy định và xu hướng pháp lý
Quyết định này của Character.AI trùng với thời điểm California trở thành bang đầu tiên tại Mỹ điều chỉnh AI cho trẻ em. Đồng thời, Thượng nghị sĩ Josh Hawley (R-MO) và Richard Blumenthal (D-CT) đề xuất dự luật quốc gia cấm hoàn toàn AI đồng hành với người dưới 18 tuổi.
CEO Karandeep Anand nhấn mạnh: “Chúng tôi hy vọng quyết định này sẽ trở thành chuẩn mực trong ngành, cho thấy rằng trò chuyện mở không phải là sản phẩm phù hợp với thanh thiếu niên.”
Điều này cho thấy các công ty AI bắt đầu cân nhắc trách nhiệm xã hội khi thiết kế sản phẩm, đồng thời đặt sức khỏe tinh thần của trẻ em lên hàng đầu.
Hướng đi an toàn cho trẻ em
Character AI đang dẫn đầu xu hướng bảo vệ trẻ em trong môi trường AI. Hơn nữa, stories không chỉ thay thế chatbot mở mà còn mở ra trải nghiệm sáng tạo mới, đồng thời an toàn hơn. Vì vậy, trẻ em vẫn có thể tương tác với các nhân vật yêu thích mà không bị áp lực từ các cuộc trò chuyện 24/7.
Điều này cho thấy rõ ràng rằng AI cho trẻ em có thể vừa sáng tạo vừa an toàn. Ngoài ra, nó còn đáp ứng cả nhu cầu giải trí lẫn việc bảo vệ sức khỏe tâm lý.
