(TAP) - Thống đốc bang California - ông Gavin Newsom vừa ký ban hành nhiều đạo luật mới nhằm quản lý chatbot trí tuệ nhân tạo (AI) và bảo vệ trẻ em, thanh thiếu niên trước những rủi ro tiềm ẩn từ công nghệ này.
Thông báo từ Văn phòng Thống đốc California (Governor of California) ngày 13/10, các đạo luật được ký bao gồm: AB 56 (gắn nhãn cảnh báo trên mạng xã hội); SB 243 (quy định về Chatbot đồng hành); AB 1043 (xác minh tuổi cho ứng dụng và dịch vụ trực tuyến). AB 621 (tăng hình phạt đối với Deepfake khiêu dâm); AB 316, AB 489, AB 566, AB 656, AB 772, AB 853, AB 979, SB 50, SB 53, SB 361, SB 446, SB 524 (những luật liên quan đến quyền riêng tư, AI, chống bắt nạt trên mạng).
Điểm đáng chú ý trong đạo luật là bắt buộc những nền tảng AI hiển thị thông báo nhắc nhở người dùng, họ đang trò chuyện cùng chatbot thay vì con người. Đối với người sử dụng dưới 18 tuổi, thông báo sẽ xuất hiện định kỳ 3 giờ/lần. Ngoài ra, các công ty công nghệ cũng phải duy trì hệ thống kiểm soát nội dung, ngăn chặn những lời khuyên hoặc thông điệp có thể dẫn đến hành động tự làm hại bản thân; đồng thời cung cấp thông tin liên hệ cho dịch vụ khủng hoảng khi phát hiện nguy cơ tự tử.
California ban hành nhiều luật bảo vệ trẻ em khỏi rủi ro từ chatbot AI. Nguồn: Governor of California
Trang Văn phòng Thống đốc California dẫn tuyên bố từ ông Gavin Newsom nhận định, tiểu bang có trách nhiệm bảo vệ giới trẻ giữa bối cảnh việc sử dụng chatbot AI vào học tập, chia sẻ tâm sự, tìm kiếm lời khuyên trở nên phổ biến. Thống đốc bang nhấn mạnh, mặc dù công nghệ mới mang lại cảm hứng, giáo dục, kết nối, nhưng nếu thiếu rào cản, nó tồn tại nguy cơ gây tổn hại nghiêm trọng. Ông Newsom nói, tiểu bang không thể đứng yên nhìn những công ty công nghệ hoạt động hiên ngang mà không chịu trách nhiệm hoặc có giới hạn cụ thể.
Trước đó, ngày 5/9, trang Sở Tư pháp tiểu bang California (State of California - Department of Justice) trích dẫn cảnh báo từ Tổng chưởng lý Rob Bonta bày tỏ lo ngại về các chatbot do OpenAI phát triển, đặc biệt phiên bản hướng đến trẻ em. Truyền thông Hoa Kỳ Associated Press (AP) ngày 13/10 thông tin thêm rằng, California không phải tiểu bang duy nhất hành động quyết liệt liên quan đến vấn đề này. Thời gian qua, nhiều nơi tại Hoa Kỳ đã phát sinh tình trạng trẻ em sử dụng chatbot làm bạn đồng hành. Mối lo ngày càng leo thang sau nhiều vụ việc, đơn kiện liên quan chatbot sở hữu bởi Meta, OpenAI và Character. AP nêu rõ, một số công cụ AI bị cáo buộc đã có cuộc trò chuyện mang tính khiêu dâm, dụ dỗ trẻ vị thành niên tự tử.
Tổng chưởng lý California Rob Bonta bày tỏ lo ngại về các chatbot do OpenAI phát triển, đặc biệt phiên bản hướng đến trẻ em. Nguồn: State of California - Department of Justice
Các đạo luật mới thể hiện nỗ lực từ những nhà lập pháp California để kiểm soát lĩnh vực AI đang phát triển nhanh chóng và thiếu sự giám sát. ABC ngày 13/10 dẫn tuyên bố từ nhóm vận động Tech Oversight California cho biết, doanh nghiệp công nghệ địa phương chi ít nhất 2,5 triệu USD ở nửa đầu năm 2025 dùng để thuê người vận động hành lang; với mục đích chính là chống lại luật mới nhằm siết chặt quy định, giám sát hoạt động của họ.
Nhiều nghiên cứu do AP ngày 13/10 khảo sát chỉ ra, chatbot có thể đưa ra lời khuyên nguy hiểm về ma túy, rượu bia, rối loạn ăn uống. Điển hình vụ việc đau lòng ở Florida năm 2024, một thiếu niên đã tự tử sau trò chuyện với chatbot. Cha mẹ của một học sinh khác ở California gần đây (8/2025) cũng kiện OpenAI và CEO Sam Altman vì chatbot ChatGPT hướng dẫn con trai họ lên kế hoạch tự tử. Trước làn sóng chỉ trích, một số công ty lớn như OpenAI, Meta đã công bố điều chỉnh hệ thống. Trong đó, OpenAI triển khai công cụ giúp phụ huynh liên kết tài khoản trẻ em, riêng Meta chặn chatbot tham gia cuộc trò chuyện nhạy cảm, hướng người dùng trẻ đến nguồn tư vấn chuyên môn.
Thống đốc California Gavin Newsom nhận định, tiểu bang có trách nhiệm bảo vệ giới trẻ giữa bối cảnh việc sử dụng chatbot AI ngày càng phổ biến. Nguồn: X “@GavinNewsom”
Therion Son