(TAP) - Trung Quốc đang lên kế hoạch siết chặt quản lý các chatbot sử dụng trí tuệ nhân tạo (AI), đặc biệt những nội dung có thể tác động tiêu cực đến cảm xúc con người như tự tử, tự gây thương tích, dụ dỗ cờ bạc. Thông tin này được nêu trong dự thảo quy định do Cục Quản lý Không gian mạng Trung Quốc (CAC) công bố để lấy ý kiến công chúng.
Theo dự thảo do Cục Quản lý Không gian mạng Trung Quốc (Cyberspace Administration of China, viết tắt: CAC) công bố hôm 27/10, quy định mới nhắm vào những dịch AI có khả năng tương tác giống con người. Điều đó đồng nghĩa các sản phẩm AI cung cấp đến công chúng tại Trung Quốc, nếu mô phỏng tính cách con người, tạo ảnh hưởng cảm xúc thông qua văn bản, hình ảnh, âm thanh hoặc video, sẽ phải tuân thủ yêu cầu nghiêm ngặt hơn. Thời hạn góp ý dự thảo kéo dài hết ngày 25/1 năm sau.
CNBC ngày 29/12 dẫn lời Giáo sư thỉnh giảng thuộc Trường Luật NYU (NYU School of Law) - ông Winston Ma nhận định, đây có thể là nỗ lực đầu tiên trên thế giới nhằm điều chỉnh AI có đặc điểm giống con người. Chuyên gia đánh giá, so với quy định về AI tạo sinh (sáng tạo nội dung) năm 2023, đề xuất lần này phản ánh: Bắc Kinh muốn chuyển trọng tâm từ an toàn nội dung sang an toàn cảm xúc.
Trung Quốc dự thảo quy định siết kiểm soát chatbot AI liên quan đến tự tử và cờ bạc. Nguồn: cac.gov.cn
Dự thảo từ CAC quy định nêu rõ, chatbot AI không được phép tạo ra nội dung khuyến khích tự tử, tự gây thương tích, bạo lực bằng lời nói hoặc thao túng cảm xúc gây hại sức khỏe tâm thần người dùng. Nếu phát hiện người dùng đề cập ý định tự tử, nhà cung cấp dịch vụ phải để con người tiếp quản cuộc trò chuyện, nhanh chóng liên hệ người giám hộ. Ngoài ra, chatbot AI còn bị cấm tạo nội dung liên quan đến cờ bạc, tục tĩu hoặc bạo lực. Trẻ vị thành niên chỉ sử dụng AI vào mục đích bầu bạn cảm xúc khi có sự đồng ý từ phụ huynh, đồng thời phải giới hạn thời gian sử dụng. Bên cạnh đó, nền tảng còn phải có khả năng nhận diện người dùng là trẻ vị thành niên, kể cả khi họ không khai báo tuổi.
Chuyên gia đánh giá, quy mới cho thấy Trung Quốc đang muốn chuyển trọng tâm từ an toàn nội dung sang an toàn cảm xúc. Nguồn: law.nyu.edu
Dự thảo cũng yêu cầu các nền tảng nhắc nhở người dùng sau 2 giờ tương tác liên tục với AI, bắt buộc đánh giá an ninh những chatbot có quy mô lớn. Bên cạnh những hạn chế, tài liệu vẫn khuyến khích ứng dụng AI giống người trong việc truyền bá văn hóa, hỗ trợ tinh thần người cao tuổi. Đề xuất trên xuất hiện giữa bối cảnh nhiều công ty chatbot AI lớn phía Trung Quốc sắp phát hành cổ phiếu lần đầu ra công chúng (IPO). Động thái trên cho thấy, Bắc Kinh ngày càng chú trọng đến tác động của AI lên hành vi, sức khỏe tinh thần con người.
Therion Son