(TAP) - OpenAI vừa đề xuất thiết lập bộ tiêu chuẩn trí tuệ nhân tạo (AI) toàn cầu nhằm tăng cường tính an toàn. Đề xuất tập trung vào hai trọng tâm chính, gồm nghiên cứu căn chỉnh công nghệ đảm bảo phù hợp với lợi ích con người và quản lý chặt chẽ khả năng AI tự nâng cấp chính mình (RSI).
Trong đề xuất công bố ngày 21/9, OpenAI kêu gọi các quốc gia hợp tác xây dựng bộ tiêu chuẩn chung cho những hệ thống AI tiên tiến. Công ty đề xuất tận dụng kinh nghiệm từ một số viện nghiên cứu an toàn hiện có làm nền tảng, sớm áp dụng khung quy chuẩn lên cả mô hình lẫn nhà phát triển. Đáng chú ý, OpenAI nhận định cần đánh giá kỹ lưỡng lợi ích, rủi ro về khả năng AI tự động nghiên cứu, tự nâng cấp (RSI).
OpenAI kêu gọi các quốc gia hợp tác xây dựng bộ tiêu chuẩn chung cho những hệ thống AI tiên tiến. Nguồn: openai.com
RSI là công nghệ giúp mô hình AI tự cải thiện mà không cần con người trực tiếp thực hiện từng bước. Dù RSI giúp đẩy nhanh tốc độ phát triển công nghệ, nhưng giới chuyên gia cảnh báo nguy cơ con người có thể mất quyền kiểm soát quá trình tiến hoá của AI. Trước những lo ngại về rủi ro, OpenAI ngày 21/9 trấn an rằng, viễn cảnh “tự cải tiến tự động” này chưa xảy ra; đồng thời nhấn mạnh công nghệ không nên phát triển theo hướng đó. Công ty cũng lưu ý thêm, nếu triển khai RSI mà thiếu biện pháp kiểm soát phù hợp, con người sẽ mất khả năng giám sát nghiên cứu.
Nguy cơ mất quyền kiểm soát sẽ xảy ra nếu công nghệ AI tự cải thiện mà không cần con người trực tiếp thực hiện từng bước. Nguồn: Nguồn: pexels.com
Quan sát bởi TAP News, OpenAI đưa ra đề xuất trên sau khi Anthropic hôm 12/9 kêu gọi ngành AI phát triển chậm lại. CEO Anthropic - ông Dario Amodei còn đề xuất sử dụng đơn vị đánh giá độc lập, thường xuyên tiếp cận hệ thống, giám sát biện pháp an toàn.
Danny Tran
