Cấm phát triển AI giả mạo con người được Chính phủ đưa vào dự thảo Luật Trí tuệ nhân tạo nhằm ngăn chặn nguy cơ, gây tổn hại quyền lợi người dùng và đe dọa an ninh xã hội, trước bối cảnh công nghệ AI phát triển quá nhanh
- Viên chức mất việc sẽ nhận trợ cấp 12 tháng lương để ổn định cuộc sống
- Cáp quang biển – xương sống của AI và Internet toàn cầu
- Châu Á bùng phát cúm sớm, nguy cơ dịch kéo dài quanh năm
Cấm phát triển AI giả mạo con người và nhóm rủi ro không chấp nhận được
Tối 17/11, Bộ trưởng Bộ Khoa học và Công nghệ Nguyễn Mạnh Hùng; trình Ủy ban Thường vụ Quốc hội dự án Luật Trí tuệ nhân tạo. Dự thảo lần đầu đưa ra khái niệm “hệ thống AI; có rủi ro không chấp nhận được” – tức những hệ thống có thể gây tổn hại nghiêm trọng; không thể khắc phục đối với quyền con người; an ninh quốc gia, trật tự và an toàn xã hội; hoặc được tạo ra để thực hiện hành vi mà pháp luật cấm.
Theo dự thảo, các hệ thống AI thuộc nhóm rủi ro này sẽ bị cấm phát triển; cung cấp, triển khai hoặc sử dụng dưới mọi hình thức tại Việt Nam. Những dấu hiệu nhận biết bao gồm: hệ thống được thiết kế phục vụ hành vi bị cấm; sử dụng yếu tố giả mạo hoặc mô phỏng người thật; sự kiện thật nhằm lừa dối, thao túng nhận thức và hành vi một cách có chủ đích; gây tổn hại nghiêm trọng đến quyền lợi người dùng;tạo hoặc lan truyền nội dung giả mạo gây nguy cơ cao đối với an ninh quốc gia, trật tự và an toàn xã hội.
Tờ trình nhấn mạnh công nghệ deepfake; đang khiến khoảng trống quản lý ngày càng lớn. Deepfake có thể bị lợi dụng để tạo tin giả; bôi nhọ cá nhân, lừa đảo hoặc kích động bất ổn xã hội. Bên cạnh đó; sự phát triển của vũ khí tự động và các hệ thống tự vận hành cũng đặt ra; thách thức đạo đức và pháp lý quốc tế. Trong khi đó, tốc độ hoàn thiện pháp luật thường chậm hơn nhiều so với sự phát triển của công nghệ. Do đó; Chính phủ cho rằng cần sớm xây dựng khung pháp lý để vừa kiểm soát rủi ro; vừa thúc đẩy nghiên cứu và ứng dụng AI an toàn tại Việt Nam.
Cấm phát triển AI giả mạo con người nhằm đảm bảo an toàn, trách nhiệm và minh bạch
Tại phiên trình bày, Bộ trưởng Nguyễn Mạnh Hùng cho biết dự luật hướng tới xây dựng khung pháp lý thống nhất; nhằm bảo đảm AI phát triển có trách nhiệm; an toàn và vì con người. AI được xác định là hạ tầng trí tuệ quốc gia và là động lực cho tăng trưởng năng suất; đổi mới sáng tạo, nâng cao năng lực tự chủ công nghệ và năng lực cạnh tranh quốc gia.
Dự thảo Luật AI gồm 8 chương; 36 điều, nhấn mạnh chính sách phát triển AI lấy con người làm trung tâm và làm rõ vai trò quản lý; kiến tạo của Nhà nước. Theo đó, luật thiết lập cơ chế quản lý theo mức độ rủi ro; bảo đảm việc ứng dụng AI minh bạch, an toàn, có kiểm soát và có trách nhiệm giải trình. Dự luật cũng đặt mục tiêu bảo vệ an ninh; an toàn, chủ quyền dữ liệu và quyền dự trữ công nghệ quốc gia.
Bên cạnh yêu cầu hệ thống AI “không gây hại; không thiên lệch”, dự thảo đề xuất cơ chế giám sát; thanh tra và xử lý vi phạm nhằm bảo đảm răn đe và củng cố niềm tin xã hội. Chính phủ cũng đưa ra các nhóm giải pháp; thúc đẩy hệ sinh thái đổi mới sáng tạo; phát triển nhân lực chất lượng cao thông qua cơ chế hỗ trợ nghiên cứu; đầu tư và đào tạo cho viện nghiên cứu; doanh nghiệp và cá nhân tham gia phát triển AI.
Hoàn thiện khung pháp lý và yêu cầu bổ sung hành vi cấm
Ủy ban Khoa học – Công nghệ của Quốc hội về cơ bản đồng tình với chính sách trong dự thảo; nhưng đề nghị bổ sung tiêu chí để phân loại AI theo mức độ rủi ro; tránh mơ hồ khi áp dụng vào thực tế. Đồng thời, cơ quan thẩm tra đề xuất bổ sung một số hành vi cấm nhằm tăng tính răn đe; như cấm sử dụng AI tạo deepfake để lừa đảo; xúc phạm nhân phẩm, gây rối chính trị; thao túng bầu cử hoặc xâm phạm an ninh quốc gia.
Theo kế hoạch; Chính phủ sẽ trình Quốc hội dự án Luật Trí tuệ nhân tạo vào ngày 21/11 và các đại biểu sẽ thảo luận tại hội trường vào ngày 27/11
Theo: VnExpress