Công bố danh mục 46 hệ thống AI rủi ro cao

Robot phẫu thuật, AI xếp hạng người học, hệ thống tự động quyết định cấp tín dụng… nằm trong danh mục hệ thống AI có rủi ro cao theo quy định của Chính phủ.

Theo danh mục được Thủ tướng ký ban hành ngày 30/6, có 46 hệ thống AI được xếp vào nhóm rủi ro cao và phải đáp ứng yêu cầu quản lý nghiêm ngặt. Đây là những hệ thống có thể gây thiệt hại đáng kể đến tính mạng, sức khỏe, quyền và lợi ích hợp pháp của tổ chức, cá nhân, lợi ích quốc gia, lợi ích công cộng và an ninh quốc gia.

Danh mục được chia thành 6 lĩnh vực gồm giáo dục; dân tộc và tôn giáo; y tế; ngân hàng; tố tụng; giao thông vận tải. Trong số này, giao thông vận tải là lĩnh vực chiếm nhiều nhất với 31 hệ thống. Lĩnh vực dân tộc và tôn giáo xếp thứ hai với 7 hệ thống. Lĩnh vực giáo dục có 3 hệ thống, y tế và ngân hàng cùng có 2 hệ thống còn lĩnh vực tố tụng có một hệ thống.

Trong giáo dục, nhóm rủi ro cao gồm AI cung cấp nội dung tự học sử dụng nguồn dữ liệu không kiểm soát; AI tự động kiểm tra, đánh giá kết quả, xếp hạng người học; hệ thống sử dụng AI để giám sát, phân tích hành vi người học sinh bằng dữ liệu sinh trắc học.

Ở lĩnh vực y tế, hai hệ thống được liệt kê đều liên quan đến robot phẫu thuật. Đây là các hệ thống tích hợp vào robot trực tiếp thực thi hoặc tham gia trực tiếp vào quá trình can thiệp, hướng dẫn thao tác. Với ngân hàng là AI tự động thực hiện giao dịch điện tử giá trị lớn mà không qua kiểm tra, phê duyệt của con người; AI tự quyết định cấp tín dụng cũng thuộc nhóm rủi ro cao.

AI rủi ro cao ở lĩnh vực dân tộc và tôn giáo là những hệ thống tự động chấm điểm, phân loại, xếp hạng hồ sơ để xác định đối tượng, địa bàn hưởng chính sách; xác thực và quyết định tính hợp lệ của thông tin; hệ thống tự động quyết định chấp thuận hoặc từ chối hồ sơ; phân bổ ngân sách theo thuật toán hoặc phân loại cá nhân, nhóm cộng đồng theo thuộc tính dân tộc, tín ngưỡng, tôn giáo.

Ở lĩnh vực tố tụng, AI nhận dạng sinh trắc học diện rộng phục vụ giải quyết án dân sự công ích cũng nằm trong danh mục.

Phần lớn hệ thống AI rủi ro cao thuộc lĩnh vực giao thông vận tải. Với giao thông đường bộ và đường sắt, danh mục đề cập đến hệ thống điều khiển tự hành cấp độ cao trên phương tiện giao thông; điều khiển hoặc tự động vận hành tín hiệu giao thông; AI kiểm soát vận hành công trình giao thông và hạ tầng kỹ thuật trọng yếu; AI tự động phát hiện, đánh giá nguy cơ sự cố và phát hiện lệnh hạn chế hoặc dừng khai thác công trình, kết cấu hạ tầng…

Trong hàng không, nhiều hệ thống được đưa liệt kê như AI quản lý không lưu tự động; hỗ trợ hoặc thay thế kiểm soát viên không lưu; dự báo xung đột quỹ đạo tàu bay; tự động điều phối slot cất/hạ cánh…

Theo quyết định, những hệ thống AI đã đưa vào hoạt động trước khi quyết định này có hiệu lực sẽ có thời gian chuyển tiếp để hoàn thành các nghĩa vụ tuân thủ theo quy định. Trong đó, hệ thống thuộc lĩnh vực y tế, giáo dục và tài chính phải hoàn thành tuân thủ trước ngày 1/9/2027. Các lĩnh vực còn lại trước 1/3/2027.

Luật Trí tuệ nhân tạo có hiệu lực từ ngày 1/3, phân loại AI thành ba mức độ rủi ro gồm cao, trung bình và thấp. Trong đó, nhóm rủi ro cao phải thực hiện các nghĩa vụ nghiêm ngặt hơn như đánh giá sự phù hợp, lưu giữ hồ sơ kỹ thuật, bảo đảm khả năng giám sát và can thiệp của con người.

Danh mục hệ thống AI rủi ro cao

Trọng Đạt

• Phân loại AI rủi ro cao: Phép thử đầu tiên của Luật Trí tuệ nhân tạo
  

  
  
  

• Microsoft: Việt Nam có tỷ lệ ‘nhân sự AI’ cao nhất Đông Nam Á