Danh sách 46 ứng dụng trí tuệ nhân tạo nguy hiểm được công bố chính thức

Thủ tướng ký ban hành danh mục vào ngày 30/6 với tổng cộng 46 ứng dụng trí tuệ nhân tạo được xếp vào nhóm rủi ro cao, những hệ thống này cần phải tuân thủ các yêu cầu quản lý rất khắt khe. Những ứng dụng này có tiềm năng gây ra tổn hại lớn đến tính mạng, sức khỏe, các quyền lợi hợp pháp của tổ chức, cá nhân, cũng như lợi ích của quốc gia, cộng đồng và an ninh.

Danh sách được tổ chức theo 6 lĩnh vực khác nhau: giáo dục, dân tộc và tôn giáo, y tế, ngân hàng, tố tụng và giao thông vận tải. Trong đó, lĩnh vực giao thông vận tải vượt trội với 31 hệ thống, tiếp theo là dân tộc và tôn giáo có 7 hệ thống. Giáo dục chứa 3 hệ thống, y tế và ngân hàng mỗi lĩnh vực có 2 hệ thống, còn tố tụng có 1 hệ thống.

Lĩnh vực giáo dục

Trong giáo dục, những ứng dụng được coi là rủi ro cao gồm các công cụ cung cấp tài liệu tự học dựa trên dữ liệu chưa được kiểm định; những công cụ tự động chấm bài, đánh giá thành tích và xếp loại học sinh; và các hệ thống dùng trí tuệ nhân tạo để giám sát và phân tích cách hành động của học sinh thông qua thông tin sinh học.

Lĩnh vực y tế

Ở lĩnh vực y tế, cả hai ứng dụng được liệt kê đều liên quan đến robot được dùng trong phẫu thuật. Những hệ thống này được gắn vào robot để trực tiếp thực hiện hoặc tham gia trực tiếp vào quá trình can thiệp, hỗ trợ các thao tác của bác sĩ.

Lĩnh vực ngân hàng

Trong lĩnh vực tài chính ngân hàng, những ứng dụng trí tuệ nhân tạo tự động thực hiện giao dịch điện tử có giá trị lớn mà không cần sự xem xét, chứng thực của con người được xem là rủi ro cao. Tương tự, các công cụ tự quyết định việc cho phép hoặc từ chối các khoản vay cũng nằm trong nhóm này.

Lĩnh vực dân tộc và tôn giáo

Ở lĩnh vực dân tộc và tôn giáo, những hệ thống rủi ro cao bao gồm các công cụ tự động tính điểm, phân loại, xếp hạng hồ sơ nhằm xác định đối tượng, khu vực được hưởng chính sách hỗ trợ; kiểm tra và phê chuẩn độ chính xác của thông tin; những hệ thống tự động chấp nhận hoặc bác bỏ hồ sơ; cũng như các công cụ phân bổ tài chính dựa trên công thức toán học hoặc phân loại cá nhân, nhóm người dựa trên gốc tộc, niềm tin tôn giáo hay tín ngưỡng.

Lĩnh vực tố tụng

Trong lĩnh vực tố tụng, công cụ nhận dạng đặc điểm sinh học trên diện rộng để phục vụ giải quyết các vụ án dân sự công ích cũng được đưa vào danh mục rủi ro cao.

Lĩnh vực giao thông vận tải

Phần lớn những ứng dụng rủi ro cao tập trung ở lĩnh vực giao thông vận tải. Đối với giao thông đường bộ và đường sắt, danh mục bao gồm những hệ thống điều khiển xe tự lái ở mức cao; những hệ thống điều khiển hoặc tự động quản lý tín hiệu giao thông; công cụ kiểm soát vận hành các công trình giao thông và kết cấu hạ tầng quan trọng; cũng như những ứng dụng tự động phát hiện, đánh giá khả năng xảy ra sự cố và gửi lệnh hạn chế hoặc dừng việc sử dụng công trình hay kết cấu hạ tầng.

Trong lĩnh vực hàng không, nhiều ứng dụng được đưa vào danh sách như những công cụ quản lý không lưu tự động; hỗ trợ hoặc thay thế vai trò kiểm soát viên không lưu; dự báo khả năng xung đột đường bay của tàu bay; và những ứng dụng tự động phân công thứ tự cất cánh hoặc hạ cánh.

Quy định về thời gian chuyển đổi

Theo quyết định, những ứng dụng trí tuệ nhân tạo đã được triển khai hoạt động trước khi quyết định này bắt đầu có hiệu lực sẽ được cho một thời gian để hoàn thành các yêu cầu tuân thủ theo quy định. Cụ thể, các hệ thống thuộc y tế, giáo dục và lĩnh vực tài chính phải hoàn thành việc tuân thủ trước ngày 1/9/2027, trong khi các lĩnh vực còn lại phải hoàn thành trước ngày 1/3/2027.

Luật Trí tuệ nhân tạo chính thức có hiệu lực kể từ ngày 1/3, với việc phân loại trí tuệ nhân tạo thành ba mức độ rủi ro: cao, trung bình và thấp. Những ứng dụng mức rủi ro cao phải tuân thủ các yêu cầu nghiêm ngặt hơn, bao gồm đánh giá mức độ phù hợp, lưu trữ các tài liệu kỹ thuật, và đảm bảo con người có khả năng giám sát và can thiệp vào quá trình hoạt động.