Từ ngày 15/8, nhiều ứng dụng AI sẽ phải đáp ứng các yêu cầu quản lý chặt chẽ hơn. Không ít cái tên trong danh sách khá quen thuộc với người dùng.
|
|
Robot AI mổ não hỗ trợ bác sĩ phẫu thuật. Ảnh: BVĐK Tâm Anh. |
Các hệ thống AI tự động kiểm tra, đánh giá kết quả học tập, hỗ trợ phẫu thuật, tự động quyết định cấp tín dụng hay điều khiển phương tiện tự hành cấp độ cao sẽ phải đáp ứng các yêu cầu quản lý mới từ ngày 15/8, theo Danh mục hệ thống trí tuệ nhân tạo (AI) có rủi ro cao vừa được Chính phủ ban hành.
Những ứng dụng này hiện được triển khai trong các lĩnh vực như giáo dục, y tế, ngân hàng và giao thông. AI được sử dụng để hỗ trợ hoặc tham gia vào nhiều hoạt động quan trọng như đánh giá kết quả học tập, hỗ trợ phẫu thuật, quyết định cấp tín dụng hoặc điều khiển phương tiện. Chính vì có thể ảnh hưởng trực tiếp đến quyền lợi, sức khỏe và sự an toàn của người dân nếu xảy ra sai sót, các hệ thống này được xếp vào nhóm AI có rủi ro cao.
Cụ thể theo quy định, danh mục AI có rủi ro cao bao gồm các hệ thống thuộc 6 lĩnh vực: Giáo dục, dân tộc và tôn giáo, y tế, ngân hàng, tố tụng, giao thông vận tải.
Trong lĩnh vực giáo dục, AI không chỉ tạo nội dung học tập mà còn có thể tự động đánh giá kết quả, xếp hạng hoặc phân tích hành vi người học. Vì tham gia trực tiếp vào quá trình dạy và học, nhóm này thuộc diện phải đáp ứng các yêu cầu quản lý chặt chẽ hơn.
Trong lĩnh vực y tế, các hệ thống AI hỗ trợ bác sĩ trong quá trình phẫu thuật hoặc điều khiển robot phẫu thuật nằm trong danh mục quản lý chặt chẽ. Do được sử dụng trong hoạt động khám chữa bệnh và có thể ảnh hưởng trực tiếp đến sức khỏe người bệnh, nhóm này được xếp vào AI có rủi ro cao.
Trong lĩnh vực ngân hàng, AI có khả năng tự động thực hiện giao dịch điện tử hoặc quyết định cấp tín dụng cũng thuộc nhóm có rủi ro cao. Những ứng dụng này có thể tham gia vào quá trình cung cấp dịch vụ tài chính cho khách hàng nên phải tuân thủ các yêu cầu quản lý theo quy định.
Giao thông vận tải là lĩnh vực có nhiều hệ thống AI thuộc danh mục nhất với 31 loại. Danh mục này bao gồm AI điều khiển phương tiện tự hành cấp độ cao, vận hành đèn tín hiệu giao thông, điều phối giao thông đường bộ, đường sắt và quản lý các công trình hạ tầng giao thông trọng yếu. Đây đều là những hệ thống được sử dụng để hỗ trợ vận hành giao thông hàng ngày nên nếu xảy ra sai sót có thể ảnh hưởng trực tiếp đến việc đi lại và an toàn của người dân.
Ngoài 4 lĩnh vực trên, danh mục còn bao gồm một số hệ thống AI trong lĩnh vực dân tộc, tôn giáo và tố tụng. Các hệ thống AI thuộc các lĩnh vực này giúp cơ quan nhà nước xử lý hồ sơ, xác minh thông tin, xác định đối tượng thụ hưởng chính sách hoặc nhận dạng sinh trắc học trong một số hoạt động tố tụng.
Ngoài việc xác định những hệ thống AI có rủi ro cao, quy định mới cũng đặt ra các nguyên tắc trong quá trình phát triển và vận hành nhóm AI này. Theo đó, các hệ thống thuộc danh mục phải luôn có sự giám sát, kiểm soát và khả năng can thiệp của con người trong suốt quá trình hoạt động.
AI có thể hỗ trợ phân tích thông tin, đưa ra gợi ý hoặc đề xuất phương án xử lý, nhưng không được tự đưa ra quyết định thay cho người có thẩm quyền. Quyền quyết định cuối cùng và trách nhiệm pháp lý vẫn thuộc về cơ quan, tổ chức hoặc cá nhân theo quy định của pháp luật.
Đối với các hệ thống đã được đưa vào hoạt động trước ngày 15/8, nhà cung cấp và đơn vị triển khai không phải dừng vận hành ngay mà được áp dụng lộ trình chuyển tiếp để hoàn thành các yêu cầu tuân thủ.
Theo lộ trình này, các hệ thống trong lĩnh vực y tế, giáo dục và tài chính phải hoàn thành việc tuân thủ trước ngày 1/9/2027. Những lĩnh vực còn lại có thời hạn đến trước ngày 1/3/2027.
Trong thời gian chuyển tiếp, các hệ thống vẫn được phép tiếp tục hoạt động. Tuy nhiên, nếu cơ quan có thẩm quyền xác định có nguy cơ gây thiệt hại nghiêm trọng, hệ thống AI đó có thể bị yêu cầu tạm dừng hoặc chấm dứt hoạt động theo quy định của Luật Trí tuệ nhân tạo.
