ISO/IEC 42001 – Hệ thống quản lý Trí tuệ nhân tạo: Những điều cần biết

Trí tuệ nhân tạo là gì?

Từ việc phát triển các ô tô tự lái đến công cụ trí tuệ nhân tạo (Artificical Intelligence – AI) như ChatGPT và Google Bard, trí tuệ nhân tạo (AI) là nền tảng của cuộc sống hàng ngày của chúng ta. Vậy AI là gì?

Các trợ lý ảo được cung cấp sức mạnh bởi AI như Siri, Alexa hoặc Google Assistant, chúng phản hồi các lệnh bằng giọng nói và thực hiện nhiệm vụ dựa trên đầu vào của người dùng. Đây là ví dụ về các công nghệ AI được tích hợp vào các thiết bị hàng ngày để làm cho chúng trở nên trực giác hơn và có khả năng tương tác với con người một cách tự nhiên và hữu ích.

Nhưng hiện nay điều đó còn đi xa hơn, các ứng dụng của AI đã làm thay đổi cách doanh nghiệp hoạt động. AI có tiềm năng cách mạng hóa các ngành công nghiệp khác nhau bằng cách cho phép máy móc giải quyết vấn đề phức tạp và suy nghĩ bằng trực giác, vượt xa sự tự động hóa đơn thuần. Điều này bao gồm nhiều lĩnh vực công nghệ con khác nhau, chẳng hạn như học máy và xử lý ngôn ngữ tự nhiên.

Với các rủi ro và tính phức tạp của AI, việc có cơ chế quản trị vững chắc là rất quan trọng. Hệ thống quản lý AI đóng vai trò quan trọng trong việc phát triển và triển khai các công nghệ AI.

Theo ISO/IEC TR 24030:2024, Hệ thống trí tuệ nhân tạo (AI System) được thiết kế để tạo ra các kết quả đầu ra như nội dung, dự báo, khuyến nghị hoặc quyết định cho một tập hợp mục tiêu nhất định do con người xác định. Trí tuệ nhân tạo (AI) là nghiên cứu và phát triển cơ chế, ứng dụng của hệ thống trí tuệ nhân tạo (AI System).

Các tiêu chuẩn ISO liên quan đến AI

ISO đã ban hành một số tiêu chuẩn giúp giảm thiểu rủi ro và tối đa hóa lợi ích của AI, bao gồm:

– ISO/IEC 22989, tiêu chuẩn thiết lập thuật ngữ cho AI và mô tả các khái niệm trong lĩnh vực AI;

– ISO/IEC 23053, thiết lập khung AI và máy học (Machine Learning) để mô tả hệ thống AI chung sử dụng công nghệ ML;

– ISO/IEC 23894, cung cấp hướng dẫn về quản lý rủi ro liên quan đến AI cho các tổ chức;

– ISO/IEC 5338, cung cấp các quy trình hỗ trợ việc xác định, kiểm soát, quản lý, thực thi và cải tiến hệ thống AI trong các giai đoạn vòng đời;

– ISO/IEC 5339, cung cấp cái nhìn ở cấp độ vĩ mô về bối cảnh ứng dụng AI, các bên liên quan và vai trò của họ, mối quan hệ với vòng đời của hệ thống cũng như các đặc điểm và cân nhắc chung của ứng dụng AI;

– ISO/IEC 5392, tiêu chuẩn này định nghĩa kiến trúc tham chiếu về kỹ thuật tri thức trong trí tuệ nhân tạo (AI). Kiến trúc tham chiếu mô tả vai trò, hoạt động, lớp xây dựng, thành phần kỹ thuật tri thức, mối quan hệ giữa chúng với nhau và với các hệ thống khác theo quan điểm người dùng hệ thống và chức năng;

– ISO/IEC 8183, tiêu chuẩn này định nghĩa các giai đoạn và xác định hành động liên quan để xử lý dữ liệu trong suốt vòng đời của hệ thống trí tuệ nhân tạo (AI), bao gồm thu thập, tạo, phát triển, triển khai, bảo trì và ngừng hoạt động;

– ISO/IEC 24668, tiêu chuẩn này mô tả các quy trình để thu thập, mô tả, lưu trữ và xử lý dữ liệu ở cấp độ tổ chức cung cấp dịch vụ phân tích dữ liệu lớn;

– ISO/IEC 25059, tiêu chuẩn này phác thảo mô hình chất lượng cho các hệ thống AI và là phần mở rộng dành riêng cho ứng dụng đối với các tiêu chuẩn trên SQuaRE;

– ISO/IEC 38507, tiêu chuẩn này cung cấp hướng dẫn cho các thành viên của cơ quan quản lý một tổ chức để cho phép và quản lý việc sử dụng Trí tuệ nhân tạo (AI), nhằm đảm bảo việc sử dụng hiệu quả, hiệu suất cao và được chấp nhận trong tổ chức;

– ISO/IEC 42001 là tiêu chuẩn hệ thống quản lý (Management System Standard). Việc thực hiện tiêu chuẩn này có nghĩa là đưa ra các chính sách và thủ tục để quản trị hợp lý một tổ chức liên quan đến AI, bằng cách sử dụng phương pháp Plan-Do-Check-Act. Thay vì xem xét chi tiết các ứng dụng AI cụ thể, nó cung cấp một cách thực tế để quản lý rủi ro và cơ hội liên quan đến AI trong toàn tổ chức. Do đó, nó mang lại giá trị cho bất kỳ doanh nghiệp hoặc tổ chức nào.

ISO/IEC 42001 là gì?

ISO/IEC 42001 là tiêu chuẩn quốc tế quy định yêu cầu để thiết lập, triển khai, duy trì và liên tục cải tiến Hệ thống quản lý trí tuệ nhân tạo (AIMS) trong các tổ chức. Nó được thiết kế cho các thực thể cung cấp hoặc sử dụng sản phẩm hoặc dịch vụ dựa trên AI, đảm bảo việc phát triển và sử dụng hệ thống AI một cách có trách nhiệm.

Hệ thống quản lý AI được quy định trong ISO/IEC 42001 là tập hợp các yếu tố tương tác hoặc liên quan của một tổ chức nhằm thiết lập các chính sách và mục tiêu, cũng như quy trình để đạt được những mục tiêu đó, liên quan đến việc phát triển, cung cấp hoặc sử dụng có trách nhiệm các hệ thống AI.

ISO/IEC 42001 quy định các yêu cầu và cung cấp hướng dẫn để thiết lập, triển khai, duy trì và liên tục cải thiện hệ thống quản lý AI trong bối cảnh của một tổ chức.

Mục tiêu của ISO/IEC 42001 là cung cấp hướng dẫn toàn diện cho các tổ chức về cách sử dụng trách nhiệm và hiệu quả công nghệ trí tuệ nhân tạo (AI), ngay cả khi công nghệ này đang phát triển nhanh chóng. Tiêu chuẩn này được thiết kế để bao quát các khía cạnh khác nhau của trí tuệ nhân tạo và ứng dụng khác nhau mà một tổ chức có thể đang triển khai, nó cung cấp phương pháp tích hợp để quản lý các dự án AI, từ đánh giá rủi ro đến xử lý hiệu quả các rủi ro này.

ISO/IEC 42001 được viết là một tiêu chuẩn cho các hệ thống quản lý, dành cho các tổ chức muốn triển khai hệ thống quản lý và theo đuổi chứng nhận cho nó. Chứng nhận theo ISO/IEC 42001 có nghĩa là tổ chức chứng nhận hệ thống quản lý (Certification Body) độc lập của bên thứ ba đã xác minh rằng hệ thống quản lý nội bộ của công ty đáp ứng các yêu cầu trong tiêu chuẩn ISO/IEC 42001. Dẫn đầu trong lĩnh vực AI, ISO/IEC 42001 cung cấp khuôn khổ và yêu cầu để các tổ chức xây dựng hệ thống quản lý có trách nhiệm, đạo đức và đáng tin cậy và khi kết hợp với chứng nhận, tổ chức sẽ có thể đảm bảo cho khách hàng của mình tính nhất quán và hiệu quả.

Tiêu chuẩn này được cấu trúc xung quanh một số thành phần cần thiết để quản lý hiệu quả hệ thống AI:

AI đã nhanh chóng thâm nhập vào nhiều ngành công nghiệp, bao gồm chăm sóc sức khỏe, quốc phòng, vận tải, tài chính, dịch vụ nhân sự, năng lượng, viễn thông và tiếp thị, mang lại vô số lợi ích. Bằng cách đạt được chứng nhận hệ thống quản lý theo ISO/IEC 42001, các tổ chức thể hiện trạng thái áp dụng sớm của mình, có thể đạt lợi thế cạnh tranh trên thị trường toàn cầu, được hỗ trợ cho các vấn đề của chính phủ và thể hiện cam kết đối với các hoạt động AI có trách nhiệm và đáng tin cậy cũng như AI có đạo đức, minh bạch và có trách nhiệm phát triển và sử dụng.

Quang Hạnh – Vụ HCHQ