Trí tuệ nhân tạo có trách nhiệm là gì? Cách tiếp cận so sánh

AI có trách nhiệm là gì?

Chúng ta vẫn chưa có một định nghĩa được chia sẻ rộng rãi về “AI có trách nhiệm”. Trong một số trường hợp, nó được gọi là AI đáng tin cậy, có đạo đức, an ninh hoặc an toàn. Ở những trường hợp khác, đây chỉ là các nguyên tắc nằm trong khái niệm RAI rộng hơn hoặc được coi là các phạm trù khác nhau hoàn toàn.

Sự quan tâm ngày càng lớn đến AI có trách nhiệm, có đạo đức, đáng tin cậy, an ninh và an toàn bắt nguồn từ lo ngại rộng rãi về các tác động tiêu cực tiềm ẩn của nó, dù là có chủ ý hay ngoài ý muốn.

Theo Viện Kỹ sư Điện và Điện tử (IEEE), mối lo này xuất phát từ việc phân tích đạo đức truyền thống thường bị loại khỏi thực hành kỹ thuật, nơi các tiêu chuẩn đạo đức cơ bản liên quan đến an toàn, an ninh, chức năng, công bằng, thiên lệch, gây nghiện và các tổn hại gián tiếp tới xã hội thường bị coi là ngoài phạm vi.

Tuy nhiên, với khả năng mở rộng và tác động rộng khắp của AI đến mọi khía cạnh xã hội và đời sống hàng ngày, việc dự liệu và giảm thiểu rủi ro đạo đức cần trở thành thực hành chuẩn. Cách tiếp cận hiện nay—phát hành công nghệ ra thế giới mà thiếu giám sát đầy đủ, để mặc người khác xử lý hệ quả—không còn chấp nhận được.

Dẫu vậy, chuyển từ lý thuyết và nguyên tắc đạo đức sang thực hành cụ thể theo từng bối cảnh vẫn là rào cản đáng kể đối với việc áp dụng rộng rãi phân tích tác động đạo đức một cách có hệ thống trong kỹ nghệ phần mềm.

Các nguyên tắc của AI có trách nhiệm

Khi xem xét tài liệu, có thể thấy khá nhiều phát triển liên quan đến các nguyên tắc RAI đang được thảo luận. Hãy điểm qua từng nguyên tắc.

Khung đạo đức

AI có trách nhiệm nhấn mạnh việc sử dụng các khung đạo đức để đảm bảo trách nhiệm giải trình, trách nhiệm và tính minh bạch trong hệ thống AI. Điều này bao gồm xử lý các vấn đề như quyền riêng tư, tự chủ và thiên lệch.

Minh bạch và khả năng giải thích

Tính minh bạch trong thuật toán và quy trình ra quyết định của AI là yếu tố then chốt để xây dựng niềm tin giữa các bên liên quan. AI có thể giải thích (XAI) hướng tới việc tạo ra các mô hình có thể diễn giải và dễ hiểu, thúc đẩy minh bạch và niềm tin.

Thiên lệch và công bằng

AI có trách nhiệm tìm cách nhận diện và khắc phục thiên lệch trong thuật toán AI để thúc đẩy các quyết định công bằng. Điều này đòi hỏi sử dụng tập dữ liệu đa dạng và bao trùm để ngăn ngừa kết quả phân biệt đối xử.

Để tìm hiểu thêm về thiên lệch trong AI, hãy nghe podcast Chiến đấu vì công lý thuật toán cùng Tiến sĩ Joy Buolamwini.

Quản trị và quy định

Việc phát triển các tiêu chuẩn và khung quản trị AI là cần thiết để định hướng việc sử dụng AI có trách nhiệm. Điều này bao gồm xây dựng các cách tiếp cận có cấu trúc để giảm thiểu rủi ro ở nhiều cấp độ, từ nhà nghiên cứu cá nhân đến quy định của chính phủ.

Tác động xã hội và môi trường

AI có trách nhiệm tính đến các tác động kinh tế - xã hội và môi trường rộng hơn của AI, như ảnh hưởng đến việc làm, bất bình đẳng và tiêu thụ tài nguyên, cũng như khả năng gây ra thị trường số không công bằng hoặc tổn hại môi trường do sử dụng tài nguyên.

Công bằng, an ninh và quyền riêng tư

Nỗ lực của Ủy ban Châu Âu trong việc điều chỉnh AI nhấn mạnh tầm quan trọng của công bằng, an ninh, quyền riêng tư, khả năng giải thích, an toàn và khả năng tái lập như những thành tố của AI có trách nhiệm.

Trách nhiệm đạo đức và pháp lý

Các thảo luận về AI có trách nhiệm thường đề cập đến trách nhiệm đạo đức, bao gồm điều kiện nhân quả và nhận thức luận. Nghĩa là hành động của AI phải dẫn đến kết quả, và các chủ thể cần nhận thức được hệ quả đạo đức. Khung pháp lý cũng xem xét trách nhiệm, nghĩa vụ và khả năng bị quy lỗi đối với các hệ thống AI.

Sự tham gia của các bên liên quan

Một khung AI có trách nhiệm thường đòi hỏi quy trách nhiệm cho tất cả các bên liên quan, bao gồm nhà phát triển, người dùng và có thể cả bản thân các hệ thống AI.

Phân loại thay thế về các nguyên tắc AI có trách nhiệm trong học thuật

Trong giới học thuật, một số tổng quan có hệ thống về các nguyên tắc đạo đức AI đã đưa ra các phân loại có phần khác nhau. Chẳng hạn, Jobin et al. đã rà soát 84 hướng dẫn đạo đức và đề xuất 11 nguyên tắc:

• Minh bạch
• Công lý và công bằng
• Không gây hại
• Trách nhiệm
• Quyền riêng tư
• Làm điều thiện
• Tự do và tự chủ
• Niềm tin
• Phẩm giá
• Bền vững
• Đoàn kết

Tự nhiên là họ gặp phải sự khác biệt lớn trong cách diễn giải các nguyên tắc này và cách khuyến nghị đề xuất áp dụng. Tuy vậy, họ ghi nhận một số bằng chứng về sự hội tụ quanh năm nguyên tắc cốt lõi:

• Minh bạch
• Công lý và công bằng
• Không gây hại
• Trách nhiệm
• Quyền riêng tư

Tuy nhiên, các quan điểm khác cho rằng vô vàn khung đạo đức AI có thể được quy về chỉ năm siêu nguyên tắc:

• Tôn trọng tính tự chủ
• Làm điều thiện
• Không gây hại
• Công lý
• Tính khả giải

Các nguyên tắc AI có trách nhiệm của OECD

Các tổ chức quốc tế cũng tích cực đóng góp cho thảo luận toàn cầu về cách định hình các định nghĩa này nhằm phục vụ chính sách và hài hòa hóa.

Tổ chức Hợp tác và Phát triển Kinh tế (OECD)—nơi tôi đảm nhiệm vai trò Chuyên gia AI về Rủi ro và Trách nhiệm giải trình, cũng như về Giám sát Sự cố—đã đưa ra danh mục toàn diện các nguyên tắc cho AI đáng tin cậy.

Các nguyên tắc này thúc đẩy việc sử dụng AI mang tính đổi mới, đáng tin cậy và tôn trọng nhân quyền cùng các giá trị dân chủ. Ban đầu được thông qua năm 2019, chúng đã được cập nhật vào tháng 5/2024 để đảm bảo vẫn vững chắc và phù hợp trong bối cảnh những tiến triển mới về công nghệ và chính sách.

Hiện nay, Liên minh Châu Âu, Hội đồng Châu Âu, Hoa Kỳ, Liên Hợp Quốc và các khu vực pháp lý khác sử dụng định nghĩa về hệ thống AI và vòng đời dưới đây của OECD trong các khuôn khổ lập pháp, quy định và hướng dẫn của họ.

Tóm lại, tất cả đều là các nguyên tắc dựa trên giá trị và được nhóm theo các hạng mục sau:

Tăng trưởng bao trùm, phát triển bền vững và hạnh phúc

Các bên liên quan về AI nên chủ động quản trị có trách nhiệm đối với AI đáng tin cậy nhằm theo đuổi những kết quả có lợi cho con người và hành tinh, như tăng cường năng lực con người và thúc đẩy sáng tạo, nâng cao sự hòa nhập của các nhóm ít được đại diện, giảm bất bình đẳng kinh tế, xã hội, giới và các bất bình đẳng khác, cũng như bảo vệ môi trường tự nhiên, qua đó thúc đẩy tăng trưởng bao trùm, hạnh phúc, phát triển bền vững và bền vững môi trường.

Nhân quyền và các giá trị dân chủ, bao gồm công bằng và quyền riêng tư

Các chủ thể AI cần tôn trọng pháp quyền, nhân quyền và các giá trị dân chủ, lấy con người làm trung tâm trong suốt vòng đời hệ thống AI. Những giá trị này bao gồm không phân biệt đối xử và bình đẳng, tự do, phẩm giá, tự chủ của cá nhân, quyền riêng tư và bảo vệ dữ liệu, đa dạng, công bằng, công lý xã hội và các quyền lao động được quốc tế công nhận.

Minh bạch và khả năng giải thích

Các chủ thể AI nên cam kết minh bạch và công bố có trách nhiệm về hệ thống của mình. Do đó, họ nên cung cấp thông tin có ý nghĩa, phù hợp với bối cảnh và nhất quán với trình độ công nghệ hiện tại, nhằm thúc đẩy sự hiểu biết chung về hệ thống AI, bao gồm năng lực và hạn chế của chúng.

Tính vững chắc, an ninh và an toàn

Các hệ thống AI phải vững chắc, an ninh và an toàn trong suốt vòng đời của chúng để, trong điều kiện sử dụng bình thường, sử dụng hoặc lạm dụng có thể lường trước, hay các điều kiện bất lợi khác, chúng hoạt động phù hợp và không gây ra rủi ro an toàn và/hoặc an ninh ở mức không hợp lý.

Trách nhiệm giải trình

Các chủ thể AI phải chịu trách nhiệm về hoạt động đúng đắn của hệ thống AI và việc tuân thủ các nguyên tắc nêu trên, dựa trên vai trò, bối cảnh và phù hợp với trình độ công nghệ hiện tại. Theo đó, các chủ thể AI nên đảm bảo khả năng truy vết, bao gồm đối với tập dữ liệu, quy trình và quyết định được đưa ra trong suốt vòng đời hệ thống AI. Khả năng truy vết này phải cho phép phân tích đầu ra của hệ thống AI và phản hồi các yêu cầu, phù hợp với bối cảnh và trình độ công nghệ hiện tại.

Các nguyên tắc AI có trách nhiệm của ISO 

Mặt khác, theo Tổ chức Tiêu chuẩn hóa Quốc tế (ISO), có ba lĩnh vực then chốt để một hệ thống AI trở nên đáng tin cậy:

1. Cung cấp dữ liệu tốt, đa dạng
2. Đảm bảo thuật toán có thể xử lý sự đa dạng đó
3. Và kiểm thử phần mềm tạo ra để phát hiện gán nhãn sai hoặc tương quan kém

Tổ chức này đưa ra các hướng dẫn sau để đạt được điều đó:

1. Thiết kế vì con người bằng cách sử dụng tập người dùng và kịch bản sử dụng đa dạng, và đưa phản hồi này vào trước và xuyên suốt vòng đời của AI.
2. Sử dụng nhiều chỉ số để đánh giá quá trình huấn luyện và giám sát, bao gồm khảo sát người dùng, chỉ báo hiệu năng tổng thể của hệ thống, và tỷ lệ dương tính/âm tính giả được phân tích theo các phân nhóm khác nhau.
3. Thẩm tra dữ liệu thô để phát hiện lỗi (ví dụ: giá trị thiếu hoặc lệch, nhãn sai, lấy mẫu), lệch trong huấn luyện (ví dụ: phương pháp thu thập dữ liệu hoặc thiên lệch xã hội vốn có) và dư thừa—tất cả đều then chốt để đảm bảo các nguyên tắc RAI về công bằng, bình đẳng và độ chính xác trong hệ thống AI.
4. Hiểu các giới hạn của từng mô hình nhằm giảm thiên lệch, cải thiện khả năng khái quát hóa, đảm bảo hiệu năng tin cậy trong các tình huống động, và truyền đạt điều này tới nhà phát triển và người dùng.
5. Liên tục kiểm thử mô hình của bạn theo các nguyên tắc AI có trách nhiệm để đảm bảo xem xét đúng đắn hiệu năng trong thế giới thực và phản hồi của người dùng, qua đó cải thiện các giải pháp ngắn hạn và dài hạn cho các vấn đề.

Góc nhìn của các nhà lãnh đạo ngành về AI có trách nhiệm

Xét các ví dụ cụ thể từ các nhà lãnh đạo ngành, ta có thể thấy sự khác biệt rõ rệt về thuật ngữ và phân loại, với cách hiểu đa dạng về RAI, AI đáng tin cậy, AI có đạo đức và những diễn giải khác được đặt ra cho hoạt động hay ứng dụng của họ.

Microsoft

Microsoft, chẳng hạn, kiên định với các Nguyên tắc AI có trách nhiệm sau:

• Công bằng
• Độ tin cậy và an toàn
• Quyền riêng tư và an ninh
• Tính bao trùm
• Minh bạch và trách nhiệm giải trình

Apple

Mặt khác, Apple cho rằng AI của họ được thiết kế dựa trên các giá trị cốt lõi và xây dựng trên nền tảng các đổi mới đột phá về quyền riêng tư, và đã tạo ra một bộ nguyên tắc AI có trách nhiệm để định hướng cách họ phát triển công cụ AI, cũng như các mô hình nền tảng:

• Trao quyền cho người dùng với các công cụ thông minh: Xác định các lĩnh vực có thể sử dụng AI một cách có trách nhiệm để tạo ra công cụ đáp ứng nhu cầu cụ thể của người dùng, tôn trọng cách người dùng lựa chọn sử dụng các công cụ này để đạt mục tiêu của họ.
• Đại diện cho người dùng: Xây dựng các sản phẩm mang tính cá nhân sâu sắc với mục tiêu phản ánh chân thực người dùng trên toàn cầu để tránh duy trì các định kiến và thiên lệch hệ thống trong công cụ và mô hình AI.
• Thiết kế thận trọng: Thận trọng ở mọi giai đoạn quy trình, bao gồm thiết kế, huấn luyện mô hình, phát triển tính năng và đánh giá chất lượng để xác định cách công cụ AI có thể bị lạm dụng hoặc dẫn đến tổn hại tiềm ẩn.
• Bảo vệ quyền riêng tư: Thực hiện thông qua xử lý mạnh mẽ trên thiết bị và hạ tầng đột phá, đảm bảo họ không sử dụng dữ liệu cá nhân riêng tư hay tương tác của người dùng khi huấn luyện các mô hình nền tảng.

Nvidia

Nvidia gọi đó là AI đáng tin cậy, và họ tin rằng AI phải tôn trọng các quy định về quyền riêng tư và bảo vệ dữ liệu, vận hành an ninh và an toàn, hoạt động minh bạch và có trách nhiệm, tránh thiên lệch và phân biệt đối xử không mong muốn, đồng thời nêu bốn nguyên tắc cốt lõi:

• Quyền riêng tư
• An toàn và An ninh
• Minh bạch 
• Không phân biệt đối xử

Google

Đa dạng hơn đôi chút, Google nói về “Mục tiêu cho các ứng dụng AI” gồm:

• Mang lại lợi ích xã hội.
• Tránh tạo ra hoặc củng cố thiên lệch không công bằng.
• Được xây dựng và kiểm thử cho an toàn.
• Chịu trách nhiệm trước con người.
• Tích hợp các nguyên tắc thiết kế bảo vệ quyền riêng tư.
• Duy trì các tiêu chuẩn cao về xuất sắc khoa học.
• Được cung cấp để sử dụng theo các nguyên tắc này nhằm hạn chế các ứng dụng có thể gây hại hoặc lạm dụng.

Kết luận

Hiện chưa có sự đồng thuận về việc chính xác điều gì cấu thành AI có trách nhiệm, AI đáng tin cậy, AI có đạo đức, AI an toàn và an ninh, cũng như liệu đây là các thuật ngữ độc lập hay có thể hội tụ. Tuy nhiên, thật đáng khích lệ khi thấy các yếu tố trong những thuật ngữ này—ít nhất về mặt lý thuyết—được chia sẻ và tương đồng quanh các nguyên tắc cốt lõi giữa giới học thuật, các tổ chức quốc tế và ngành công nghiệp.

Nói một cách khái quát, có thể xem RAI là một lĩnh vực mới nổi nhằm đảm bảo việc phát triển, triển khai và sử dụng trí tuệ nhân tạo được thực hiện theo cách lấy con người làm trung tâm, phù hợp với các quyền con người nền tảng trong thực tiễn, cả về đạo đức lẫn pháp lý.