Trong vài năm gần đây, AI đã chứng kiến mức tăng trưởng đáng kể về mức độ sử dụng và hiệu quả trong các tổ chức. Ứng dụng của AI trải dài từ phân tích dự đoán để vận hành doanh nghiệp hiệu quả và chính xác hơn, đến thị giác máy tính cho tương tác trực tiếp với thế giới, và xử lý ngôn ngữ tự nhiên (NLP) để tương tác với công nghệ bằng ngôn ngữ hiệu quả hơn. Accenture báo cáo rằng 84% lãnh đạo được khảo sát tin rằng họ cần tận dụng AI để đạt được mục tiêu tăng trưởng.
Với tốc độ phát triển nhanh của một công nghệ còn tương đối mới và đang trưởng thành đi kèm là nhiều trách nhiệm và mối quan ngại đạo đức. Capgemini phát hiện 70% khách hàng kỳ vọng sự minh bạch và công bằng trong các tương tác với AI. Bên cạnh đó, các cơ quan quản lý cũng bắt đầu siết chặt quy định về minh bạch và công bằng của AI. Liên minh Châu Âu gần đây đã ban hành bộ quy định AI nhằm giảm thiểu tác động gây hại của các hệ thống AI, và FTC thông báo kế hoạch xử lý các công ty bán thuật toán thiên lệch (MIT Tech Review).
Sự gia tăng các mối quan ngại đạo đức là có cơ sở và xuất phát từ các trường hợp sử dụng AI ngày càng liên quan đến những bối cảnh nhạy cảm như y tế, hệ thống tư pháp và tài chính. Nếu không được hiệu chỉnh đúng cách và hiểu rõ rủi ro đạo đức tiềm ẩn, AI có thể tái tạo và khuếch đại các định kiến và phân biệt đối xử trong lịch sử. Chẳng hạn, ProPublica đã điều tra thuật toán COMPAS được dùng để hỗ trợ quyết định tuyên án bằng cách dự đoán khả năng tái phạm. Họ phát hiện bị cáo da đen có khả năng cao hơn đáng kể nhận khuyến nghị dương tính giả cho rằng họ sẽ tái phạm dù thực tế không, trong khi bị cáo da trắng lại có khả năng cao hơn nhận khuyến nghị âm tính giả cho rằng họ sẽ không tái phạm.
Tương tự, mô hình biến đổi NLP GPT-3 của OpenAI với 175 tỷ tham số đã thể hiện định kiến đáng kể khi tạo sinh các câu liên quan đến tôn giáo. Mô hình cũng bộc lộ thiên kiến với các nhóm khác, bao gồm giới tính và chủng tộc, như được thảo luận trong bài báo gốc.
Khi AI ngày càng phổ biến, việc đảm bảo sử dụng AI một cách có trách nhiệm là tối quan trọng. Nếu chúng ta tin cậy các hệ thống này để hỗ trợ những quyết định quan trọng và nhạy cảm, chúng không được phép thiên lệch hay chứa các khuôn mẫu định kiến lịch sử.
Thiên lệch thuật toán là gì?
Thiên lệch thuật toán xuất hiện khá nhiều trên tin tức, như trong trường hợp thiên kiến giới trong tuyển dụng ưu ái nam giới, quảng cáo trực tuyến tái tạo tình trạng phân vùng loại trừ trên bản đồ (phân biệt đối xử trong nhà ở), và các thuật toán y tế có thiên lệch chủng tộc. Tất cả ví dụ này đều cho thấy một nhóm bị mô hình đối xử khác biệt so với nhóm khác.
Có nhiều thước đo để định nghĩa chính thức thiên lệch thuật toán. Định nghĩa cơ bản là một thuật toán đối xử khác nhau với các nhóm trong dữ liệu. Những nhóm chúng ta quan tâm như chủng tộc, giới tính, tôn giáo, tình trạng mang thai hay cựu binh được gọi là đặc tính được bảo vệ hoặc nhạy cảm. Khi phân tích một thuật toán, cần hiểu nhóm nào có thể dễ bị tổn hại nhất bởi tác động của mô hình.
Có hai nhóm thước đo để xác định thiên lệch và độ công bằng của một thuật toán: công bằng theo đại diện và công bằng theo lỗi.
Công bằng theo đại diện
Các thước đo này đánh giá kết quả của mô hình cho các nhóm khác nhau. Ví dụ, chúng có thể xem xét tỷ lệ nam giới được gọi phỏng vấn so với nữ giới đối với một thuật toán tuyển dụng.
Công bằng theo lỗi
Các thước đo công bằng theo lỗi quan sát sự khác biệt về tỷ lệ lỗi được tạo ra cho mỗi nhóm. Ví dụ, trong thiên lệch của thuật toán COMPAS nêu trên, tỷ lệ dương tính giả đối với bị cáo da đen cao hơn đáng kể so với các nhóm khác, và tỷ lệ âm tính giả đối với bị cáo da trắng thấp hơn đáng kể.
Nguyên nhân gây thiên lệch thuật toán
Thiên lệch trong một thuật toán bắt nguồn từ dữ liệu nền tảng. Các mô hình đơn giản như hồi quy tuyến tính hay các mô hình biến đổi phức tạp không tự bản thân mang thiên lệch; chúng tạo đầu ra dựa trên dữ liệu được cung cấp. Dưới đây là năm nguyên nhân gây thiên lệch trong dữ liệu.
- Bộ dữ liệu lệch: Bộ dữ liệu có thể có tỷ lệ dữ liệu khác nhau cho mỗi nhóm hoặc số lượng ví dụ huấn luyện khác nhau cho mỗi nhóm, dẫn đến đầu ra thiên lệch.
- Ví dụ bị nhiễm bẩn: Dữ liệu có thể có nhãn không đáng tin cậy hoặc tồn tại thiên kiến lịch sử trong dữ liệu.
- Đặc trưng hạn chế: Các đặc trưng thu thập được có thể không đáng tin cậy hoặc không cung cấp thông tin cho một số nhóm do thực hành thu thập dữ liệu kém.
- Kích thước mẫu: Các thuật toán AI gặp khó khăn khi hoạt động tốt với bộ dữ liệu nhỏ.
- Đặc trưng ủy nhiệm: Một số đặc trưng có thể rò rỉ thông tin về các biến được bảo vệ, ngay cả khi biến được bảo vệ không có trong dữ liệu. Nghiên cứu cho thấy các biến như mã vùng, hoạt động thể thao và trường đại học từng theo học đều có thể gián tiếp cung cấp cho mô hình thông tin về các biến được bảo vệ, dẫn đến thiên lệch thuật toán.
Có thể sử dụng những kỹ thuật giảm thiểu nào?
Giờ đây chúng ta đã có hiểu biết chính thức về thiên lệch thuật toán và nguyên nhân của nó. Có hai hướng tiềm năng để giảm thiểu thiên lệch thuật toán: kỹ thuật và quản trị AI. Nhiều khả năng, kết hợp cả hai sẽ mang lại kết quả tốt nhất trong việc giảm sự hiện diện của thiên lệch trong một thuật toán.
Kỹ thuật giảm thiểu mang tính kỹ thuật
Trong nhóm kỹ thuật, có ba cách tiếp cận: tiền xử lý nhằm giảm thiên lệch trong dữ liệu gốc trước khi huấn luyện, trong quá trình xử lý nhằm giảm thiên lệch trong lúc huấn luyện mô hình, và hậu xử lý nhằm giảm thiên lệch bằng cách điều chỉnh dự đoán.
Bài báo này mô tả bốn kỹ thuật tiền xử lý phổ biến được dùng trong tài liệu nghiên cứu trong phần mở đầu:
- Loại bỏ: gỡ bỏ biến tương quan mạnh nhất với biến nhạy cảm
- Điều chỉnh nhãn (massaging): Gán lại nhãn cho một số quan sát trong dữ liệu một cách hiệu quả bằng cách dùng bộ xếp hạng để loại bỏ phân biệt đối xử trong dữ liệu đầu vào
- Tái trọng số: Gán trọng số cho từng bộ dữ liệu huấn luyện để loại bỏ phân biệt đối xử
- Lấy mẫu: Lấy mẫu từ mỗi nhóm để có đại diện cân bằng hơn cho mỗi nhóm bằng cách dùng lấy mẫu đồng đều hoặc lấy mẫu ưu tiên bằng cách nhân đôi hoặc bỏ qua một số quan sát.
Các kỹ thuật khác như biểu diễn xác suất trong bài báo này và bài báo này, mô tả hai “thủ tục sửa chữa”, cũng cung cấp những phương pháp tốt để loại bỏ thiên lệch ở giai đoạn tiền xử lý.
Các kỹ thuật trong quá trình xử lý tập trung vào việc loại bỏ thiên lệch trong lúc huấn luyện. Những kỹ thuật này thường bao gồm các ràng buộc công bằng tác động đến bài toán tối ưu, dẫn đến kết quả công bằng hơn. Ví dụ về các phương pháp trong quá trình xử lý gồm bài nghiên cứu xem xét các ràng buộc công bằng và bài nghiên cứu về phân loại nhận thức công bằng.
Cuối cùng, các thuật toán hậu xử lý điều chỉnh đầu ra của mô hình để giảm thiên lệch. Các thuật toán này có thể thay đổi dự đoán cho các nhóm có đặc quyền hoặc không có đặc quyền như trong nghiên cứu của Pleiss et al. và Hardt et al. hoặc giảm thiên lệch khi đầu ra của thuật toán ở gần ranh giới quyết định (nơi mô hình kém chắc chắn hơn về kết quả) như trong bài báo về lý thuyết quyết định.
Với bất kỳ kỹ thuật nào trong số này, điều cốt yếu là thảo luận với tất cả các bên liên quan về đánh đổi trong độ chính xác và các rủi ro khi thay đổi dữ liệu nền tảng hoặc kết quả mô hình. Các kỹ thuật này có thể dẫn đến dự đoán những kết quả chưa từng xuất hiện trong lịch sử hoặc không có trong dữ liệu.
Quản trị và trách nhiệm giải trình
Việc sử dụng AI trong tổ chức mang lại rất nhiều lợi ích. Tuy nhiên, như đã thấy xuyên suốt bài viết, các rủi ro đạo đức do hệ thống AI gây ra dẫn đến rủi ro tổ chức như tổn hại danh tiếng, kéo theo mất doanh thu. Không doanh nghiệp nào muốn lên tiêu đề báo vì đã sử dụng một thuật toán thiên lệch để đưa ra quyết định kinh doanh gây tác động tiêu cực đến một nhóm khách hàng hoặc nhân viên.
Quản trị AI đúng đắn được thực hiện thông qua quản lý rủi ro toàn diện. Cần xác định trường hợp sử dụng cụ thể của quyết định AI và đánh giá tác động liên quan cho từng bên liên quan. Hiểu rủi ro tài chính và rủi ro con người tiềm ẩn gắn với trường hợp sử dụng là điều quan trọng. Khi mức độ của từng rủi ro được đánh giá chính xác cho từng bên liên quan, cần tính toán xác suất những hệ quả này xảy ra.
Thực hành tốt về quản trị AI bao gồm các danh mục kiểm tra toàn diện cho các bên liên quan, kiểm thử tự động và thủ công, kiểm thử tuân thủ tiêu chuẩn kinh doanh, báo cáo chi tiết, và các xác nhận từ cá nhân và nhóm chịu trách nhiệm trực tiếp về mô hình. Để biết thêm chi tiết, hãy tải xuống sách trắng của chúng tôi.
AI có trách nhiệm dựa trên năng lực dữ liệu
Mở rộng AI có trách nhiệm trong tổ chức đòi hỏi phát triển năng lực dữ liệu trong nội bộ. Quản trị AI thành công bao gồm nhiều bên liên quan cùng tham gia và áp dụng một khung thống nhất. Việc hiểu phạm vi dự án, cách triển khai và quản trị, cùng tác động và rủi ro tiềm ẩn là yêu cầu đối với AI có trách nhiệm cho tất cả các bên liên quan. Accenture cho rằng năng lực dữ liệu xây dựng niềm tin và cho phép AI có trách nhiệm bằng cách đưa vào các góc nhìn đa dạng, từ đó dẫn đến kết quả ổn định hơn.
Bằng cách nâng cao năng lực dữ liệu nền tảng trong tổ chức, các chuyên gia lĩnh vực vốn không thường xuyên tương tác với hệ thống AI có thể đưa chuyên môn của họ vào các hệ thống này và giao tiếp hiệu quả hơn với các bên kỹ thuật. Sự cải thiện giao tiếp này dẫn đến niềm tin lớn hơn trong toàn tổ chức đối với tất cả các bên liên quan.
Những khía cạnh quan trọng của năng lực dữ liệu để thúc đẩy AI có trách nhiệm trong tổ chức bao gồm hiểu biết về: quy trình khoa học dữ liệu và học máy, các vai trò dữ liệu khác nhau, dòng chảy dữ liệu trong tổ chức, sự khác biệt giữa các loại hệ thống AI, và các thước đo đánh giá mô hình học máy.
Nâng cao năng lực dữ liệu nền tảng để mở rộng AI có trách nhiệm
Đào tạo tất cả các bên liên quan trong tổ chức là điều cần thiết để thúc đẩy AI có trách nhiệm. Tránh các rủi ro liên quan đến thiên lệch thuật toán là điều kiện để một tổ chức tận dụng thành công các lợi ích của AI trong bối cảnh kinh doanh. Năng lực dữ liệu là chìa khóa cho giao tiếp hiệu quả giữa các bên liên quan, xây dựng niềm tin trong tổ chức, và khám phá các giải pháp đa dạng cho AI có trách nhiệm. EU đang phân bổ €1,1 nghìn tỷ cho Chương trình Kỹ năng, nhấn mạnh mạnh mẽ vào kỹ năng AI và năng lực dữ liệu cho cơ quan quản lý, cho thấy tầm quan trọng của những công cụ này trong tổ chức. Nhiều chương trình giảng dạy nền tảng về năng lực dữ liệu. Để biết thêm chi tiết về cách năng lực dữ liệu có thể thúc đẩy AI có trách nhiệm — hãy xem sách trắng mới nhất của chúng tôi.
