Khóa học
Tìm hiểu Machine Learning
2 giờ
313.7K
Chào mừng bạn đến với bài viết cuối cùng trong loạt bài giải mã dữ liệu kéo dài một tháng. Là một phần của Tháng Nâng cao Hiểu biết Dữ liệu, loạt bài này làm rõ các khái niệm then chốt trong thế giới dữ liệu và cố gắng trả lời những câu hỏi mà bạn có thể còn e ngại. Nếu muốn bắt đầu từ đầu, hãy đọc bài đầu tiên trong loạt: Dataset là gì?
Trong bài này, chúng ta sẽ tiếp nối chủ đề từ bài trước của loạt giải mã dữ liệu, và thảo luận về những tác động tiềm ẩn gây hại của AI, cách AI có thể duy trì thiên lệch với một số nhóm người nhất định, và những loại thiên lệch AI mà mọi người nên biết.
Vấn đề với thiên lệch trong AI
Hầu hết các hệ thống AI ngày nay tận dụng học máy. Học máy, theo định nghĩa, áp dụng các kỹ thuật thống kê nâng cao để học mẫu từ dữ liệu quá khứ và đưa ra dự đoán cho các sự kiện trong tương lai.
Việc áp dụng học máy rộng rãi đã dẫn đến sự gia tăng mạnh các trường hợp đưa ra dự đoán thiên lệch. Thuật toán AI thiên lệch là một mối quan ngại nghiêm trọng trong cộng đồng AI và là hệ quả của dữ liệu dùng để huấn luyện mô hình. Thiên lệch có thể biểu hiện dưới nhiều hình thức—có thể do xã hội hoặc cấu trúc—và có thể tồn tại đối với một giới tính, màu da, tôn giáo hoặc quốc tịch cụ thể.
Do đó, các thuật toán AI học thiên lệch từ dữ liệu huấn luyện khi chúng cố gắng bắt chước phán đoán của con người. Hãy cùng điểm lại một vài ví dụ trong quá khứ khi các dự đoán thiên lệch của AI đã tác động tiêu cực đến xã hội và nhân loại nói chung:
Thiên lệch giới: Công cụ tuyển dụng của Amazon
Amazon đã phát triển một công cụ tuyển dụng để tự động sàng lọc sơ yếu lý lịch của ứng viên cho các vòng phỏng vấn tiếp theo. Tuy nhiên, thuật toán phản ánh thiên lệch học được từ dữ liệu quá khứ và rốt cuộc chỉ chọn hồ sơ của ứng viên nam.
Thiên lệch chủng tộc: Thuật toán PredPol
PredPol, hay Cảnh sát Dự báo, xây dựng bản đồ nhiệt về các khu vực có hoạt động phạm tội cao và xác định các vị trí của cộng đồng thiểu số là vùng nóng. Thuật toán được huấn luyện trên dữ liệu đầu vào thiên lệch gồm nhiều vụ việc phạm tội được báo cáo từ những khu vực như vậy.
Thiên lệch chủng tộc: Thuật toán COMPAS
Phần mềm Correctional Offender Management Profiling for Alternative Sanctions (COMPAS) được dùng để đánh giá khả năng tái phạm của một tội phạm. Tuy nhiên, thuật toán đã có thiên lệch theo một cuộc điều tra năm 2016. Phần mềm gán nhãn cho tội phạm da đen có khả năng tái phạm cao hơn so với tội phạm da trắng.
Như những ví dụ trên cho thấy, các thuật toán học máy học cả thiên lệch từ dữ liệu huấn luyện bên cạnh các quy luật dữ liệu khác. Trừ khi được xử lý từ gốc, thiên lệch có thể xuất hiện trong các tuyến xử lý AI/ML dưới nhiều hình thức. Khi AI ngày càng trở nên phổ biến trong các tổ chức và xã hội, mọi người nên biết về các loại thiên lệch khác nhau trong hệ thống AI. Dưới đây là ba loại thiên lệch phổ biến nhất trong AI.
Ba loại thiên lệch AI thường gặp
Thiên lệch định kiến (Prejudice bias)
Khi dữ liệu huấn luyện phản ánh những định kiến, khuôn mẫu và giả định xã hội tồn tại, các thiên lệch này sẽ được khắc sâu vào mô hình đã học; loại thiên lệch này gọi là thiên lệch định kiến. Ví dụ, khi bạn tìm kiếm “doctor”, kết quả trả về bao gồm nhiều hình ảnh bác sĩ nam. Ngược lại, tìm kiếm tương tự với “nurse” lại cho ra hình ảnh y tá nữ. Điều này nói lên rất nhiều về khuôn mẫu giới trong xã hội.
Thiên lệch chọn mẫu (Sample Selection Bias)
Thiên lệch chọn mẫu xảy ra khi dữ liệu huấn luyện không đại diện cho quần thể đang nghiên cứu. Một ví dụ là các hệ thống AI được huấn luyện để phát hiện ung thư da. Nếu bộ dữ liệu gốc không đại diện cho dân số rộng hơn, hệ thống này sẽ hoạt động kém với các thành viên thuộc nhóm bị thiếu đại diện trong bộ dữ liệu.
Thiên lệch đo lường (Measurement Bias)
Thiên lệch đo lường xuất phát từ lỗi trong quy trình thu thập hoặc đo đạc dữ liệu. Ví dụ, nếu hình ảnh từ camera dùng để cung cấp dữ liệu cho hệ thống nhận dạng hình ảnh có chất lượng kém, điều này có thể dẫn đến kết quả thiên lệch chống lại một số nhóm người cụ thể. Một ví dụ khác đến từ phán đoán của con người. Chẳng hạn, một thuật toán chẩn đoán y khoa có thể được huấn luyện để dự đoán khả năng mắc bệnh dựa trên các chỉ số đại diện như số lần đi khám bác sĩ thay vì triệu chứng thực tế.
Phát triển hiểu biết dữ liệu để hướng tới AI có trách nhiệm
Suốt tháng này, chúng tôi đã nhấn mạnh tầm quan trọng của hiểu biết dữ liệu đối với cá nhân và tổ chức. Hiểu biết dữ liệu cho phép các bên liên quan không chuyên môn có thể trao đổi với chuyên gia dữ liệu và AI, cũng như hiểu các giới hạn của hệ thống AI. Quan trọng hơn, nó thúc đẩy cuộc trao đổi hai chiều giữa chuyên gia lĩnh vực và chuyên gia AI, cho phép thảo luận thấu đáo về những tác hại tiềm ẩn của một hệ thống AI.
Để trang bị cho bản thân kiến thức cần thiết cho những cuộc trao đổi này, hãy tham gia khóa học Understanding Machine Learning và bắt đầu hành trình hiểu biết dữ liệu của bạn. Để có thêm nội dung về hiểu biết dữ liệu và giải mã dữ liệu, hãy xem các tài nguyên sau:
Chủ đề
