Thiên kiến thuật toán đề cập đến những sai lệch có tính hệ thống và lặp lại trong một hệ thống máy tính tạo ra các kết quả không công bằng, chẳng hạn như ưu ái một nhóm người dùng bất kỳ so với các nhóm khác. Đây là một mối quan ngại phổ biến hiện nay, khi các ứng dụng trí tuệ nhân tạo (AI) và học máy (ML) ngày càng thâm nhập vào mọi khía cạnh đời sống của chúng ta.
Giải thích về thiên kiến thuật toán
Hãy hình dung một công cụ ra quyết định đơn giản, như một chiếc mũ phân loại đưa mọi người vào các nhóm khác nhau. Nhưng nếu chiếc mũ đó chỉ được tiếp xúc với một kiểu người cụ thể trong khi học cách làm việc thì sao? Khi đó, nó có thể đánh giá sai những người không khớp với tiêu chí "thông thường", thể hiện sự thiên vị với những người phù hợp. Đó chính là cốt lõi của thiên kiến thuật toán.
Sự thiên kiến này bắt nguồn từ dữ liệu đầu vào thiên lệch hoặc hạn chế, các thuật toán thiếu công bằng, hoặc các thực tiễn loại trừ trong quá trình phát triển AI. Việc giải quyết vấn đề này là rất quan trọng vì các hệ thống AI hiện đang tham gia vào những lĩnh vực trọng yếu như y tế, tài chính và tư pháp hình sự, nơi các quyết định thiên lệch có thể dẫn đến hậu quả gây hại.
Nhiều yếu tố góp phần tạo ra thiên kiến thuật toán:
- Thiên lệch dữ liệu. Nếu dữ liệu dùng để huấn luyện hệ thống AI không đại diện cho toàn bộ dân số, các quyết định của thuật toán có thể thiên về nhóm mà nó được huấn luyện.
- Định kiến trong thiết kế. Nếu các nhà thiết kế AI có những thiên kiến ngầm, chúng có thể vô tình được chuyển vào hành vi của hệ thống.
- Yếu tố xã hội - kỹ thuật. Bao gồm ảnh hưởng của bối cảnh xã hội, kinh tế và văn hóa tới cách hệ thống AI được thiết kế, triển khai và sử dụng, có thể làm phát sinh thiên kiến.
Có nhiều loại thiên kiến thuật toán có thể được đưa vào trong quá trình học máy. Ví dụ, thiên kiến tiền xử lý phát sinh từ các quy trình làm sạch dữ liệu thiên lệch; thiên kiến xác nhận xảy ra khi hệ thống AI củng cố các niềm tin hay khuôn mẫu định kiến sẵn có; thiên kiến loại trừ xảy ra khi một số nhóm bị loại khỏi dữ liệu huấn luyện một cách có hệ thống; và thiên kiến thuật toán hoặc mô hình phát sinh từ việc ưu tiên một số kết quả hoặc nhóm nhất định. Hiểu các loại thiên kiến này là điều then chốt để xây dựng các hệ thống AI công bằng và bình đẳng.
Ví dụ về thiên kiến thuật toán
Các ví dụ trong thế giới thực có thể làm rõ khái niệm thiên kiến thuật toán:
- Thuật toán tuyển dụng. Amazon từng xây dựng một hệ thống AI để tự động hóa quy trình tuyển dụng. Thuật toán được huấn luyện trên hồ sơ xin việc nộp cho công ty trong mười năm, phần lớn đến từ nam giới. Hệ quả là hệ thống bắt đầu ưu tiên ứng viên nam hơn nữ, thể hiện thiên kiến rõ ràng.
- Hệ thống nhận dạng khuôn mặt. Nhiều nghiên cứu phát hiện các thuật toán nhận dạng khuôn mặt, như dùng trong giám sát hoặc mở khóa điện thoại, thường hoạt động kém chính xác với người có màu da sẫm và phụ nữ. Nguyên nhân chủ yếu do thiếu đa dạng trong bộ dữ liệu huấn luyện.
Nhìn về phía trước, khi các hệ thống AI ngày càng tích hợp sâu vào đời sống hằng ngày, tác động tiềm tàng của thiên kiến thuật toán nếu không được kiểm soát có thể còn rõ nét hơn. Dự báo tội phạm có thể nhắm mục tiêu không công bằng vào các cộng đồng cụ thể, thuật toán chấm điểm tín dụng có thể gây bất lợi không tương xứng cho một số nhóm kinh tế - xã hội, và các công cụ giáo dục cá nhân hóa có thể hạn chế cơ hội học tập cho một số học sinh. Ảnh hưởng tương lai của AI đối với xã hội nhấn mạnh tầm quan trọng của việc giải quyết thiên kiến thuật toán ngay từ bây giờ để đảm bảo các quyết định do AI dẫn dắt là công bằng, chính trực và đại diện cho mọi mặt của xã hội.
Thực hành tốt để tránh thiên kiến thuật toán
Giải quyết thiên kiến thuật toán đòi hỏi nỗ lực thận trọng ở các giai đoạn khác nhau của quá trình phát triển hệ thống AI:
- Dữ liệu đa dạng và đại diện. Đảm bảo dữ liệu dùng để huấn luyện mô hình học máy đại diện cho tất cả nhóm nhân khẩu học mà hệ thống sẽ phục vụ.
- Kiểm toán thiên kiến. Thường xuyên kiểm tra và rà soát hệ thống AI để phát hiện khả năng thiên lệch và vấn đề công bằng.
- Minh bạch. Duy trì tài liệu rõ ràng về cách hệ thống AI đưa ra quyết định.
- Nhóm phát triển hòa nhập. Sở hữu một đội ngũ nhà phát triển AI đa dạng có thể giúp kiểm soát và cân bằng những thiên kiến có thể bị bỏ sót.
Quan điểm: Chúng ta cần cách tiếp cận khác để vượt qua thiên kiến thuật toán
Lần đầu tiên tôi nhận ra bộ dữ liệu của mình có thiên lệch là trong quá trình huấn luyện mô hình phân tích cảm xúc. Tôi phát hiện ngay cả sự mất cân bằng phân bố giữa các lớp cũng có thể dẫn đến kết quả thiên lệch, khi mô hình dự đoán nhãn “Happy” chính xác hơn “Neutral”. Tôi giải quyết vấn đề này bằng cách lấy mẫu tăng/giảm, nhưng điều đó khiến tôi ý thức hơn về tầm quan trọng của tính minh bạch và bộ dữ liệu cân bằng trong việc xây dựng các hệ thống tự động công bằng.
Bên cạnh dữ liệu đa dạng, kiểm toán thiên kiến, minh bạch và đội ngũ hòa nhập, chúng ta cần các hệ thống như AI có khả năng giải thích để phát hiện thiên kiến trong thuật toán. Hơn nữa, pháp luật cần được ban hành để buộc các công ty tuân thủ các nguyên tắc Công bằng, Trách nhiệm giải trình, Minh bạch và Đạo đức (FATE) trong AI.
Theo quan điểm của tôi, mọi dữ liệu rất có thể đều chứa một mức độ thiên kiến nào đó vì được thu thập từ con người, vốn mang những thiên kiến cố hữu liên quan đến chủng tộc, màu da, tôn giáo, hệ thống và niềm tin. Hiện tại, việc loại bỏ hoàn toàn vấn đề này là khá khó. Tuy nhiên, với sự xuất hiện của AI tiên tiến hơn, chúng ta có thể chứng kiến các thuật toán học theo cách cân bằng hơn từ môi trường và xây dựng những ứng dụng hoạt động công bằng cho tất cả mọi người. Chẳng hạn, nỗ lực "siêu căn chỉnh" của OpenAI nhằm đảm bảo các hệ thống AI vượt quá trí tuệ con người vẫn phù hợp với các giá trị và mục tiêu của con người.
Hy vọng rằng khi năng lực AI tiến bộ, chúng ta có thể tận dụng chúng để đối trọng với thiên kiến của con người và phát triển AI phục vụ lợi ích của tất cả chúng ta, chứ không gây hại. Sự giám sát phù hợp và thiết kế thấu đáo sẽ là chìa khóa để khai mở tiềm năng của AI trong việc chống lại các thiên kiến mang tính hệ thống.
Bạn muốn tìm hiểu thêm về AI? Hãy xem các tài nguyên sau:
Câu hỏi thường gặp
Hậu quả của thiên kiến thuật toán nếu không được kiểm soát là gì?
Thiên kiến thuật toán nếu không được kiểm soát có thể dẫn đến các kết quả không công bằng, mang tính phân biệt đối xử, ảnh hưởng đến những cá nhân hoặc nhóm người bị thiếu đại diện hoặc bị mô tả sai trong dữ liệu huấn luyện.
Liệu có thể loại bỏ hoàn toàn thiên kiến thuật toán không?
Rất khó để loại bỏ hoàn toàn thiên kiến thuật toán, nhưng có thể thực hiện các bước để giảm thiểu đáng kể, như kiểm toán thiên kiến, sử dụng bộ dữ liệu đa dạng và thúc đẩy các nhóm phát triển hòa nhập.
Vai trò của quy định trong thiên kiến thuật toán là gì?
Quy định có thể đóng vai trò then chốt bằng cách đặt ra các tiêu chuẩn về minh bạch, trách nhiệm giải trình và công bằng mà các hệ thống AI phải đáp ứng, từ đó giúp kiểm soát thiên kiến thuật toán.
Có thể phát hiện và đo lường thiên kiến thuật toán không?
Có, có thể phát hiện và đo lường thiên kiến thuật toán thông qua nhiều kỹ thuật, bao gồm phân tích tác động chênh lệch, bình đẳng về cơ hội và cân bằng dự đoán. Thường cần so sánh hiệu suất của thuật toán giữa các nhóm khác nhau để xác định liệu một số nhóm có bị ảnh hưởng không tương xứng hay không.
Ví dụ nào về tác động thực tế của thiên kiến thuật toán?
Một tác động đáng chú ý trong thế giới thực của thiên kiến thuật toán được thấy trong y tế, nơi một thuật toán dùng để định hướng quyết định chăm sóc cho hàng triệu bệnh nhân bị phát hiện có thiên kiến chủng tộc. Thuật toán này ít giới thiệu người da đen hơn người da trắng có mức độ bệnh tương đương vào các chương trình nhằm nâng cao chất lượng chăm sóc cho bệnh nhân có nhu cầu y tế phức tạp.
Người dùng hằng ngày có thể kiểm tra thiên kiến thuật toán bằng cách nào?
Mặc dù có thể cần chuyên môn kỹ thuật để phân tích thiên kiến chuyên sâu, người dùng hằng ngày có thể chú ý đến các mẫu kết quả không công bằng lặp đi lặp lại, đặc biệt nếu các kết quả đó liên tục gây bất lợi cho một nhóm cụ thể. Nếu phát hiện mẫu như vậy, nên báo cáo cho tổ chức liên quan hoặc, nếu cần, cho cơ quan quản lý.
Là một nhà khoa học dữ liệu được chứng nhận, tôi đam mê tận dụng công nghệ tiên tiến để tạo ra các ứng dụng học máy đổi mới. Với nền tảng vững chắc về nhận dạng giọng nói, phân tích và báo cáo dữ liệu, MLOps, AI hội thoại và NLP, tôi đã rèn giũa kỹ năng phát triển các hệ thống thông minh có thể tạo ra tác động thực sự. Bên cạnh chuyên môn kỹ thuật, tôi cũng là một người truyền đạt tốt, có khả năng chắt lọc các khái niệm phức tạp thành ngôn ngữ rõ ràng, súc tích. Nhờ đó, tôi trở thành một blogger được nhiều người quan tâm trong lĩnh vực khoa học dữ liệu, chia sẻ góc nhìn và kinh nghiệm với cộng đồng các chuyên gia dữ liệu ngày càng lớn. Hiện tại, tôi tập trung vào sáng tạo và biên tập nội dung, làm việc với các mô hình ngôn ngữ lớn để phát triển nội dung mạnh mẽ và hấp dẫn, giúp doanh nghiệp và cá nhân tận dụng tối đa dữ liệu của mình.
