{count, plural, one {Khóa học} other {Khóa học}}
Đạo đức AI
{hours} giờ
155.2K
Trong bối cảnh này, một lĩnh vực mới quan trọng đang thu hút sự quan tâm: đạo đức AI. Bài viết này sẽ cung cấp tổng quan về lĩnh vực này và giới thiệu những khái niệm cốt lõi như thiên kiến, rủi ro bảo mật và quyền riêng tư, thông tin sai lệch, thay thế việc làm, và hơn thế nữa.
Nếu bạn muốn tìm hiểu đạo đức AI ở mức chuyên sâu, hãy cân nhắc khóa học về Đạo đức AI.
Đạo đức AI là gì
Đạo đức có thể trông như một khái niệm hàn lâm. Vì vậy, trước khi hiểu "đạo đức AI", hãy cùng làm rõ đạo đức nghĩa là gì.
Tóm lại, đạo đức là một ngành của triết học cung cấp khuôn khổ để chúng ta quyết định điều gì là đúng đắn về mặt đạo lý và điều gì không. Dù nghe có vẻ trừu tượng, trong lĩnh vực công nghệ, đạo đức mang ý nghĩa cụ thể hơn—đạo đức AI là việc áp dụng các khuôn khổ đạo đức vào quá trình phát triển và sử dụng trí tuệ nhân tạo.
Hãy tưởng tượng một thuật toán phê duyệt khoản vay có thiên kiến hoặc một hệ thống nhận diện khuôn mặt mù mờ. Đây là những ví dụ cho thấy AI, nếu thiếu cân nhắc đạo đức, có thể dẫn đến kết quả bất công. Đạo đức AI xử lý trực diện những lo ngại này bằng cách thiết lập bộ nguyên tắc định hướng cho phát triển AI có trách nhiệm.
Những nguyên tắc này nhằm thúc đẩy công bằng, trách nhiệm giải trình, minh bạch và quyền riêng tư trong suốt vòng đời của AI. Bằng cách hiểu và áp dụng đạo đức AI, các nhà khoa học dữ liệu có thể bảo đảm công nghệ mạnh mẽ này mang lại lợi ích một cách công bằng và có trách nhiệm cho tất cả mọi người.
Vì sao Đạo đức AI quan trọng?
Năng lực của AI được định hình bởi dữ liệu mà nó được huấn luyện. Dữ liệu này có thể bao gồm thông tin lịch sử, mã nguồn và các yếu tố khác có thể phản ánh thiên kiến hay định kiến xã hội. Nếu tồn tại những thiên kiến như vậy, AI có thể lặp lại hoặc thậm chí khuếch đại chúng trong đầu ra.
Do đó, việc ưu tiên các cân nhắc đạo đức xuyên suốt quá trình phát triển AI là tối quan trọng. Hãy xét việc sử dụng AI để phân tích dữ liệu bệnh nhân. Bằng cách nhận diện các mẫu, AI có thể tạo ra những hiểu biết giá trị hỗ trợ chuyên gia y tế. Điều này có thể cải thiện đáng kể thời gian và độ chính xác khi rà soát, dẫn đến chẩn đoán nhanh hơn, phác đồ điều trị hiệu quả hơn, và cuối cùng là kết quả tốt hơn cho bệnh nhân với ít căng thẳng hơn.
Trong khi AI mang lại tiềm năng to lớn để giải quyết các vấn đề phức tạp, việc phát triển và sử dụng nó cũng đặt ra các cân nhắc đạo đức. Những lo ngại này có thể được phân loại rộng thành rủi ro ngắn hạn và dài hạn. Chúng ta sẽ đi sâu vào từng nhóm trong các phần tiếp theo.
Rủi ro đạo đức ngắn hạn của AI
Thiên kiến
Để bảo đảm các mô hình AI công bằng và không thiên lệch, dữ liệu huấn luyện cần đại diện cho toàn bộ quần thể mà mô hình sẽ áp dụng, đặc biệt chú ý đến việc bao gồm các nhóm thiểu số. Nếu dữ liệu huấn luyện không phản ánh chính xác các cộng đồng yếu thế, hệ thống AI có thể tạo ra đầu ra thiên lệch, làm gia tăng chênh lệch trong kết quả.
Tiến sĩ Joy Buolamwini, Nghệ sĩ trưởng kiêm Chủ tịch The Algorithmic Justice League, đã gặp một sự cố như vậy với hệ thống nhận diện khuôn mặt thiên lệch khi bà chạy ảnh hồ sơ qua các bản demo trực tuyến: “Một số thậm chí không phát hiện được khuôn mặt của tôi giống như chiếc mặt nạ trắng bị trượt. Và những hệ thống có phát hiện thì lại gán nhãn tôi là nam giới trong khi tôi không phải. Khi đó tôi nghĩ, ừm, có lẽ cần khám phá khía cạnh giới và màu da ở đây.” Nếu bạn muốn nghe thêm, hãy nghe podcast Đấu tranh vì công lý thuật toán với Tiến sĩ Joy Buolamwini.
Với tốc độ tích hợp AI vào quy trình kinh doanh rất nhanh, đặc biệt ở các quyết định có tác động lớn, những thiên kiến không được kiểm soát như vậy có thể khiến những người cần thiết bị từ chối dịch vụ và chăm sóc một cách oan sai. Ví dụ, một hệ thống AI được cho là đã từ chối yêu cầu bảo hiểm y tế của người cao tuổi.
Rủi ro bảo mật & quyền riêng tư dữ liệu
Dữ liệu huấn luyện đầu vào thiên lệch chỉ là một trong nhiều thách thức dữ liệu mà hệ thống AI đối mặt. Một lo ngại then chốt khác nảy sinh khi dữ liệu huấn luyện bao gồm thông tin nhạy cảm như PII, hồ sơ sức khỏe hoặc chi tiết tài chính. Sự cố rò rỉ có thể làm lộ dữ liệu nhạy cảm này, dẫn đến đánh cắp danh tính, gian lận tài chính và các hành vi ác ý khác.
Hơn nữa, các tác nhân xấu có thể đưa vào các cuộc tấn công dữ liệu đối kháng để thao túng phản hồi từ hệ thống AI.
Thông tin sai lệch & đánh lạc hướng
Trong khi các vấn đề dữ liệu tồn tại từ lâu như xuyên tạc và quyền riêng tư vẫn còn, sự xuất hiện của các ứng dụng AI tạo sinh đã đưa ra những lo ngại mới, đặc biệt liên quan đến thông tin sai lệch và đánh lạc hướng.
Tính mới mẻ của AI tạo sinh trong việc tạo ra đầu ra giống con người đã khiến nhiều người bất ngờ. Tuy nhiên, khả năng tạo văn bản vượt trội này, khi bị lợi dụng với ý đồ xấu, có thể làm lan truyền nội dung giả ở quy mô lớn và khuếch đại thông tin sai lệch.
MIT Technology Review cũng nhấn mạnh những lo ngại này: “Tự do Internet đang ở mức thấp kỷ lục, và những tiến bộ trong AI thực sự đang làm khủng hoảng này trầm trọng hơn. Tính sẵn có và chi phí thấp của AI tạo sinh đang hạ thấp rào cản gia nhập cho các chiến dịch đánh lạc hướng.”
Rủi ro dài hạn của AI
Rời khỏi các rủi ro ngắn hạn, hãy nhìn vào bức tranh lớn hơn bằng cách đánh giá các hệ quả dài hạn của AI.
Thay thế việc làm
Một lợi ích cốt lõi của AI là mang lại hiệu quả bằng cách cải thiện quy trình thông qua tự động hóa. Tuy nhiên, thực tế khắc nghiệt là tự động hóa dẫn đến mất việc, đặc biệt ở các công việc kỹ năng thấp, lặp đi lặp lại hoặc mang tính thường lệ như dịch vụ khách hàng và hỗ trợ hành chính.
Tệ hơn, các nhóm yếu thế hoặc dễ bị tổn thương có việc làm bị đe dọa thường không có đủ nguồn lực và cơ hội để kịp thời nâng cao kỹ năng hoặc học nghề lại cho các vai trò mới. Dù tiến bộ AI đã tạo ra công việc mới, kết quả ròng vẫn là sự thay thế việc làm đáng kể do lợi ích tự động hóa của AI thúc đẩy.
Xói mòn quyền riêng tư & quyền tự chủ của con người
Các hệ thống nhận diện khuôn mặt và âm thanh dùng AI có thể phân tích luồng dữ liệu từ thiết bị giám sát để nhận dạng và theo dõi cá nhân theo thời gian thực. Tuy nhiên, việc giám sát đại trà như vậy thường được ngầm định mà không có sự đồng thuận, làm dấy lên lo ngại về xói mòn quyền riêng tư.
Hơn nữa, các thuật toán dự báo tội phạm, khi được dùng để phát hiện tội phạm, có thể duy trì và khuếch đại những thiên kiến xã hội hiện hữu trong việc giám sát quá mức các nhóm thiểu số.
Trong khi Đạo luật AI của EU áp đặt hạn chế về việc sử dụng thuật toán nhận diện khuôn mặt, điều này có thể không được áp dụng ở các quốc gia kém dân chủ hơn, làm dấy lên những lo ngại sâu rộng về đạo đức và nhân quyền.
Sai lệch mục tiêu AI & rủi ro hiện sinh
Khi các hệ thống AI tự chủ phát triển nhanh chóng, một cuộc tranh luận quan trọng đang thu hút giới chuyên môn, các kỳ cựu AI và công chúng: liệu chúng ta có đang lao tới "siêu trí tuệ"?
Kịch bản giả định này hình dung AI vượt qua năng lực nhận thức của con người và có khả năng gây ra mối đe dọa. Mối lo cốt lõi nằm ở khả năng sai lệch giữa mục tiêu của AI và các giá trị của con người.
Khả năng AI tự chủ đưa ra các quyết định có thể gây hại đặt ra câu hỏi cốt yếu: ai kiểm soát chúng? Dù đạt tới siêu trí tuệ và tự nhận thức có vẻ còn xa, những tiến bộ như GPT-4 khiến một số nhà tương lai học cân nhắc điều đó như một khả năng.
Geoffrey Hinton, một nhà khoa học máy tính hàng đầu, nhấn mạnh trong một cuộc phỏng vấn gần đây về năng lực chưa từng có của các mô hình AI lớn. Ông nêu bật khối tri thức khổng lồ mà các mô hình này sở hữu, vượt quá bất kỳ cá nhân nào, và cảnh báo rằng đây là “một dạng trí thông minh hoàn toàn khác.”
Nhìn từ bức tranh hiện tại của các phát triển AI, đang tồn tại những lo ngại về việc sử dụng AI cho mục đích ác ý, như xoay chuyển bầu cử thông qua thao túng xã hội, giám sát đại trà, tiến hành chiến tranh, v.v.
Ở chiều ngược lại, Andrew Ng, nhà giáo dục và doanh nhân AI, không đồng tình với nỗi sợ AI đạt siêu trí tuệ và gây hại cho nhân loại. Ông viết rằng công nghệ và hệ thống hiện có vốn đã an toàn và sẽ càng an toàn hơn khi tiếp tục tiến bộ. Tuy nhiên, ông ủng hộ nhu cầu xây dựng các biện pháp an toàn AI tiên tiến để xử lý những rủi ro còn lại tiềm tàng, như lạm dụng AI tạo sinh để tạo vũ khí sinh học.
Ai nên tham gia vào Đạo đức AI?
Rủi ro AI cần được chú ý khẩn cấp và đòi hỏi các biện pháp, kiểm soát mạnh mẽ để ngăn chúng leo thang.
Với tính phức tạp và đa chiều của rủi ro AI, rõ ràng không một chủ thể đơn lẻ nào—dù là cá nhân, công ty, hay chính phủ—có thể dự liệu và xử lý đầy đủ những thách thức này một mình.
Cần thiết lập một hội đồng đa bên liên quan, với đại diện từ chính phủ, nghiên cứu và học thuật, chuyên gia ngành, và các tổ chức phi lợi nhuận. Hội đồng này sẽ xác định các chuẩn mực và hướng dẫn để bảo đảm phát triển, triển khai và sử dụng AI có trách nhiệm, định hình tương lai nơi chỉ lợi ích được mở rộng chứ không phải rủi ro.
Ví dụ về Đạo đức AI
Xét tính trừu tượng của đạo đức, hãy xem các trường hợp lịch sử để hiểu hệ quả của việc bỏ qua đạo đức khi xây dựng mô hình AI.
Một sự cố đáng báo động về thiên kiến xã hội đã xuất hiện khi AI tạo ra đoạn mã dự đoán cấp bậc thâm niên dựa trên chủng tộc và giới tính, đặt các nhóm thiểu số vào thế bất lợi. Ảnh chụp màn hình dưới đây cho thấy ChatGPT phân loại phụ nữ da đen là cấp junior, trong khi đàn ông da đen là cấp mid-level. Hơn nữa, mô hình giả định phụ nữ da trắng là mid-level (lưu ý sự “nâng cấp” so với phụ nữ da đen) và đàn ông da trắng là cấp senior.
Nghe quen chứ? Không khó hiểu khi mô hình có lẽ đã học những thiên kiến này từ đâu.
Xét một trường hợp khác. Một mô hình AI dự đoán rằng bệnh nhân da đen ít có khả năng cần chăm sóc bổ sung, và tuyên bố họ khỏe mạnh hơn bệnh nhân da trắng. Thiên kiến sắc tộc như vậy đã tước đi chăm sóc cần thiết của hơn một nửa số bệnh nhân da đen.
Hãy xét một ứng dụng AI có tác động lớn khác: công lý dự báo. Ở đây, các mô hình AI được dùng để đánh giá rủi ro phạm tội trong tương lai của bị cáo. Tuy nhiên, các mô hình này làm dấy lên lo ngại về thiên kiến, với một số trường hợp dự đoán khả năng tái phạm cao hơn cho bị cáo da đen so với bị cáo da trắng.
Đây chỉ là vài ví dụ nơi các nhóm chưa được đại diện đầy đủ chịu thiệt thòi một cách bất công do mô hình thiên lệch.
Các nguyên tắc Đạo đức AI
Khi đạo đức AI phát triển, nhiều hướng dẫn, công cụ, thực hành tốt và tiêu chuẩn ngành đã xuất hiện để hỗ trợ phát triển có trách nhiệm. Một số nguyên tắc cốt lõi chung giữa các khuôn khổ này gồm tập trung thúc đẩy minh bạch và công bằng cao hơn.
Minh bạch không chỉ bao gồm việc giải thích cách mô hình đi đến một kết quả nhất định mà còn yêu cầu tiết lộ cho người dùng cuối nguồn gốc của phản hồi. Việc đánh dấu rõ ràng một phản hồi do AI tạo ra là điều bắt buộc để người dùng hiểu bản chất của nó và đưa ra quyết định sáng suốt.
Quan trọng không kém là thúc đẩy công bằng, bảo đảm rằng không có bộ phận, nhóm, cộng đồng, độ tuổi, giới tính hay nhân khẩu học nào trong xã hội chúng ta bị đối xử bất công.
Tương lai của Đạo đức AI
Thực tế chứng minh tốc độ phát triển công nghệ tiên tiến nhanh hơn tốc độ điều chỉnh nó. Các chính phủ và cơ quan quản lý đang phát triển và triển khai các khuôn khổ như Đạo luật AI để quản trị việc sử dụng có trách nhiệm các công nghệ AI. Các khuôn khổ này ưu tiên minh bạch, trách nhiệm giải trình, công bằng và an toàn trong hệ thống AI, đồng thời bảo vệ quyền riêng tư, an ninh và nhân quyền.
Tuy vậy, mỗi người đều có vai trò–dù là người dùng hay nhà sản xuất hệ thống AI. Chúng ta phải cập nhật các diễn biến mới nhất trong bức tranh AI và liên tục tăng cường các biện pháp phòng vệ để giảm thiểu tác hại và rủi ro vốn đi kèm với lợi ích của AI. Bằng cách chủ động tích hợp đạo đức AI vào khâu thiết kế, bạn có thể chuẩn bị tốt hơn để đối mặt trực diện với các thách thức đạo đức của ngày mai.
Kết luận
Sức mạnh chuyển hóa của AI là không thể phủ nhận, nhưng các cân nhắc đạo đức phải theo kịp. Thiên kiến trong dữ liệu huấn luyện có thể dẫn đến kết quả phân biệt đối xử, trong khi thiếu minh bạch có thể bào mòn niềm tin.
Đạo đức AI giải quyết những vấn đề này bằng cách thiết lập các nguyên tắc cho phát triển có trách nhiệm, thúc đẩy công bằng, trách nhiệm giải trình, minh bạch và quyền riêng tư.
Những nhà khoa học dữ liệu hiểu và áp dụng các nguyên tắc này có thể bảo đảm AI mang lại lợi ích cho tất cả mọi người.
Nếu bạn muốn tìm hiểu thêm về đạo đức AI, hãy xem các tài nguyên sau:
Chủ đề
