Lần ghi nhận đầu tiên thuật ngữ trí tuệ nhân tạo được sử dụng là tại một hội nghị học thuật năm 1956 trong bài phát biểu của John McCarthy, đề cập đến việc mô phỏng trí thông minh của con người bằng máy móc. Vì vậy, ông thường được xem là một trong những người đặt nền móng cho AI.
Tuy nhiên, hành trình thực sự nhằm tìm hiểu liệu máy móc có thể suy nghĩ hay không đã bắt đầu từ trước đó nhiều. Thực tế, năm 1950, nhà toán học người Anh Alan Turing đã công bố bài báo Computing Machinery and Intelligence đề xuất một bài kiểm tra để xác định liệu máy tính có thể suy nghĩ hay không.
Ngày nay, các câu hỏi xoay quanh Trí tuệ nhân tạo (AI) đã khác. Công nghệ này trở nên phổ biến nhờ khối lượng dữ liệu chúng ta tạo ra gia tăng, các thuật toán tiên tiến và những cải tiến đáng kể về sức mạnh tính toán. Chúng ta đang ở thời điểm có cơ sở hợp lý để cân nhắc những vấn đề đạo đức và xã hội nảy sinh từ việc sử dụng các công cụ như vậy.
Mặc dù công nghệ AI có thể nâng cao hiệu quả và năng suất, nó cũng có khả năng tạo ra nội dung gây hại, mang định kiến và vi phạm quyền riêng tư dữ liệu. Điều này đã khơi dậy nhiều cuộc thảo luận thú vị về thực hành xây dựng AI có trách nhiệm, sao cho trao quyền cho nhân viên, tác động tích cực đến khách hàng và giúp doanh nghiệp mở rộng AI một cách có đạo đức.
Sự phát triển của ChatGPT và kiểm duyệt nội dung
Một trong những bước tiến AI được nói đến nhiều nhất trong văn hóa đại chúng là ChatGPT. ChatGPT là chatbot AI do OpenAI phát triển nhằm mô phỏng tương tác giống con người với người dùng.
ChatGPT, từng nắm giữ danh hiệu dịch vụ trực tuyến được tiếp nhận nhanh nhất trong vài tháng sau khi đạt một triệu người dùng chỉ trong năm ngày, đã trải qua nhiều lần lặp lại kể từ khi ra mắt lần đầu vào tháng 6 năm 2018.
Thời điểm đó, mô hình được gọi là Generative Pre-trained Transformer 1 (GPT-1). Đây là mô hình ngôn ngữ lớn (LLM) đầu tiên do OpenAI phát triển, để đáp lại kiến trúc transformer do Google giới thiệu năm 2017. Mô hình này đặt nền tảng cho ChatGPT như chúng ta biết ngày nay, nhưng đã có thêm nhiều lần lặp khác trước khi đạt đến hiện tại.
Ví dụ, năm 2019, OpenAI phát hành mô hình mạnh hơn là GPT-2. Các cập nhật tập trung vào việc tăng cường khả năng hiểu ngôn ngữ của mô hình, đồng nghĩa với việc huấn luyện trên tập dữ liệu lớn hơn nhiều và tinh chỉnh quyền truy cập để cho phép người dùng tùy biến mô hình cho trường hợp sử dụng cụ thể của họ. Ngay sau đó, năm 2020, xuất hiện GPT-3.
Hiện nay, ChatGPT được coi là một trong những mô hình ngôn ngữ mạnh nhất vào thời điểm viết bài. Nó có khả năng thực hiện các tác vụ xử lý ngôn ngữ tự nhiên như dịch thuật, hoàn thành văn bản, trả lời câu hỏi và tạo sinh văn bản.
Nhưng điều đó không có nghĩa là nó không gặp vấn đề.
Sức mạnh và giới hạn của ChatGPT
ChatGPT như chúng ta biết ngày nay dựa trên kiến trúc GPT-3.5, với người đăng ký trả phí được truy cập GPT-4. Khác biệt chính nằm ở tập dữ liệu sử dụng và việc tối ưu cho các trường hợp hội thoại nhằm mang đến trải nghiệm cá nhân hóa hơn khi người dùng tương tác với mô hình qua giao diện trò chuyện.
Những thay đổi này đã cải thiện hiệu quả giao tiếp giữa con người và chương trình máy tính. Nó cũng cải thiện đáng kể cách thông tin được xử lý, tiêu thụ và trải nghiệm khách hàng.
Tuy nhiên, nó không tránh khỏi khiếm khuyết. Gần đây, nhiều thảo luận đã làm sáng tỏ khả năng của ChatGPT trong việc tạo ra các phản hồi không phù hợp hoặc thiên lệch. Hướng dẫn của chúng tôi về đạo đức của AI tạo sinh khám phá chi tiết hơn các vấn đề này.
Vấn đề bắt nguồn từ cách ChatGPT được xây dựng — LLM được huấn luyện dựa trên tổng hòa các bài viết của những cá nhân đến từ nhiều nền tảng khác nhau. Dù sự đa dạng này giúp mô hình hiểu biết tốt hơn, nó cũng có thể đưa định kiến và thành kiến vào nội dung mô hình tạo ra.
Sự cần thiết của kiểm duyệt chủ động
Kiểm duyệt nội dung chủ động mô tả quy trình xem xét và giám sát nội dung do người dùng tạo. Mục đích là để đảm bảo nội dung do người dùng tạo đáp ứng các tiêu chuẩn và nguyên tắc nhất định, qua đó bảo vệ thương hiệu của bạn khỏi bị gắn với yếu tố tiêu cực và bảo vệ người dùng khỏi việc thấy nội dung có thể gây phản cảm.
Ví dụ, một khía cạnh của kiểm duyệt chủ động bao gồm việc loại bỏ nội dung không phù hợp khỏi nền tảng, trong khi khía cạnh khác là thực thi nguyên tắc cộng đồng để ngăn chặn các hành vi như bắt nạt.
Cơ chế kiểm duyệt nội dung của ChatGPT
OpenAI thừa nhận mối đe dọa do nội dung do người dùng tạo ra (ví dụ: hủy hoại danh tiếng của ứng dụng, gây hại cho người dùng, v.v.) và nhanh chóng đưa ra công cụ nhằm ngăn nội dung không phù hợp xuất phát từ mô hình ngôn ngữ hoặc từ phía người dùng.
Công cụ này được đóng gói gọn gàng trong Moderation API, cho phép nhà phát triển kiểm tra nội dung của họ dựa trên các chính sách sử dụng của OpenAI. Những chính sách này hướng đến loại bỏ ngôn ngữ không phù hợp, như:
- Phát ngôn thù hận
- Ngôn ngữ đe dọa
- Quấy rối
- Tự hại (ý định hoặc hướng dẫn)
- Nội dung đồ họa (bao gồm nội dung khiêu dâm và bạo lực)
Tuy nhiên, các mô hình như ChatGPT cũng có thể sinh ra đầu ra thiên lệch hoặc không chính xác khi bị ảnh hưởng bởi đầu vào của người dùng chưa được lọc. Do đó, các biện pháp kiểm soát được triển khai để ngăn mô hình vô tình lan truyền thông tin sai lệch.
Vì vậy, nội dung được kiểm soát trên hai mặt trận:
Kiểm soát đầu vào của người dùng
Các kỹ thuật theo dõi, lọc và quản lý nội dung do người dùng tạo; mục tiêu là giúp doanh nghiệp duy trì tính toàn vẹn, an toàn và tiêu chuẩn đạo đức khi xây dựng ứng dụng LLM.
Kiểm soát đầu ra của mô hình
Những chính sách và quy trình này cho phép theo dõi và lọc các phản hồi mô hình tạo ra khi tương tác với người dùng; chúng giúp nhà phát triển xử lý các vấn đề tiềm ẩn của đầu ra mô hình, chẳng hạn như thiên lệch.
Việc triển khai kiểm soát đầu vào và đầu ra đặt trách nhiệm đạo đức của LLM lên doanh nghiệp; doanh nghiệp có trách nhiệm đảm bảo người dùng có trải nghiệm tích cực với sản phẩm và dịch vụ của họ, đồng thời đảm bảo AI được sử dụng một cách có trách nhiệm.
Các phương pháp kiểm duyệt nội dung
Có sáu hình thức kiểm duyệt phổ biến:
Tiền kiểm duyệt
Trước khi nội dung được hiển thị với thế giới, nó phải được kiểm tra. Đây gọi là tiền kiểm duyệt. Lợi ích của tiền kiểm duyệt là nội dung bị xem là không phù hợp hoặc không mong muốn đối với nền tảng trực tuyến có thể bị ngăn chặn trước khi gây hại.
Đây là lựa chọn kiểm duyệt cực kỳ phổ biến đối với các cộng đồng trực tuyến nhắm đến khán giả trẻ. Tuy nhiên, nhiều người cho rằng điều này làm mất đi tính thỏa mãn tức thì của cộng đồng trực tuyến vì nội dung phải được thông qua trước khi chia sẻ.
Hậu kiểm duyệt
Đối lập với tiền kiểm duyệt là hậu kiểm duyệt. Về trải nghiệm người dùng, cách này thường được ưa chuộng vì nội dung có thể được xuất bản ngay sau khi gửi trước khi vào hàng đợi để kiểm duyệt.
Lợi ích lớn nhất của cách tiếp cận này là người dùng có thể giao tiếp theo thời gian thực, nhưng chi phí có thể trở nên cao vì nhà vận hành trang web, những người là nhà xuất bản nội dung hợp pháp, phải chịu trách nhiệm về những gì hiển thị trên nền tảng của họ – càng nhiều người xem nội dung gây hại, thiệt hại càng lớn nếu vụ việc ra tòa.
Kiểm duyệt phản ứng
Một lựa chọn khác là trao quyền cho các thành viên cộng đồng. Điều này có nghĩa là người dùng có thể gắn cờ những nội dung vi phạm quy tắc hoặc những thành viên cư xử không phù hợp.
Việc kiểm duyệt phản ứng thường được sử dụng đồng thời với tiền hoặc hậu kiểm duyệt như một lớp an toàn bổ sung cho nội dung lọt qua bộ phận kiểm duyệt. Ưu điểm lớn của cách này là có thể mở rộng theo đà tăng trưởng của cộng đồng mà không tạo thêm áp lực lên nguồn lực của bạn.
Kiểm duyệt phân tán
Kiểm duyệt phân tán là hình thức lọc nội dung hiếm gặp. Nó dựa vào hệ thống xếp hạng mà các thành viên cộng đồng sử dụng để bỏ phiếu xem một bài đăng có phù hợp với nguyên tắc cộng đồng hay không.
Các công ty thường tránh đặt gánh nặng tự kiểm duyệt lên cộng đồng vì điều này tiềm ẩn rủi ro pháp lý và ảnh hưởng thương hiệu.
Kiểm duyệt tự động
Khi nội dung do người dùng tạo tăng lên, mức độ phức tạp đối với người kiểm duyệt cũng tăng theo. Không chỉ khó để cá nhân có thể thủ công duyệt qua khối lượng nội dung khổng lồ, mà còn gây suy sụp tinh thần; Không ai đi làm với tâm trạng háo hức để rà soát một đống nội dung gây ám ảnh.
Bổ sung kiểm duyệt tự động vào kiểm duyệt do con người thực hiện là một cách kết hợp cực kỳ giá trị. Nó bao gồm nhiều công cụ kỹ thuật khác nhau, như bộ lọc từ, để từ chối và phê duyệt bài đăng.
Không kiểm duyệt
Những người kiểm duyệt nội dung có lẽ sẽ khuyên bạn không nên áp dụng cách không kiểm duyệt. Tuy nhiên, họ cũng hiểu rằng có thể có lý do chính đáng khiến một số người chọn không kiểm duyệt nội dung trong cộng đồng của mình.
Ví dụ, có thể không đủ nguồn lực để làm điều đó, hoặc cộng đồng của bạn muốn đề cao khái niệm “tự do ngôn luận”. Về cơ bản, từ bỏ kiểm duyệt đồng nghĩa từ bỏ quyền kiểm soát, khiến nền tảng dễ bị tổn thương, điều mà thường khiến người dùng mới e ngại.
Kiểm duyệt nội dung trong thực tế
Hầu hết các nền tảng ngày nay, như Facebook và YouTube, tận dụng kiểm duyệt nội dung tự động để chặn một số loại nội dung nhất định. Điều này thường liên quan đến việc sử dụng AI với mục tiêu cụ thể là cải thiện nỗ lực kiểm duyệt nội dung và nâng cao trải nghiệm người dùng trên nền tảng của họ.
Tuy vậy, dù AI có thể phát hiện nội dung không phù hợp và đảm nhiệm phần lớn công việc tẻ nhạt vốn do con người xử lý, chúng vẫn có thiếu sót. Máy móc thường bỏ qua những sắc thái quan trọng như thông tin sai lệch, thiên kiến và thù hận, đồng nghĩa với việc loại bỏ hoàn toàn người kiểm duyệt là không lý tưởng.
Nói cách khác, kiểm duyệt tự động bằng AI thường được kết hợp với kiểm duyệt do con người thực hiện để đảm bảo nền tảng an toàn cho người dùng và thương hiệu được bảo toàn. Dưới đây là một vài ví dụ thực tế:
Nội dung lạm dụng
Twitter (nay là X) đã đối mặt với chỉ trích gay gắt vì không thể phản ứng hiệu quả trước nạn quấy rối trực tuyến. Tuy nhiên, kể từ khi Elon Musk tiếp quản, công ty đã dựa mạnh vào tự động hóa để kiểm duyệt nội dung. Kết quả là các công cụ như Bộ lọc chất lượng, sử dụng các kỹ thuật như xử lý ngôn ngữ tự nhiên để hạn chế khả năng hiển thị của nội dung kém chất lượng.
Nội dung người lớn
YouTube có chính sách nghiêm ngặt đối với ảnh khỏa thân và nội dung tình dục; người dùng có thể bị chấm dứt kênh nếu vi phạm. Cách họ phát hiện nội dung như vậy là hai hướng: tự động và phản ứng.
Ở cách tự động, Google triển khai các thuật toán tận dụng kỹ thuật như thị giác máy tính để kiểm tra ảnh khỏa thân. Tuy nhiên, nếu nội dung lọt qua thuật toán, YouTube dựa vào người xem để gắn cờ nội dung là không phù hợp để được xem xét.
Nội dung giả và gây hiểu lầm
Instagram dựa vào AI và người kiểm duyệt để tìm kiếm, xem xét và xử lý các nội dung lan truyền thông tin gây hiểu lầm – điều này đặc biệt rõ ràng trong thời kỳ bùng phát Covid.
Theo Trung tâm trợ giúp Instagram, “[AI của Instagram] có thể phát hiện và gỡ bỏ nội dung vi phạm Nguyên tắc cộng đồng trước khi bất kỳ ai báo cáo. Ở những thời điểm khác, công nghệ của chúng tôi chuyển nội dung đến các nhóm đánh giá thủ công để xem xét kỹ hơn và đưa ra quyết định.”
Kết luận
Khi chúng ta tiến từ những nền tảng lý thuyết của Turing và McCarthy đến các ứng dụng thực tiễn như ChatGPT, bức tranh đạo đức của AI ngày càng trở nên phức tạp. Dù các công nghệ AI như ChatGPT mang lại tiềm năng chuyển đổi, chúng cũng đặt ra những thách thức đạo đức, bao gồm kiểm duyệt nội dung và thiên kiến.
Moderation API của OpenAI là một bước tiến quan trọng hướng đến AI có trách nhiệm, nhưng không phải giải pháp chung cho mọi trường hợp. Doanh nghiệp và nhà phát triển cùng chia sẻ trách nhiệm đạo đức trong việc triển khai cách tiếp cận đa chiều đối với kiểm duyệt, kết hợp hệ thống tự động với sự giám sát của con người. Các ví dụ thực tế từ những nền tảng như Twitter và YouTube cho thấy hiệu quả của mô hình kết hợp này.
Đối với những ai quan tâm tìm hiểu sâu hơn về AI có trách nhiệm, chúng tôi có một số tài nguyên hữu ích như podcast về tương lai của AI có trách nhiệm, hội thảo trực tuyến về đánh giá mô hình học máy trong Python và khóa học về đạo đức AI.
Quản trị đạo đức AI là nỗ lực tập thể đòi hỏi sự cảnh giác liên tục từ mọi bên liên quan. Khi chúng ta thúc đẩy ranh giới năng lực của AI, hãy đồng thời thúc đẩy chuẩn mực đạo đức để đảm bảo công nghệ phục vụ như một lực lượng cho điều tốt.
Lần ghi nhận đầu tiên thuật ngữ trí tuệ nhân tạo được sử dụng là tại một hội nghị học thuật năm 1956 trong bài phát biểu của John McCarthy, đề cập đến việc mô phỏng trí thông minh của con người bằng máy móc. Vì vậy, ông thường được xem là một trong những người đặt nền móng cho AI.
Tuy nhiên, hành trình thực sự nhằm tìm hiểu liệu máy móc có thể suy nghĩ hay không đã bắt đầu từ trước đó nhiều. Thực tế, năm 1950, nhà toán học người Anh Alan Turing đã công bố bài báo Computing Machinery and Intelligence đề xuất một bài kiểm tra để xác định liệu máy tính có thể suy nghĩ hay không.
Ngày nay, các câu hỏi xoay quanh Trí tuệ nhân tạo (AI) đã khác. Công nghệ này trở nên phổ biến nhờ khối lượng dữ liệu chúng ta tạo ra gia tăng, các thuật toán tiên tiến và những cải tiến đáng kể về sức mạnh tính toán. Chúng ta đang ở thời điểm có cơ sở hợp lý để cân nhắc những vấn đề đạo đức và xã hội nảy sinh từ việc sử dụng các công cụ như vậy.
Mặc dù công nghệ AI có thể nâng cao hiệu quả và năng suất, nó cũng có khả năng tạo ra nội dung gây hại, mang định kiến và vi phạm quyền riêng tư dữ liệu. Điều này đã khơi dậy nhiều cuộc thảo luận thú vị về thực hành xây dựng AI có trách nhiệm, sao cho trao quyền cho nhân viên, tác động tích cực đến khách hàng và giúp doanh nghiệp mở rộng AI một cách có đạo đức.
Sự phát triển của ChatGPT và kiểm duyệt nội dung
Một trong những bước tiến AI được nói đến nhiều nhất trong văn hóa đại chúng là ChatGPT. ChatGPT là chatbot AI do OpenAI phát triển nhằm mô phỏng tương tác giống con người với người dùng.
ChatGPT, từng nắm giữ danh hiệu dịch vụ trực tuyến được tiếp nhận nhanh nhất trong vài tháng sau khi đạt một triệu người dùng chỉ trong năm ngày, đã trải qua nhiều lần lặp lại kể từ khi ra mắt lần đầu vào tháng 6 năm 2018.
Thời điểm đó, mô hình được gọi là Generative Pre-trained Transformer 1 (GPT-1). Đây là mô hình ngôn ngữ lớn (LLM) đầu tiên do OpenAI phát triển, để đáp lại kiến trúc transformer do Google giới thiệu năm 2017. Mô hình này đặt nền tảng cho ChatGPT như chúng ta biết ngày nay, nhưng đã có thêm nhiều lần lặp khác trước khi đạt đến hiện tại.
Ví dụ, năm 2019, OpenAI phát hành mô hình mạnh hơn là GPT-2. Các cập nhật tập trung vào việc tăng cường khả năng hiểu ngôn ngữ của mô hình, đồng nghĩa với việc huấn luyện trên tập dữ liệu lớn hơn nhiều và tinh chỉnh quyền truy cập để cho phép người dùng tùy biến mô hình cho trường hợp sử dụng cụ thể của họ. Ngay sau đó, năm 2020, xuất hiện GPT-3.
Hiện nay, ChatGPT được coi là một trong những mô hình ngôn ngữ mạnh nhất vào thời điểm viết bài. Nó có khả năng thực hiện các tác vụ xử lý ngôn ngữ tự nhiên như dịch thuật, hoàn thành văn bản, trả lời câu hỏi và tạo sinh văn bản.
Nhưng điều đó không có nghĩa là nó không gặp vấn đề.
Sức mạnh và giới hạn của ChatGPT
ChatGPT như chúng ta biết ngày nay dựa trên kiến trúc GPT-3.5, với người đăng ký trả phí được truy cập GPT-4. Khác biệt chính nằm ở tập dữ liệu sử dụng và việc tối ưu cho các trường hợp hội thoại nhằm mang đến trải nghiệm cá nhân hóa hơn khi người dùng tương tác với mô hình qua giao diện trò chuyện.
Những thay đổi này đã cải thiện hiệu quả giao tiếp giữa con người và chương trình máy tính. Nó cũng cải thiện đáng kể cách thông tin được xử lý, tiêu thụ và trải nghiệm khách hàng.
Tuy nhiên, nó không tránh khỏi khiếm khuyết. Gần đây, nhiều thảo luận đã làm sáng tỏ khả năng của ChatGPT trong việc tạo ra các phản hồi không phù hợp hoặc thiên lệch. Hướng dẫn của chúng tôi về đạo đức của AI tạo sinh khám phá chi tiết hơn các vấn đề này.
Vấn đề bắt nguồn từ cách ChatGPT được xây dựng — LLM được huấn luyện dựa trên tổng hòa các bài viết của những cá nhân đến từ nhiều nền tảng khác nhau. Dù sự đa dạng này giúp mô hình hiểu biết tốt hơn, nó cũng có thể đưa định kiến và thành kiến vào nội dung mô hình tạo ra.
Sự cần thiết của kiểm duyệt chủ động
Kiểm duyệt nội dung chủ động mô tả quy trình xem xét và giám sát nội dung do người dùng tạo. Mục đích là để đảm bảo nội dung do người dùng tạo đáp ứng các tiêu chuẩn và nguyên tắc nhất định, qua đó bảo vệ thương hiệu của bạn khỏi bị gắn với yếu tố tiêu cực và bảo vệ người dùng khỏi việc thấy nội dung có thể gây phản cảm.
Ví dụ, một khía cạnh của kiểm duyệt chủ động bao gồm việc loại bỏ nội dung không phù hợp khỏi nền tảng, trong khi khía cạnh khác là thực thi nguyên tắc cộng đồng để ngăn chặn các hành vi như bắt nạt.
Cơ chế kiểm duyệt nội dung của ChatGPT
OpenAI thừa nhận mối đe dọa do nội dung do người dùng tạo ra (ví dụ: hủy hoại danh tiếng của ứng dụng, gây hại cho người dùng, v.v.) và nhanh chóng đưa ra công cụ nhằm ngăn nội dung không phù hợp xuất phát từ mô hình ngôn ngữ hoặc từ phía người dùng.
Công cụ này được đóng gói gọn gàng trong Moderation API, cho phép nhà phát triển kiểm tra nội dung của họ dựa trên các chính sách sử dụng của OpenAI. Những chính sách này hướng đến loại bỏ ngôn ngữ không phù hợp, như:
Tuy nhiên, các mô hình như ChatGPT cũng có thể sinh ra đầu ra thiên lệch hoặc không chính xác khi bị ảnh hưởng bởi đầu vào của người dùng chưa được lọc. Do đó, các biện pháp kiểm soát được triển khai để ngăn mô hình vô tình lan truyền thông tin sai lệch.
Vì vậy, nội dung được kiểm soát trên hai mặt trận:
Kiểm soát đầu vào của người dùng
Các kỹ thuật theo dõi, lọc và quản lý nội dung do người dùng tạo; mục tiêu là giúp doanh nghiệp duy trì tính toàn vẹn, an toàn và tiêu chuẩn đạo đức khi xây dựng ứng dụng LLM.
Kiểm soát đầu ra của mô hình
Những chính sách và quy trình này cho phép theo dõi và lọc các phản hồi mô hình tạo ra khi tương tác với người dùng; chúng giúp nhà phát triển xử lý các vấn đề tiềm ẩn của đầu ra mô hình, chẳng hạn như thiên lệch.
Việc triển khai kiểm soát đầu vào và đầu ra đặt trách nhiệm đạo đức của LLM lên doanh nghiệp; doanh nghiệp có trách nhiệm đảm bảo người dùng có trải nghiệm tích cực với sản phẩm và dịch vụ của họ, đồng thời đảm bảo AI được sử dụng một cách có trách nhiệm.
Các phương pháp kiểm duyệt nội dung
Có sáu hình thức kiểm duyệt phổ biến:
Tiền kiểm duyệt
Trước khi nội dung được hiển thị với thế giới, nó phải được kiểm tra. Đây gọi là tiền kiểm duyệt. Lợi ích của tiền kiểm duyệt là nội dung bị xem là không phù hợp hoặc không mong muốn đối với nền tảng trực tuyến có thể bị ngăn chặn trước khi gây hại.
Đây là lựa chọn kiểm duyệt cực kỳ phổ biến đối với các cộng đồng trực tuyến nhắm đến khán giả trẻ. Tuy nhiên, nhiều người cho rằng điều này làm mất đi tính thỏa mãn tức thì của cộng đồng trực tuyến vì nội dung phải được thông qua trước khi chia sẻ.
Hậu kiểm duyệt
Đối lập với tiền kiểm duyệt là hậu kiểm duyệt. Về trải nghiệm người dùng, cách này thường được ưa chuộng vì nội dung có thể được xuất bản ngay sau khi gửi trước khi vào hàng đợi để kiểm duyệt.
Lợi ích lớn nhất của cách tiếp cận này là người dùng có thể giao tiếp theo thời gian thực, nhưng chi phí có thể trở nên cao vì nhà vận hành trang web, những người là nhà xuất bản nội dung hợp pháp, phải chịu trách nhiệm về những gì hiển thị trên nền tảng của họ – càng nhiều người xem nội dung gây hại, thiệt hại càng lớn nếu vụ việc ra tòa.
Kiểm duyệt phản ứng
Một lựa chọn khác là trao quyền cho các thành viên cộng đồng. Điều này có nghĩa là người dùng có thể gắn cờ những nội dung vi phạm quy tắc hoặc những thành viên cư xử không phù hợp.
Việc kiểm duyệt phản ứng thường được sử dụng đồng thời với tiền hoặc hậu kiểm duyệt như một lớp an toàn bổ sung cho nội dung lọt qua bộ phận kiểm duyệt. Ưu điểm lớn của cách này là có thể mở rộng theo đà tăng trưởng của cộng đồng mà không tạo thêm áp lực lên nguồn lực của bạn.
Kiểm duyệt phân tán
Kiểm duyệt phân tán là hình thức lọc nội dung hiếm gặp. Nó dựa vào hệ thống xếp hạng mà các thành viên cộng đồng sử dụng để bỏ phiếu xem một bài đăng có phù hợp với nguyên tắc cộng đồng hay không.
Các công ty thường tránh đặt gánh nặng tự kiểm duyệt lên cộng đồng vì điều này tiềm ẩn rủi ro pháp lý và ảnh hưởng thương hiệu.
Kiểm duyệt tự động
Khi nội dung do người dùng tạo tăng lên, mức độ phức tạp đối với người kiểm duyệt cũng tăng theo. Không chỉ khó để cá nhân có thể thủ công duyệt qua khối lượng nội dung khổng lồ, mà còn gây suy sụp tinh thần; Không ai đi làm với tâm trạng háo hức để rà soát một đống nội dung gây ám ảnh.
Bổ sung kiểm duyệt tự động vào kiểm duyệt do con người thực hiện là một cách kết hợp cực kỳ giá trị. Nó bao gồm nhiều công cụ kỹ thuật khác nhau, như bộ lọc từ, để từ chối và phê duyệt bài đăng.
Không kiểm duyệt
Những người kiểm duyệt nội dung có lẽ sẽ khuyên bạn không nên áp dụng cách không kiểm duyệt. Tuy nhiên, họ cũng hiểu rằng có thể có lý do chính đáng khiến một số người chọn không kiểm duyệt nội dung trong cộng đồng của mình.
Ví dụ, có thể không đủ nguồn lực để làm điều đó, hoặc cộng đồng của bạn muốn đề cao khái niệm “tự do ngôn luận”. Về cơ bản, từ bỏ kiểm duyệt đồng nghĩa từ bỏ quyền kiểm soát, khiến nền tảng dễ bị tổn thương, điều mà thường khiến người dùng mới e ngại.
Kiểm duyệt nội dung trong thực tế
Hầu hết các nền tảng ngày nay, như Facebook và YouTube, tận dụng kiểm duyệt nội dung tự động để chặn một số loại nội dung nhất định. Điều này thường liên quan đến việc sử dụng AI với mục tiêu cụ thể là cải thiện nỗ lực kiểm duyệt nội dung và nâng cao trải nghiệm người dùng trên nền tảng của họ.
Tuy vậy, dù AI có thể phát hiện nội dung không phù hợp và đảm nhiệm phần lớn công việc tẻ nhạt vốn do con người xử lý, chúng vẫn có thiếu sót. Máy móc thường bỏ qua những sắc thái quan trọng như thông tin sai lệch, thiên kiến và thù hận, đồng nghĩa với việc loại bỏ hoàn toàn người kiểm duyệt là không lý tưởng.
Nói cách khác, kiểm duyệt tự động bằng AI thường được kết hợp với kiểm duyệt do con người thực hiện để đảm bảo nền tảng an toàn cho người dùng và thương hiệu được bảo toàn. Dưới đây là một vài ví dụ thực tế:
Nội dung lạm dụng
Twitter (nay là X) đã đối mặt với chỉ trích gay gắt vì không thể phản ứng hiệu quả trước nạn quấy rối trực tuyến. Tuy nhiên, kể từ khi Elon Musk tiếp quản, công ty đã dựa mạnh vào tự động hóa để kiểm duyệt nội dung. Kết quả là các công cụ như Bộ lọc chất lượng, sử dụng các kỹ thuật như xử lý ngôn ngữ tự nhiên để hạn chế khả năng hiển thị của nội dung kém chất lượng.
Nội dung người lớn
YouTube có chính sách nghiêm ngặt đối với ảnh khỏa thân và nội dung tình dục; người dùng có thể bị chấm dứt kênh nếu vi phạm. Cách họ phát hiện nội dung như vậy là hai hướng: tự động và phản ứng.
Ở cách tự động, Google triển khai các thuật toán tận dụng kỹ thuật như thị giác máy tính để kiểm tra ảnh khỏa thân. Tuy nhiên, nếu nội dung lọt qua thuật toán, YouTube dựa vào người xem để gắn cờ nội dung là không phù hợp để được xem xét.
Nội dung giả và gây hiểu lầm
Instagram dựa vào AI và người kiểm duyệt để tìm kiếm, xem xét và xử lý các nội dung lan truyền thông tin gây hiểu lầm – điều này đặc biệt rõ ràng trong thời kỳ bùng phát Covid.
Theo Trung tâm trợ giúp Instagram, “[AI của Instagram] có thể phát hiện và gỡ bỏ nội dung vi phạm Nguyên tắc cộng đồng trước khi bất kỳ ai báo cáo. Ở những thời điểm khác, công nghệ của chúng tôi chuyển nội dung đến các nhóm đánh giá thủ công để xem xét kỹ hơn và đưa ra quyết định.”
Kết luận
Khi chúng ta tiến từ những nền tảng lý thuyết của Turing và McCarthy đến các ứng dụng thực tiễn như ChatGPT, bức tranh đạo đức của AI ngày càng trở nên phức tạp. Dù các công nghệ AI như ChatGPT mang lại tiềm năng chuyển đổi, chúng cũng đặt ra những thách thức đạo đức, bao gồm kiểm duyệt nội dung và thiên kiến.
Moderation API của OpenAI là một bước tiến quan trọng hướng đến AI có trách nhiệm, nhưng không phải giải pháp chung cho mọi trường hợp. Doanh nghiệp và nhà phát triển cùng chia sẻ trách nhiệm đạo đức trong việc triển khai cách tiếp cận đa chiều đối với kiểm duyệt, kết hợp hệ thống tự động với sự giám sát của con người. Các ví dụ thực tế từ những nền tảng như Twitter và YouTube cho thấy hiệu quả của mô hình kết hợp này.
Đối với những ai quan tâm tìm hiểu sâu hơn về AI có trách nhiệm, chúng tôi có một số tài nguyên hữu ích như podcast về tương lai của AI có trách nhiệm, hội thảo trực tuyến về đánh giá mô hình học máy trong Python và khóa học về đạo đức AI.
Quản trị đạo đức AI là nỗ lực tập thể đòi hỏi sự cảnh giác liên tục từ mọi bên liên quan. Khi chúng ta thúc đẩy ranh giới năng lực của AI, hãy đồng thời thúc đẩy chuẩn mực đạo đức để đảm bảo công nghệ phục vụ như một lực lượng cho điều tốt.