Model Collapse là gì? Nguyên nhân, ví dụ và cách khắc phục

Phương pháp luận AI đã thay đổi rất nhiều theo thời gian, và dữ liệu huấn luyện luôn là một trong những mối quan tâm lớn nhất khi huấn luyện AI. Vì vậy, model collapse ngày càng đáng lo ngại trong AI tạo sinh, nơi các mô hình được huấn luyện trên chính dữ liệu do AI tạo ra sẽ suy giảm và cuối cùng thoái hóa, dẫn đến mất đáng kể khả năng biểu diễn phân phối dữ liệu thực.

Cụ thể, điều này tạo ra một vòng lặp đệ quy dẫn đến giảm chất lượng ở các mô hình ngôn ngữ lớn được huấn luyện trên nội dung do AI tạo ra, điều mà trước đây chúng tôi gọi là “AI tự ăn thịt” (AI cannibalism). Trong hướng dẫn này, tôi sẽ giải thích model collapse là gì, vì sao nó quan trọng và cách ngăn chặn.

Nếu bạn muốn tìm hiểu sâu hơn, tôi khuyến nghị theo học lộ trình nghề nghiệp Associate AI Engineer for Developers. 

Model Collapse là gì?

Model collapse là một điểm yếu nghiêm trọng trong quá trình huấn luyện máy học, vì phụ thuộc vào dữ liệu tổng hợp sẽ dẫn đến suy giảm dần. 

Model collapse là sự mất đi khả năng của một mô hình trong việc biểu diễn chính xác phân phối dữ liệu gốc, từ đó tạo ra các đầu ra bị đồng nhất hóa. Nó gây tự suy thoái do quá phụ thuộc vào dữ liệu nội bộ, thường được gọi là rối loạn tự thực bào của mô hình (model autophagy disorder, MAD). Vòng lặp tiêu thụ đầu ra AI này cũng được gọi là AI tự ăn thịt.

Model collapse có thể được phát hiện sớm qua các dấu hiệu như quên các sự kiện hiếm hoặc mẫu dữ liệu thiểu số, và ở giai đoạn muộn như xuất hiện đầu ra lặp lại, phương sai thấp như văn bản chung chung hoặc hình ảnh đồng nhất, v.v. Dấu hiệu cảnh báo gồm tỷ lệ lỗi tăng, giảm tính sáng tạo và hội tụ về các giá trị trung bình.

Model collapse đáng quan tâm vì làn sóng nội dung do AI tạo ra tràn ngập internet, như ChatGPT hoặc DALL-E. Nguy cơ bộ dữ liệu huấn luyện bị nhiễm dữ liệu tổng hợp như tin tức, bài viết, ảnh do AI tạo ra ngày càng tăng. Để tìm hiểu thêm về các loại mô hình khác nhau, bạn có thể xem các khóa học của chúng tôi về Foundation Models là gì? và Giới thiệu về Foundation Models.

Model Collapse xảy ra như thế nào?

Model collapse bắt nguồn từ những sai sót lặp đi lặp lại trong AI. Ở phần này, tôi sẽ giải thích các cơ chế thúc đẩy nó.

Tích lũy lỗi

Có nhiều loại lỗi có thể xảy ra, chẳng hạn lỗi xấp xỉ hàm, có thể hiểu là mô hình không thể khớp hoàn hảo các hàm phức tạp. Lỗi lấy mẫu cũng có thể xảy ra như thiên lệch từ các bộ dữ liệu hữu hạn hoặc mất cân bằng, khiến chúng ta không thể bao quát tất cả khía cạnh của dữ liệu, bao gồm cả ngoại lai. 

Ngoài ra, lỗi học xảy ra thường xuyên do tối ưu hóa, như thiên lệch trong gradient descent. Tất cả những điều này có thể góp phần đáng kể vào sự thoái hóa cuối cùng của mô hình. Do đó, lan truyền lỗi dẫn đến sụp đổ giai đoạn sớm và muộn. Sụp đổ sớm bào mòn các phân phối đuôi. Nghĩa là dữ liệu hiếm sẽ bị quên hoàn toàn sau vài vòng lặp. Trong khi đó, sụp đổ muộn dẫn đến đồng nhất hóa hoàn toàn, với lỗi chồng chất qua các thế hệ huấn luyện như hiệu ứng quả cầu tuyết.

Ô nhiễm dữ liệu do AI tạo ra

Model collapse gây mất đa dạng dữ liệu, điều này xảy ra vì dữ liệu tổng hợp nhấn mạnh quá mức các mẫu phổ biến trong khi xóa bỏ các mẫu hiếm hoặc thiểu số (ngoại lai), dẫn đến các mô hình thiên lệch bỏ qua các trường hợp biên. Điều này có thể biểu hiện ở mô hình khuếch tán chỉ tạo và lặp lại cùng một mẫu qua mỗi vòng lặp và chỉ sản sinh các hình ảnh mang tính rập khuôn, rốt cuộc làm giảm tính chân thực và đa dạng. 

Một ví dụ khác là cách các LLM đánh mất vốn từ vựng ngách và sắc thái văn hóa do phân phối dữ liệu hạn chế mà chúng được tinh chỉnh. Để tìm hiểu thêm về các cách mô hình hóa dữ liệu khác nhau, hãy xem các hướng dẫn của chúng tôi về Mô hình nhiều cấp: Hướng dẫn toàn diện cho Data Scientist và Giải thích mô hình dữ liệu: Kỹ thuật, ví dụ và thực tiễn tốt nhất.

Vòng lặp huấn luyện đệ quy

Có lẽ cơ chế nguy hiểm nhất của sự sụp đổ là huấn luyện đệ quy. Khi đầu ra do AI tạo ra liên tục được đưa trở lại làm dữ liệu huấn luyện mới. Điều này khiến hệ thống khuếch đại chính các lỗi của mình. Nó giống như một hệ thống tự thưởng, nơi thay vì loại bỏ sai sót, bạn lại tự dạy mình mắc chúng thường xuyên hơn, và đó là lý do chúng ta gọi là “AI tự ăn thịt”. 

Quy trình này giống nén mất dữ liệu, nơi mỗi vòng lặp tước bỏ các chi tiết tinh tế cho đến khi đầu ra cuối cùng trở nên mờ nhòe và lặp lại. Qua nhiều thế hệ, sự phong phú nguyên bản trong tri thức của mô hình bị mất không thể phục hồi.

Vì sao Model Collapse quan trọng

Model collapse không chỉ là một vấn đề kỹ thuật, nó còn có hệ lụy lớn đối với khoa học và công nghiệp như tôi sẽ giải thích ở phần này.

Rủi ro đối với độ tin cậy và đổi mới của AI

Model collapse đe dọa sự đa dạng và độ tin cậy của hệ sinh thái tri thức toàn cầu vì nó trao nhiều giá trị hơn cho thiên lệch và lỗi so với các quy trình huấn luyện truyền thống. Do đó, nó có nguy cơ tạo ra một vòng lặp khép kín của thông tin sai lệch và đồng nhất hóa, đe dọa hệ sinh thái thông tin. 

Hơn nữa, mức độ rủi ro là không thể lường trước trong các lĩnh vực khoa học và công nghiệp, vì các mô hình không thể nắm bắt mẫu hiếm sẽ không đáp ứng khả năng tái lập, mà chính điều này làm chậm khám phá khoa học. Bên cạnh đó, trong các lĩnh vực như khám phá thuốc, mô hình khí hậu hoặc dự báo tài chính, sự sụp đổ có thể gây ra lỗi tốn kém, đình trệ tiến bộ và hệ quả là giảm niềm tin.

Cách phòng ngừa Model Collapse

Giải quyết sự sụp đổ đòi hỏi kết hợp các thực hành dữ liệu, giám sát của con người và cơ chế huấn luyện lai. Ở phần này, tôi sẽ giải thích chi tiết hơn.

Thực hành thẩm định dữ liệu

Nền tảng là dữ liệu do con người tạo ra có chất lượng cao. Do đó, thẩm định cần xác định và lọc bỏ các mẫu bị nhiễm trong dữ liệu, để quá trình huấn luyện được hậu thuẫn bởi dữ liệu thực. Để tìm hiểu thêm về công cụ mô hình dữ liệu, hãy xem blog của chúng tôi về Top 19 công cụ mô hình dữ liệu cho 2025: Tính năng & trường hợp sử dụng.

Giám sát và can thiệp của con người

Hệ thống có con người trong vòng lặp đóng vai trò thiết yếu trong việc duy trì tính toàn vẹn của dữ liệu, bởi luôn cần có con người can thiệp và xem liệu có thiên lệch nào bị đưa vào hay không.

Ví dụ, khi huấn luyện một LLM chuyên hóa về hóa học bằng dữ liệu bị nhiễm, bạn có thể thấy dữ liệu tổng hợp tràn ngập các hợp chất phổ biến như formaldehyde hoặc các chất khác, dẫn đến một mô hình đặc biệt giỏi về hợp chất đó nhưng lại hoàn toàn không biết về các hợp chất hiếm.

Vì vậy, các chuyên gia có thể rà soát đầu ra, sửa thiên lệch và tái đưa đa dạng trở lại bộ dữ liệu. Cơ chế hiệu chỉnh thiên lệch cũng rất quan trọng để bảo toàn các trường hợp thiểu số và hiếm. Tất nhiên, có nhiều cách để nâng cao cách các mô hình ngôn ngữ lớn học hỏi, bằng cách huấn luyện chúng hoặc sử dụng chúng tốt hơn. Hãy xem hướng dẫn của chúng tôi về Model Context Protocol (MCP): Hướng dẫn kèm dự án demo và blog của chúng tôi về Large Concept Models: Hướng dẫn kèm ví dụ.

Cách tiếp cận huấn luyện lai

Dữ liệu thực khan hiếm và đòi hỏi nhiều công sức thủ công hơn. Do đó, chỉ sử dụng dữ liệu thực chất lượng cao có thể là một thách thức. Tuy nhiên, chúng ta có thể kết hợp dữ liệu thực và tổng hợp, điều này hiệu quả hơn so với loại trừ một trong hai. Khi được cân bằng cẩn thận, huấn luyện lai giữ được tính đa dạng đồng thời tận dụng khả năng mở rộng của nội dung tổng hợp. 

Đổi mới về thuật toán và kiến trúc

Về mặt kỹ thuật, các nhà nghiên cứu đã phát triển những phương pháp để chống lại sự sụp đổ. Các phương pháp này chủ yếu được phân loại thành hai nhóm:

• Giải pháp kiến trúc như minibatch discrimination khuyến khích đa dạng bằng cách cho phép mô hình so sánh các mẫu trong một batch và phạt các đầu ra quá giống nhau, unrolled GANs giúp ổn định huấn luyện bằng cách mô phỏng các bước tối ưu hóa tương lai, và spectral normalization, ràng buộc hằng số Lipschitz của các lớp để ổn định huấn luyện.
• Phương pháp thuật toán bao gồm KL-divergence annealing giúp cân bằng dần giữa khám phá và độ trung thực, PacGAN sử dụng nhiều mẫu đóng gói trong bộ phân biệt để phát hiện và ngăn model collapse, và các phương pháp regularization khác giúp ổn định huấn luyện, bảo toàn đa dạng.

Còn rất nhiều đổi mới khác để tìm hiểu. Hãy xem các hướng dẫn của chúng tôi về Đa cộng tuyến trong hồi quy: Hướng dẫn cho Data Scientist và  Mô hình phương trình cấu trúc: Là gì và khi nào nên dùng.

Triển vọng tương lai và các cân nhắc thực tiễn

Khi nội dung do AI tạo ra trở nên phổ biến ở khắp nơi, rủi ro model collapse sẽ ngày càng cấp bách hơn.

Rủi ro tiến hóa cùng dữ liệu do AI tạo ra

Lượng dữ liệu tổng hợp trên internet chỉ ngày càng tăng, làm tăng khả năng xảy ra rối loạn tự thực bào của mô hình, tức là suy thoái do tiêu thụ chính đầu ra của mình. Nếu không được kiểm soát, điều này sẽ dẫn đến các vòng lặp đệ quy, tự nó khiến mô hình tạo sinh thoái hóa.

Giải pháp cho model collapse không thể chỉ dựa thuần kỹ thuật. Một kế hoạch tốt cần có khung quản trị hiệu quả và một số thực hành tốt để hướng tới phát triển AI có trách nhiệm. Bên cạnh đó, điều này đòi hỏi hành động liên ngành trên phạm vi toàn cầu để chống lại model collapse, không chỉ là các kỹ sư trong ngành. Cần có sự hợp tác giữa các nhà nghiên cứu, nhà hoạch định chính sách, nhà đạo đức học, v.v. để bảo vệ thông tin công.

Kết luận

Model collapse là một trong những mối đe dọa lớn nhất đối với độ tin cậy và tính hữu dụng của AI tạo sinh trong tương lai. Nó chủ yếu do các vòng lặp huấn luyện đệ quy, tích lũy lỗi dưới mọi hình thức và ô nhiễm dữ liệu gây ra.

Nhìn về phía trước, con đường phòng ngừa nằm ở quản trị dữ liệu, đổi mới và giám sát của con người. Trách nhiệm này không chỉ thuộc về các phòng thí nghiệm mà còn mở rộng tới chính sách và quản trị. 

Vì vậy, các nhà nghiên cứu và nhà hoạch định cần ưu tiên sử dụng dữ liệu do con người tạo ra chất lượng cao, với một mức đánh đổi nhất định đối với dữ liệu tổng hợp, và xây dựng các cơ chế bảo vệ vào đường ống AI. Chỉ khi đó chúng ta mới có thể bảo vệ sự phân phối công bằng và độ tin cậy của dữ liệu để cuối cùng khai mở toàn bộ tiềm năng của AI cho tương lai.