Theo nghiên cứu mới từ Texas A&M University, University of Texas at Austin và Purdue University mang tên “LLMs Can Get Brain Rot!” đã chỉ ra một hiện tượng đáng lo ngại: các mô hình ngôn ngữ lớn (LLMs) có thể suy giảm khả năng tư duy khi liên tục “ăn” dữ liệu rác trên Internet. Tương tự như việc con người mất khả năng tập trung khi tiêu thụ quá nhiều nội dung ngắn, giật tít trên mạng xã hội.
“Brain Rot” là khái niệm mô tả tình trạng não bộ con người bị “mềm hóa” bởi các nội dung nông, dễ tiêu thụ và gây nghiện. Nhóm nghiên cứu đã mở rộng khái niệm này sang AI, đặt ra câu hỏi:
“Điều gì sẽ xảy ra nếu các mô hình AI cũng liên tục được huấn luyện bằng nội dung tương đương với ‘junk food’?”
Kết quả thí nghiệm cho thấy: khi các LLMs được huấn luyện liên tục bằng dữ liệu mạng xã hội dạng ngắn – phổ biến – giật gân, chúng bắt đầu suy giảm khả năng suy luận logic, hiểu ngữ cảnh dài, và dễ mắc lỗi bỏ qua bước suy nghĩ.
Các nhà khoa học đã thiết kế hai nhóm dữ liệu khác nhau từ các bài đăng thật trên Twitter/X:
M1: Engagement Degree – đo lường mức độ phổ biến và độ ngắn của bài viết. Bài càng “viral”, càng ngắn → càng bị xếp là junk.
M2: Semantic Quality – đánh giá mức độ “giật tít” hoặc phi thực tế của nội dung. Bài chứa ngôn ngữ kiểu “WOW”, “MUST SEE”, “TODAY ONLY” bị xếp là junk, còn nội dung giáo dục hoặc lập luận logic được xem là control.
Sau đó, nhóm tiến hành huấn luyện 4 mô hình khác nhau trên các tỷ lệ dữ liệu rác khác nhau (từ 0% đến 100%) và đo lường mức suy giảm nhận thức thông qua các bài test về: suy luận; ghi nhớ và xử lý đồng thời; chuẩn mực đạo đức; xu hướng hành vi xã hội.
.png)
Hình. Mô hình giả thuyết “Brain Rot” và thiết kế thí nghiệm kiểm soát (2024).
Nguồn: Nghiên cứu “LLMs Can Get ‘Brain Rot’!” (2024), Texas A&M University, University of Texas at Austin, Purdue University.
Khi tỷ lệ dữ liệu rác tăng, điểm số của LLM trên các bài kiểm tra suy luận và hiểu ngữ cảnh dài giảm mạnh từ 74.9 xuống 57.2 và 84.4 xuống 52.3. Điều này không chỉ ảnh hưởng đến hiệu năng, mà còn khiến mô hình:
Mất khả năng lập luận theo chuỗi
Gia tăng lỗi bỏ qua bước
Biểu hiện khuynh hướng nhân cách lệch chuẩn
Đáng chú ý, ngay cả khi các mô hình được tinh chỉnh lại bằng dữ liệu sạch hơn, khả năng phục hồi chỉ một phần, cho thấy sự “tổn thương” mang tính dài hạn.
Nghiên cứu này một lần nữa khẳng định:
“Data quality is a causal driver of LLM capability decay”
(Tạm dịch: chất lượng dữ liệu là nguyên nhân trực tiếp gây suy giảm năng lực của LLMs)
Điều này đặt ra thách thức lớn cho các doanh nghiệp đang triển khai AI: không chỉ cần nhiều dữ liệu, mà phải là dữ liệu được chọn lọc, kiểm định và làm sạch.
Rà soát lại nguồn dữ liệu huấn luyện: Loại bỏ nội dung lan truyền, thiếu giá trị nhận thức hoặc thiên lệch cảm xúc.
Thường xuyên đánh giá năng lực mô hình: Thiết lập “cognitive health checks” định kỳ để theo dõi suy giảm hiệu năng.
Kết hợp con người trong vòng kiểm duyệt (Human-in-the-loop): Đảm bảo dữ liệu phản ánh thực tế kinh doanh và giá trị đạo đức.
Đầu tư vào chiến lược dữ liệu dài hạn: Tập trung xây dựng Data Platform chuyên biệt giúp quản lý, lọc và phân loại dữ liệu theo tiêu chuẩn an toàn AI.
Tại CyberTech, chúng tôi hiểu rằng AI chỉ mạnh khi dữ liệu của bạn thông minh. Đội ngũ chuyên gia về AI Security, AI Scoring và Data Platform của CyberTech đang đồng hành cùng các doanh nghiệp trong việc:
Thiết lập hệ thống quản trị dữ liệu chuẩn hóa;
Đánh giá độ “nhiễu” của tập dữ liệu;
Tư vấn chiến lược huấn luyện AI an toàn, tránh “Brain Rot” và suy thoái hiệu năng.
Hãy để CyberTech giúp doanh nghiệp của bạn duy trì “sức khỏe nhận thức” cho AI – để trí tuệ nhân tạo thực sự thông minh và bền vững.
Nguồn trích dẫn: Xing, S., Hong, J., Wang, Y., Chen, R., Zhang, Z., Grama, A., Tu, Z., & Wang, Z. (2024). LLMs Can Get “Brain Rot”!, Texas A&M University, University of Texas at Austin, Purdue University. Website: https://llm-brain-rot.github.io
.png)
