Trong kỷ nguyên số hóa hiện nay, trí tuệ nhân tạo (AI) đã trở thành một công cụ mạnh mẽ trong việc tạo nội dung. Tuy nhiên, sự bùng nổ của 'AI rác' - những nội dung được AI tạo ra với chi phí thấp và chất lượng kém - đang gây lo ngại lớn cho các chuyên gia về internet.
Một ví dụ điển hình là việc caption giống hệt nhau được copy trên hàng chục bài đăng, như 'Đây là chiếc bánh đầu tiên tôi tự làm! Tôi thật vui vì bước tiến của bạn' xuất hiện trên ít nhất 18 hình ảnh khác nhau do AI tạo ra. Hiện tượng này phản ánh một xu hướng đáng lo ngại: AI có thể tạo nội dung vượt ra ngoài thực tế, và những sản phẩm kỳ quái này thường thu hút sự chú ý hơn nội dung thật.
Hậu quả nghiêm trọng nhất là vòng luẩn quẩn tự hủy diệt. Jeff Allen từ Integrity Institute mô tả: 'Như tảo nở hoa có thể bùng nổ và làm nghẹt thở sự sống trong hệ sinh thái khỏe mạnh.' Nội dung AI được thiết kế để làm hài lòng hệ thống đề xuất chạy bằng AI, tạo ra vòng lặp về việc máy móc tạo nội dung cho máy móc khác, biến con người thành người ngoài cuộc.
AI rác thường hiệu quả trong việc thu hút chú ý của người dùng vì có thể kỳ quái hoặc hấp dẫn hơn nội dung thật. 'Nếu bạn giới hạn với những thứ thực sự xảy ra, đó là nhóm nội dung được định trước. AI mở rộng nhóm đó,' Allen giải thích. Chuyển đổi sang các chatbot AI cũng đe dọa những người khổng lồ công nghệ. Google đã triển khai AI Overviews có thể khiến các website khó thu hút người dùng. Nhiều nhà xuất bản thấy lưu lượng giảm mạnh và đổ lỗi cho AI.
Cuối cùng, một kịch bản tồi tệ là khi người thật không kiếm đủ tiền từ quảng cáo để duy trì website, các bài đăng của họ không vượt qua được các nội dung AI rác tạo ra trên mạng xã hội, internet sẽ chết. Không còn nội dung mới do con người tạo ra, 'internet sẽ gần như chết.' Với bản thân các mô hình AI, khi được huấn luyện trên chính các nội dung AI, cuối cùng nhiều khả năng chúng cũng sẽ sụp đổ.
Tuy nhiên, ông Menczer vẫn chưa tin hoàn toàn vào kịch bản tận thế của internet. 'Nếu tỷ lệ tín hiệu trên nhiễu quá thấp đến mức là rác, mọi người sẽ ngừng sử dụng,' ông nói. Các công ty công nghệ sẽ không để điều đó xảy ra.
AI rác đang tạo ra một thách thức lớn đối với việc duy trì chất lượng nội dung trên internet. Theo Fil Menczer, những nội dung này có thể gây nhầm lẫn cho người dùng và làm suy yếu niềm tin vào thông tin trực tuyến. Ông nhấn mạnh rằng, mặc dù AI đã giúp tạo ra nhiều nội dung mới, nhưng nếu không kiểm soát được chất lượng, nó sẽ trở thành một vấn đề nghiêm trọng.
Một ví dụ khác về sự nguy hiểm của AI rác là việc chúng có thể bị sử dụng để tạo ra tin tức giả mạo. Renée DiResta, nhà nghiên cứu tin giả từ Stanford University, cho biết đã phát hiện các mạng nội dung được thiết kế đặc biệt để sản xuất và lan truyền thông tin sai lệch trên internet. Những trang web này thường không rõ nguồn gốc và khó kiểm tra tính chính xác của thông tin.
DiResta nhấn mạnh rằng việc sử dụng AI để tạo ra nội dung giả mạo là một mối đe dọa nghiêm trọng đối với sự thật trực tuyến. "AI có thể tạo ra những câu chuyện hấp dẫn, phức tạp và chi tiết đến mức chúng trở nên khó kiểm chứng," cô nói. Điều này làm tăng nguy cơ tin tức giả mạo lan truyền rộng rãi trên mạng.
Ngoài ra, AI rác còn gây ra vấn đề về quyền riêng tư và bảo mật. Các công ty AI có thể thu thập dữ liệu từ người dùng mà không được đồng ý, sử dụng chúng để tạo nội dung giả mạo hoặc phân phối thông tin sai lệch. Shayne Longpre từ MIT cảnh báo rằng việc này có thể dẫn đến tình trạng "đầu độc" các mô hình AI bằng nội dung tuyên truyền sai sự thật.
Đối mặt với những thách thức này, các nhà xuất bản và công ty công nghệ đang tìm cách ứng phó. Một số đã bắt đầu yêu cầu trả phí hoặc ký thỏa thuận dữ liệu với các công ty AI để đảm bảo chất lượng nội dung. Tuy nhiên, Shayne Longpre cho rằng đây chỉ là một giải pháp tạm thời. Ông nhấn mạnh rằng cần có sự hợp tác quốc tế và quy định chặt chẽ hơn về sử dụng AI trong tạo nội dung.
Jeff Allen từ Integrity Institute đề xuất các giải pháp kỹ thuật để giảm bớt ảnh hưởng của AI rác, như việc phát triển hệ thống nhận diện nội dung giả mạo và cải thiện khả năng phân tích dữ liệu. Tuy nhiên, ông cũng cảnh báo rằng những nỗ lực này cần được thực hiện một cách cẩn trọng để không làm hạn chế sự sáng tạo và đổi mới.
Cuối cùng, Fil Menczer nhấn mạnh tầm quan trọng của việc giáo dục công chúng về cách nhận biết thông tin giả mạo. Ông cho rằng, nếu người dùng internet có thể phát triển kỹ năng phân tích thông tin một cách hiệu quả, họ sẽ ít bị ảnh hưởng bởi nội dung AI rác.
Trong bối cảnh này, các công ty công nghệ lớn như Google và Meta đang phải đối mặt với áp lực từ chính sách viên chức của mình. Nhiều nhân viên đã lên tiếng phản đối việc sử dụng AI để tạo ra nội dung giả mạo và yêu cầu công ty thực hiện thay đổi. Tuy nhiên, cả hai công ty đều khẳng định họ sẽ tiếp tục đầu tư vào AI để cải thiện trải nghiệm người dùng.
Cuối cùng, Fil Menczer tin rằng mặc dù có những thách thức lớn, nhưng internet vẫn có thể tồn tại và phát triển một cách bền vững nếu các bên liên quan hợp tác chặt chẽ. Ông nhấn mạnh tầm quan trọng của việc duy trì sự minh bạch và chất lượng nội dung trên mạng để bảo vệ niềm tin của công chúng vào thông tin trực tuyến.
Theo bài viết của XU HƯỚNG 24
Bình luận