Các công cụ AI như ChatGPT, Copilot và Gemini đã được tìm thấy để cung cấp cho người dùng dữ liệu bịa đặt có vẻ xác thực. Nói cách khác, nội dung từ những câu trả lời từ AI là không chính xác.
Theo nghiên cứu của Trung tâm Tow for Digital Journalism. Họ đã thử nghiệm tám công cụ tìm kiếm AI, bao gồm ChatGPT Search, Perplexity, Perplexity Pro, Gemini, DeepSeek Search, Grok-2 Search, Grok-3 Search và Copilot. Kết quả cho thấy các công cụ này trả lời sai đạt tỷ lệ đến gần 60%. Cũng theo nghiên cứu, ChatGPT Search đã trả lời tất cả 200 câu hỏi và cho tỷ lệ sai hoàn toàn 57% toàn bộ câu trả lời.
Như vậy với nghiên cứu trên cho thấy tỷ lệ sai hoàn toàn rất cao, rất không ổn nếu bạn tin cậy các công cụ này nghiên cứu khoa học. Vấn đề không chính xác này phổ biến đến mức chúng được gọi là "ảo giác". Về khía cạnh sử dụng trong học thuật, nếu sử dụng AI không cẩn thận, một cách tư duy trong học tập, giải bài tập sẽ bị sai do không đầy đủ.
Lý do về mặt kỹ thuật thì hiện tượng này goi là hiện tượng ảo giác của AI (AI hallucination), tức là khi các mô hình ngôn ngữ lớn (LLM) tạo ra những kết quả sai lệch, vô nghĩa hoặc không dựa trên các dữ liệu có sẵn. Tuy nhiên hocthue.net sẽ không đề cập sâu lý do kỹ thuật đặc thù này.
Phân tích ví dụ trả lời sai do AI
Một ví dụ điển hình mà hocthue.net đã sử dụng để kiểm tra câu trả lời về pháp luật kinh doanh. Thậm chí ChatGPT bịa đặt các điều khoản khi trích dẫn các điều khoản pháp lý.
Ví dụ, câu trả lời của AI mà hocthue.net hỏi về pháp luật thì ChatGPT trả lời như sau:
Khi học thuê.net tra cứu lại về điều 626 luật dân sự thì nội dung chính xác như sau:
Như vậy có thể so sánh giữa câu trả lời của AI và khi tra cứu lại ta thấy nội dung không đúng trong câu trả lời.
Từ ví dụ trên cho thấy công nghệ vẫn còn những hạn chế, nên khi công nghệ được cải thiện đáng kể, chúng ta không nên lạm dụng vào bất kỳ việc sử dụng AI nào dẫn trong bài của mình. Bạn cần xét các chiến lược để giúp giảm thiểu các vấn đề của các công cụ AI tạo sinh do vấn để thiên vị và ảo giác.
Giải pháp hạn chế câu trả lời sai hay ảo giác do AI
Thứ nhất, đánh giá nghiêm túc câu trả lời của AI.
Không giống như con người, hệ thống AI hoạt động theo thuật toán dựa trên dữ liệu đào tạo của chúng. Bởi vậy, người dùng phải sử dụng câu trả lời của AI với con mắt phê phán và đánh giá chúng bằng phán đoán của con người .
Thứ hai, đa dạng hóa nguồn thông tin và kiểm tra chéo.
Điều quan trọng là phải luôn kiểm tra chéo độ chính xác của nội dung do AI tạo ra. Chiến lược quan trọng nhất là tham khảo chéo đầu ra AI với các nguồn đáng tin cậy như các ấn phẩm chuyên gia. Hoặc liên hệ với hocthue.net để được tư vấn. Ngoài ra, hãy cân nhắc so sánh đầu ra từ nhiều nền tảng AI tạo sinh như ChatGPT, Gemini … để hiểu rõ hơn về kết quả mà mỗi nền tảng có thể tạo ra.
Kết luận.
Mặc dù AI là một công cụ mạnh mẽ, nhưng sự hiểu biết của con người vẫn rất quan trọng. Bằng cách kết hợp AI và kiểm tra chéo, chúng ta có thể tận dụng tối đa những gì AI cung cấp đồng thời giảm thiểu những hạn chế do nội dung sai của nó cung cấp.
Ở góc độ giáo dục, AI mang lại sự thay đổi một cách cách mạng đối với quá trình viết luận văn, làm bài tập, viết bài báo khoa học. Tuy nhiên, điều cần thiết cần nhớ là các công cụ AI có thể tạo câu trả lời sai lệch. Nếu bạn cần tư vấn thì có thể đến dịch vụ của học thuê.net nhé.