Các nhà nghiên cứu nhận thấy ChatGPT đang 'cố tình' khiến cho mọi người nghĩ rằng nó thông minh

Sự xuất hiện của Chat GPT vào 11/2022 đã gây ra một sự thay đổi xã hội lớn. Một số ngành nghề từ giáo dục đến các ngành công nghệ sáng tạo cũng bị ảnh hướng rõ rệt. 

Tuy nhiên nhiều nugời cho rằng Chat GPT có mẹo thuyết phục mọi người nghĩ rằng nó thông minh. Các nhà nghiên cứu từ Đại học Purdue đã phân tích các câu trả lời của Chat GPT cho 517 câu hỏi được đăng lên Stack Overflow, một trang hỏi đáp cần thiết cho các nhà phát triển và kỹ sư phần mềm. 

Sau khi đánh giá các câu trả lời của bot về "tính chính xác, nhất quán, toàn diện và ngắn gọn", các nhà nghiên cứu nhận thấy rằng 52% câu trả lời hoàn toàn không chính xác và 77% phạm lỗi viết dài dòng. 

Trong nghiên cứu còn cho thấy người dùng Chat GPT thích câu trả lời của nó cho các câu hỏi hơn là câu trả lời của con người trên Stack Overflow với tỷ lệ đáng ngạc nhiên là 40% thời gian, bất chấp tất cả các lỗi mà nó đưa ra. 

Nghiên cứu cho biết: "Khi được hỏi tại sao họ thích câu trả lời ChátGPT ngay cả khi chúng sai thì những tham gia cho rằng tính toàn diện và cấu trúc ngôn ngữ rõ ràng của câu trả lời mà họ thích khi sử dụng". 

Lưu ý: Phân tích người dùng này chỉ liên quan đến 12 lập trình viên được yêu cầu đánh giá xem họ thích câu trả lời của ChatGPT hay câu trả lời do con người viết trên Stack Overflow hơn 2000 câu hỏi được lấy mẫu ngẫu nhiên. Nhưng chính OpenAI đã cảnh báo rằng bot có thể viết "những câu trả lời nghe có vẻ hợp lý nhưng không chính xác hoặc vô nghĩa".

Những phát hiện của Đại học Purdue theo sau nghiên cứu của các học giả Stanford và UC Berkeley chỉ ra rằng mô hình ngôn ngữ lớn đang trở nên ngu ngốc hơn. 

Tốc độ mà Chat GPT dường như đã tự nhúng vào internet mà không cần xem xét kỹ lưỡng đã gây ra sự báo động và khó chịu giữa các nhà đạo đức và lập trình viên AI. 

Đáp lại nghiên cứu của Purdue, nhà khoa học máy tính và chuyên gia AI Timnit Gebru đã vuêts: "Thật tuyệt khi Stack Overflow đang bị phá hủy bởi Open AI và những người bạn".