Tuy nhiên OpenAI cảnh báo rằng công cụ vẫn chưa hoàn toàn đáng tin cậy. Trong một bài đăng trên blog, các nhà nghiên cứu tại OpenAI đã giới thiệu với một công cụ phân loại văn bản mới, được thiết kế để phân biệt giữa văn bản do con người viết và văn bản được viết bởi nhiều loại AI, không chỉ ChatGPT.

Các nhà nghiên cứu của OpenAI cho biết rằng mặc dù “không thể phát hiện tất cả văn bản do AI viết một cách chắc chắn”, nhưng các công cụ phân loại tốt có thể nhận ra các dấu hiệu cho thấy văn bản được viết bởi AI. Họ cho biết công cụ này có thể hữu ích để ngăn ngừa trường hợp dùng AI để "gian dối trong học thuật”.

Hình minh họa. Nguồn: Getty Images

Nhưng họ thừa nhận công cụ phân loại “không hoàn toàn đáng tin cậy” và chỉ xác định được 26% văn bản tiếng Anh do AI viết. Trong 9% số trường hợp, công cụ xác định nhầm các văn bản do con người viết.

“Độ chính xác của công cụ thường được cải thiện khi độ dài của văn bản đầu vào tăng lên. So với các công cụ phân loại đã phát hành trước đây của chúng tôi, công cụ phân loại mới này đáng tin cậy hơn đáng kể trong việc xác định văn bản từ các hệ thống AI mới hơn”, OpenAI cho biết.

Kể từ khi ChatGPT được mở cho công chúng truy cập, AI này đã làm dấy lên làn sóng lo ngại trong các tổ chức giáo dục trên toàn thế giới rằng nó có thể dẫn đến gian lận trong các kỳ thi hoặc đánh giá. Các giảng viên ở Vương quốc Anh đang được khuyến khích xem xét lại cách thức chấm điểm, trong khi một số trường đại học đã cấm hoàn toàn công nghệ AI và quay trở lại các kỳ thi sử dụng giấy bút để ngăn sinh viên sử dụng AI.

Một giảng viên tại trường đại học Deakin của Úc cho biết khoảng 1/5 bài thi mà cô ấy chấm trong kỳ hè ở Úc đã sử dụng sự hỗ trợ của AI.

Một số tạp chí khoa học cũng đã cấm sử dụng ChatGPT trong các bài báo khoa học.

OpenAI cho biết công cụ phân loại có một số hạn chế, bao gồm tính không đáng tin cậy đối với văn bản dưới 1.000 ký tự, cũng như việc xác định nhầm một số văn bản do con người viết thành văn bản do AI viết. Các nhà nghiên cứu cũng cho biết công cụ chỉ nên được sử dụng cho văn bản tiếng Anh, vì nó hoạt động “tệ hơn đáng kể” trong các ngôn ngữ khác.

OpenAI cho biết: “Công cụ này không nên được sử dụng như một công cụ ra quyết định chính, thay vào đó là một phần bổ sung cho các phương pháp xác định nguồn gốc của một đoạn văn bản".

OpenAI hiện đã kêu gọi các tổ chức giáo dục chia sẻ kinh nghiệm của họ với việc sử dụng ChatGPT trong lớp học. Trong khi hầu hết đã phản ứng với AI bằng các lệnh cấm, một số cơ sở giáo dục đón nhận làn sóng AI. 3 trường đại học lớn ở Nam Úc vào tháng trước đã cập nhật chính sách của họ để nói rằng AI như ChatGPT được phép sử dụng trong học tập, với điều kiện người dùng phải minh bạch về việc đã sử dụng AI.

Nguồn: https://www.theguardian.com/technology/2023/feb/01/chatgpt-maker-openai-releases-ai-generated-content-detection-tool