如果不解決這樣一個關鍵問題，我們就無法討論 ChatGPT 的負面影響。雖然 ChatGPT 擁有大量準確的信息，但它並不總是正確的，即使在傳遞錯誤信息時聽起來很自信。但事實上，ChatGPT 使用離線數據並且只能訪問 2021 年之前的信息，當然這個是第三個版本，未來應該會陸續更新的，但由於這樣它無法提供對近期發展的洞察。如果您在事先不知情的情況下使用該工具，這可能會產生誤導。自然的說話方式和信心當然可以傳達輸出是真實的，而實際上它們可能相差甚遠。

 

其實會擔心有人濫用 ChatGPT 進行功課，有些人利用 ChatGPT 的力量不僅可以協助撰寫論文，還可以完全撰寫論文。聊天機器人不僅可以為您撰寫整篇文章，而且可以在幾秒鐘內完成。這些輸出可以寫得如此令人信服，以至於它們幾乎與真實的論文或作業沒有區別。如果是這樣的話，我們可以想像學生讓 AI 來完成他們的工作的後果——學習最小化，教師無法為學生提供有效的反饋。

 

已經在研究解決方案來解決這個問題，例如 GPTzero。這個工具是專門為教育工作者創建的，用於檢測文本中人工智能的使用，並識別文章何時不是自然的。