ChatGPT 超容易製作惡意軟件專家：黑客可輕鬆繞過限制

最近大熱的 ChatGPT 除了模仿人類回答問題、編寫基本程式和撰寫文章，其更會主動阻止作出潛在非法內容的活動。但有研究人員指，黑客已經設計出一種繞過限制的方法，並利用 ChatGPT 來銷售建立惡意軟件和網絡釣魚電子郵件的服務。

據網絡安全公司 Check Point Research 的研究人員表示，當前版本的 OpenAI API 被外部應用程式使用，並且 API 幾乎沒有對惡意內容實施任何反制限制，因此允許惡意內容，例如網絡釣魚電子郵件和惡意程式碼，而不受 ChatGPT 在其用戶界面上設置的限制或障礙。而API是幫助開發人員將 AI 機器人集成的資料放到應用程式。

有論壇中的用戶現在正在銷售一種結合了 API 和 Telegram 消息傳遞的應用程式服務。亦有用戶發布免費生成惡意內容的程式碼，以幫助繞過 ChatGPT 的限制，用於任何想要的用途。