OpenAI 的新聊天机器人能聊代码写情景喜剧但仍然容易受骗

OpenAI 发布了一个通用聊天机器人的原型 ChatGPT，能与用户展开各种主题的对话。ChatGPT 是基于 OpenAI 的 GPT-3.5 模型，能像人类一样流畅对话，展现了聊天机器人过去几年的巨大进步。它也展现了聊天机器人的缺陷，将错误或虚假的信息作为事实呈现。AI 研究人员解释说，聊天机器人仍然是某种“随机鹦鹉”，其知识来自于训练数据中的统计规律，对世界的理解与人类不同。它能帮助用户调试代码，带着某种随意的语气说某个循环条件出错了，或者像黑帮成员那样解释冒泡算法，它还能写情景喜剧的剧本，解释不同科学概念，写学术论文，拥有着广博的知识。但它仍然是典型的聊天机器人，会回避敏感主题的讨论。