ChatGPT应用场景与工具推荐

写在前面

    本文会简单介绍ChatGPT的特点、局限以及存在的问题，相信随着科技的发展，ChatGPT功能会越来越强大，也会有更多类似ChatGPT的大模型出现服务用户。以下所有介绍及其演示均基于2023年3月的ChatGPT进行。

一、关于ChatGPT

1.ChatGPT是一个语言模型，它没有意识、没有情绪、没有欲望，甚至不知道自己说了什么。不要试图有感情层面的交流，它只是一个工具。偶尔的语出惊人不要惊讶，不是AI觉醒了！

2.ChatGPT生成的结果都是个训练数据强相关的，目前训练数据截止2021年9月，这个时间点以后的事他都不知道。

3.训练ChatGPT用了全球40家外包公司进行数据标注，标注数据包括两部分：自监督学习用的优质标注数据；强化学习中RM（Reword Model）用的打分数据。为什么ChatGPT可以“说人话”，有时正经有事不正经？跟标注人员的喜恶有很大关系！

4.ChatGPT现在基于GPT-4（曾经是GPT-3，然后是GPT-3.5），GPT（Generative Pre-trained Transformer）

5.ChatGPT是生成模型，结果都是生成的，不是网络搜出来的。对于中文，使用单字分词，一个字一个token，也就是说结果一个字一个的生成出来，每迭代一次生成一个字，甚至计算数学题，也是这样！

6.Transformer模型是有固定长度的输入的，ChatGPT的多轮对话是将本轮问题放在上文（包括它自己回答）之后，截取固定长度当做输入，所以ChatGPT是会发生“遗忘”的现象，因为超出输入长度的内容被舍弃了。GPT-3.5的输入长度2048，GPT-4的输入长度是25000。

7.生成的每一个字都是根据概率，不是直接取概率最大的token，比如下面两个同样的问题，我都是新开session提问，结果不一样。这么做好处是缓解长尾效应，增加答案的多样性与丰富性！

8.Session隔离：ChatGPT使用了Prompt Learning，提问的同时也是“模型学习”的过程，所以高质量的问题，才能得到高质量的回答。

9.中国有一些不需要梯子的ChatGPT接口，大多基于GPT-3。

10.GPT-4是支持多模态的，现在只放出了演示视频，没有对外公开功能。

11.ChatGPT的输出结果也是有长度限制的，一次没输出完，让它“继续”就可以了。

12.中文的回答不好时，翻译成英文试试，因为训练集中文占比不到1%

13.一条消息只包含一个问题，且尽可能多地提供有用信息。因为Transformer的核心是Attention机制，一条消息包含多个问题有可能分散模型的注意力，影响回答的质量。且尽可能多地提供有用信息可以有效减少提问次数，避免“遗忘”的发生。下面第一个例子要求非常宽泛，生成的内容也很范范，如果我们尽量把提示写全，生成的内容将详实得多。当然下面第二张图出现了很多常识性错误。

二、应用实例

1.写文章

    比如作文、公文、软文，写方案，xx申请、xx汇报，只要是写文章都可以让他试试，注意把要求尽量全的写出来。

2.入门新的知识

    不但可以让ChatGPT介绍新的知识，还可以让它给出实例，然后哪里不懂问哪里，这里用的GPT-4模型，GPT-3.5模型注意“遗忘”问题。

** **同时多用反问的方式和 chatGPT 交流。这样是一个思考的过程，ChatGPT还会纠正你的问题。

3.解决疑难问题

4.生成预演问题

5.文本改写

    比如给出一段话，让它改简单一些，或换个风格，同时给出要的风格是什么样子的。

6.语言翻译

    我用回译的方式做测试，发现常用语种如英文问题不大，小语种不太行。

7.思维导图

    让ChatGPT生成markdown，markdown转换思维导图的网站 Try markmap

8.PDF阅读理解

网址 Discover, Create, and Publish your research paper | SciSpace by Typeset

9.操作格式化的数据

    例如编辑json、xml、md、yaml、ini文件等

10.模拟场景

    可以模拟控制台、面试场景、答辩场景，增加学习或者工作中的氛围感。

     下面是面试场景举例：

    在上面的面试场景中，CharGPT作为面试官基本合格，但是存在如下两个问题：
     a.它问的问题都比较宽泛，如果在最开始我们描述的跟清楚，比如“作为面试官，你对目标检测的SPP结构比较感兴趣”，面试过程中CharGPT就会更多的聚焦更加具体的问题。
     b.上面提到的“遗忘”问题，当对话的内容长度增加，超出了模型的最大输入长度，就会发生“遗忘”，在这里CharGPT忘记了自己是面试官，所以作为用户，要时常“提醒”它注意一下自己的身份。

11.写代码

   推荐一个自动写代码的工具，不用梯子，不用注册：用GPT-4写代码不用翻墙了？Cursor告诉你：可以~~

12.制作表格

三、现存局限

1.常识错误，如上面清代瓷器的例子，督陶官的生卒年都是错的，生平也有一些错误。

2.一本正经的胡说八道，GPT-4官方称之为“幻觉”，当遇到比较新的名词或事物ChatGPT会瞎编。时效性不高，是当下ChatGPT难以克服的问题。

3.回答通常过于冗长，并过度使用某些短语，原因是数据倾斜，标注人员更倾向于给长的句子打高分。所以如果是写报告或者项目介绍文档，可能需要人工修改某些冗余语句。

4.ChatGPT对输入措辞的调整或多次尝试相同的提示很敏感。

四、使用技巧

    最后重复一下使用技巧：

    1.问题的目标要明确，条件尽量写全。
     2.对结果不满意，经过多次提示也不起作用，新建Session重来，还不行用英文。
     3.对话内容过长，容易发生“遗忘”，对本次对话重要的条件一定要写出来。
     4.同样问题的结果可能不同，遇到喜欢的回答，一定复制下来。