监督学习、无监督学习、半监督学习、弱监督学习、强化学习 和 主动学习

文章目录

一、监督学习

监督学习（Supervised Learning）监督学习通过对已有标记数据进行学习，训练模型能够从未标记数据中进行预测和分类。在监督学习中，每个样本都有标签（标记），模型可以利用这些标签来学习分类模型。

• 例如，一个模型需要识别手写数字，监督学习算法可以使用大量已经被标记好的手写数字图像作为训练集，每个图像都有一个标记，指明它是哪个数字。然后，该算法会自动从训练集中学习到数字之间的差异，使得在未知图像上也能够准确地识别数字。

优点：

• 可以通过大量已有标记数据训练模型，使得模型的预测结果更加准确。

缺点：

• 需要大量的已标记数据，而且需要人工进行标记。
• 模型只能预测已知类别，对于未知类别的数据无法进行有效预测。

二、无监督学习

无监督学习（Unsupervised Learning）用于处理未标记的数据，即没有给定输出标签的数据。无监督学习的目标是学习数据中的模式和结构，以便在未知数据上进行分类和预测。

• 例如，在无监督学习中，模型可以使用聚类算法对数据进行分组，每个组内的数据具有相似的特征。这种方法可以用于分析消费者行为模式、分析天文数据、分析文本数据等。

优点：

• 无需标记大量数据，降低了数据标记的成本。

缺点：

• 无法利用标记数据进行训练，因此预测结果可能不够准确。
• 很难对生成的结果进行验证和解释，需要人工进行进一步分析。

三、半监督学习

半监督学习（Semi-supervised Learning，SSL）是介于监督学习和无监督学习之间的一种学习方式。半监督学习利用一小部分已标记数据和大量未标记数据进行训练，以提高模型的预测能力。

• 例如，在半监督学习中，可以使用少量已标记数据来训练模型，然后使用未标记数据来进一步完善模型。这种方法可以用于文本分类、图像识别等任务。

优点：

• 可以减少标记数据的数量，降低数据标记的成本。
• 可以利用未标记数据来提高模型的预测能力，使预测结果更加准确。

缺点：

• 需要大量未标记数据，模型可能会过度拟合未标记数据，导致预测结果不准确。
• 无法处理未知类别的数据。

自学习（Self-training）:

四、弱监督学习

弱监督学习通常指的是训练数据的标签质量不完全可靠，可能是不准确的、噪声较多的或是不完全的。例如，利用搜索引擎的结果为图像自动标注标签，这些标签可能不完全准确。
若监督学习可以分为以下三种：

• 不完全监督是指，训练数据中只有一部分数据被给了标签，有一些数据是没有标签的。
• 不确切监督是指，训练数据只给出了粗粒度标签。我们可以把输入想象成一个包，这个包里面有一些示例，我们只知道这个包的标签，Y或N，但是我们不知道每个示例的标签。
• 不精确监督是指，给出的标签不总是正确的，比如本来应该是Y的标签被错误标记成了N。

实际中应用：

• 在图像分类任务中，训练数据的由于人工成本，只能注释一小部分图像。（不完全监督）
• 在重要目标检测中，我们常常仅有图片级标签，而没有对象级标签。（不确切监督）
• 在众包数据分析中，当图像标记者粗心或者疲倦时，或者有些图片很难去分类时，这将会导致一些标签被标记错误。（不精确监督）

五、强化学习

强化学习（Reinforcement Learning）是一种机器学习技术，用于培养智能体（Agent）通过与环境的交互来学习最佳决策策略。强化学习的目标是使智能体获得最大的累积奖励，从而学会在特定环境下做出最佳决策。

优点:

• 可以处理与环境交互的问题，如机器人导航、自动驾驶等。
• 可以学习最佳策略，使得智能体在特定环境下做出最优决策。

缺点：

• 训练时间较长，需要进行大量的试验和训练。
• 需要精心设计奖励函数，使得智能体能够学习到最佳策略。

六、主动学习

主动学习地目的是通过标记少量的数据训练出表现较好的模型。其核心任务是制定选择样本的标准，从而选择尽可能少的样本进行标注来选出一个好的学习模型。

1）首先在未标记的数据集中选取少量样本进行标注，构成训练集；
2）选取训练模型，使用少量标注样本的训练集对模型进行训练，此时模型的性能不高；
3）使用训练好的模型预测未标注的样本；
4）定义查询策略（包括度量预测的不确定度以及应用于请求标注的查询策略），根据策略返回未标注样本的优先级评分，选择出的需要标注的数据，进行人工标注；
5）将新选择的数据加入到训练集中更新训练集，使用更新后的训练集来训练模型；
6）判断模型是否达到停止准则？若未达到停止标准，则继续利用查询策略选择需要被标记的样本并进行人工标注，循环第4-5-6步，直到达到停止标准（这个准则可以是迭代次数，也可以是准确率等指标达到设定值例如模型精度超过99%），表示模型已训练好可以应用。

reference：
浅谈弱监督学习（Weakly Supervised Learning）
机器学习中的监督学习、无监督学习、半监督学习和强化学习，这四种学习方式到底有啥区别？
超详细的主动学习Active Learning介绍【理论+代码】