权重衰减/权重衰退——weight_decay
权重衰减/权重衰退——weight_decay
数据信息汇总的7种基本技术总结
数据汇总是一个将原始数据简化为其主要成分或特征的过程,使其更容易理解、可视化和分析。本文介绍总结数据的七种重要方法,有助于理解数据实质的内容。
ChatGPT的原理分析
ChatGPT是一种基于自然语言处理和人工智能技术的聊天机器人,它的基础是由OpenAI研发的GPT模型,其中GPT是Generative Pre-trained Transformer的缩写。GPT模型的训练使用了海量的语料库,可以预测下一个单词、短语、句子或文本,从而实现自然语言生成。ChatG
教你轻松玩转-ChatGPT或生成类大模型--助你成为未来高端黄金职业人
一般来讲,信息在 Prompt 中出现的顺序很重要。因此,ChatGPT与Prompt的关系是在语言模型生成输出过程中的合作关系,Prompt提供了文本或代码片段,以指导模型生成更准确和有用的输出。提供多种选择:为了使模型能够生成更准确和有用的输出,Prompt应该提供多种选择,例如,可以提供多个可
单个消费级GPU笔记本win电脑测试LLaMA模型
b N,--batch_size N用于提示处理的批量大小(默认值:8)-n n,--n_predict n个要预测的令牌数(默认值:128)将在"7B”文件夹产生一个名为”models/7B/ggml-model-q4_0.bin"的文件。将在"7B”文件夹产生一个名为”models/7B/ggm
ChatGLM环境配置
ChatGPT令人震撼的冲击下,笔者转向NLM的Transformer模型,ChatGLM作为清华开源的大语言模型,笔者尝试了其环境配置,为相关理论学习奠定基础。本文用于备忘与学习,无商业用途。
一分钟搞懂 微调(fine-tuning)和prompt
一分钟搞懂 微调(fine-tuning)和prompt
使用RobustPCA 进行时间序列的异常检测
鲁棒主成分分析(Robust Principal Component Analysis, RobustPCA)是一种将时间序列矩阵分解为低秩分量和稀疏分量的技术。这种分解能够识别潜在的趋势,以及检测异常和异常值。
缺陷异常检测及定位性能评价指标–AUROC,PRO(per-region-overlap)
缺陷检测及定位性能评价指标
二次规划问题(qp)和序列二次规划问题(sqp)的简单理解
当二次规划的约束为非线性约束时,通常会采用sqp进行求解,用连续求解qp的方法来得到非线性约束条件下的最优解,上述的qpoases和osqp均无法直接求解非线性约束问题,所以如果使用这两个库的话,注意,sqp是结果,而不是原因,只有在非线性约束的情况下才会考虑sqp求解,如果问题本身就是线性约束,则
大咖齐聚CCIG论坛——文档图像智能分析的产业前沿
2023年5月13日,中国图象图形学学会文档图像分析与识别专业委员会与上海合合信息科技有限公司联合打造《文档图像智能分析与处理》高峰论坛。欢迎感兴趣的同学们参加
图片、视频修复并超分 - Real-ESRGAN项目使用(一) | 机器学习
前段时间一直在弄golang,很少关注一些开源项目。正巧碰到一个,可以将模糊的照片或者视频修复清晰,且可以超分处理的项目。
机器学习强基计划8-5:图解局部线性嵌入LLE算法(附Python实现)
局部线性嵌入(Locally Linear Embedding, LLE)限制样本在降维后的低维空间中的k近邻局部线性关系,等价于原始空间。本文详解LLE算法原理并给出Python实现
AI算力碎片化:矩阵乘法的启示
尽管AI的发展取得了巨大进步,但编译器LLVM之父Chris Lattner认为,AI技术应用并不深入,远远没有发挥出已有机器学习研究的所有潜力。而AI系统和工具的单一化和碎片化正是造成这一问题的根源。为了让AI发挥其真正的潜力,计算碎片化是需要解决的重点问题之一,目标是让AI软件开发人员能够无缝地
交叉验证之KFold和StratifiedKFold的使用(附案例实战)
交叉验证是在机器学习建立模型和验证模型参数时常用的办法。交叉验证,顾名思义,就是重复的使用数据,把得到的样本数据进行切分,组合为不同的训练集和测试集,用训练集来训练模型,用测试集来评估模型预测的好坏。在此基础上可以得到多组不同的训练集和测试集,某次训练集中的某样本在下次可能成为测试集中的样本,即所谓
【机器学习】KNN算法及K值的选取
KNN算法及K值的选取
【AI大模型】讯飞版大模型来了!首发通用人工智能评测体系,现场发布四大行业应用成果
科大讯飞推出的新一代认知智能大模型,拥有跨领域的知识和语言理解能力,能够基于自然对话方式理解与执行任务。从海量数据和大规模知识中持续进化,实现从提出、规划到解决问题的全流程闭环。
深入理解机器学习——偏差(Bias)与方差(Variance)
即刻画了学习问题本身的难度。给定学习任务,为了取得好的泛化性能,则需使偏差较小,即能够充分拟合数据,并且使方差较小,即使得数据扰动产生的影响小一般来说,偏差与方差是有冲突的,这称为偏差方差窘境(Bias-Variance Dilemma)。随着训练程度的加深,学习器的拟合能力逐渐增强,训练数据发生的
强化学习——多智能体强化学习
文章目录前言多智能体系统的设定合作关系设定下的多智能体系统策略学习的目标函数合作关系下的多智能体策略学习算法MAC-A2C前言本文总结《深度强化学习》中的多智能体强化学习相关章节,如有错误,欢迎指出。多智能体系统的设定多智能体系统包含有多个智能体,多个智能体共享环境,智能体之间相互影响。一个智能体的
损失函数——交叉熵损失(Cross-entropy loss)
对于每个类别i,yi表示真实标签x属于第i个类别的概率,y^i表示模型预测x属于第i个类别的概率。对于每个输入数据x,我们定义一个C维的向量y^,其中y^i表示x属于第i个类别的概率。假设真实标签y是一个C维的向量,其中只有一个元素为1,其余元素为0,表示x属于第k个类别。该函数将输入数