linux部署Mixtral-8x7B-Instruct实践（使用vLLM/ transformer+fastapi）
Linux下用vLLM本地部署Mixtral-8x7B-instruct，部署成功
【AI大语言模型】ChatGPT在地学、GIS、气象、农业、生态、环境等领域中的应用
ChatGPT：面向科研选题、思维导图、数据清洗、统计分析、高级编程、代码调试、算法学习、论文检索、写作、翻译、润色、文献辅助阅读、文献信息提取、辅助论文审稿、新闻撰写、科技绘图、地学绘图（GIS地图绘制）、概念图生成、图像识别、教学课件、教学案例生成、基金润色、专业咨询、文件上传和处理、机器/深度
大型语言模型面临的漏洞和安全威胁
在深入探讨漏洞之前，了解大型语言模型是什么以及它们为何变得如此流行是有帮助的。LLM是一类人工智能系统，它们在大量文本语料库上进行训练，能够生成非常类似人类的文本，并进行自然对话。现代LLM如OpenAI的GPT-3包含超过1750亿个参数，比以前的模型高出几个数量级。它们使用基于变换器的神经网络架
人工智能时代的引领者：AI提示工程激发大语言模型的无限潜能
在当今日新月异的科技浪潮中，AI提示工程作为人工智能领域的一个新兴分支，正逐渐崭露头角。AI提示工程专注于通过先进的算法和技术，为各种应用场景提供精准、智能的提示服务，从而提升用户体验和工作效率。随着大语言模型的快速发展，语言AI已经进入了新的阶段。这种新型的语言AI模型具有强大的自然语言处理能力，
AI大语言模型【成像光谱遥感技术】ChatGPT应用指南
ChatGPT在遥感中的应用，从数据分析到预测建模，该课程为遥感项目中集成人工智能工具提供了一种清晰而系统的方法。ChatGPT如何彻底改变你总结研究结果、起草和完善文章的方式，帮助完成复杂的数据结果的可视化。它展示了人工智能在提高遥感领域论文编写和数据可视化的效率和质量方面的实际效果。无论你是在编
AI最新开源：LMSYS Org开源LongChat、法律大语言模型ChatLaw、中文医疗对话模型扁鹊
目前支持长上下文的开源大模型已经有支持65K的 MPT-7B-storyteller 和32K的ChatGLM2-6B，闭源大模型比如 Claude-100K and GPT-4-32K，但LMSYS Org的研究人员还是选择通过测试来印证它们是「李鬼」还是「李逵」。6月29日，来自LMSYS Or
开源模型应用落地-qwen2模型小试-入门篇（六）
Qwen1.5系列模型的新特性及使用方式
智谱AI：ChatGLM API调用说明
智谱AI与清华KEG实验室发布的ChatGLM大语言模型，支持8k上下文，在内容创作、文本理解、信息抽取等任务上表现突出。经过海量中英标识符的预训练与人类偏好对齐训练，相比一代模型在 MMLU、C-Eval、GSM8K 分别取得了16%、36%、280%的提升，并登顶中文任务榜单C-Eval。
大语言模型LLM如何赋能安全？当前有哪些探索与实践？
大模型通过赋能安全，如代码补丁自动生成、安全功能代码生成、恶意代码分析、代码相似性分析、事件关联分析等，来驱动安全。大模型可以基于计算机程序代码作为语料进行预训练或优化训练，从而实现自动化修复安全漏洞、生成安全功能代码等功能。此外，大模型还可以通过自然语言文本自然语言标签、安全功能代码理解、恶意代码
AI推介-大语言模型LLMs论文速览（arXiv方向）：2024.02.05-2024.02.10
相关LLMs论文大多都是应用型文章，少部分是优化prompt/参数量级等等…有一些应用文还是值得参考的，当工作面临一个新的场景，可以学习下他人是如何结合LLMs与实际应用中的链接。LLMs论文速览：2024.02.05-2024.02.10：paper pdf：http://arxiv.org/pd
遇见“Smaug-72B”：开源人工智能的新霸主
Qwen还开源了Qwen-VL-Max，一款新的大型视觉语言模型，与Google和OpenAI分别开发的最先进的专有视觉语言模型Gemini Ultra和GPT-4V相媲美。技术上，Smaug-72B是“Qwen-72B”的优化版本，Qwen-72B是几个月前由阿里巴巴集团的研究团队Qwen发布的另
欢迎 Gemma: Google 最新推出开源大语言模型
今天，Google 发布了一系列最新的开放式大型语言模型 —— Gemma！Google 正在加强其对开源人工智能的支持，我们也非常有幸能够帮助全力支持这次发布，并与 Hugging Face 生态完美集成。Gemma 提供两种规模的模型：7B 参数模型，针对消费级 GPU 和 TPU 设计，确保高
AI知识库进阶！三种数据处理方法！提高正确率！本地大模型+fastgpt知识库手把手搭建！22/45
通过一个实例理解基于字符分割和基于 Token 分割的区别可以看出token长度和字符长度不一样，token通常为4个字符五、分割Markdown文档5.1 分割一个自定义 Markdown 文档分块的目的是把具有上下文的文本放在一起，我们可以通过使用指定分隔符来进行分隔，但有些类型的文档（例如 M
讯飞星火认知大模型智能语音交互调用
唤醒的持久运行--->合成能力加持（唤醒成功后语音答复：主人 我在）--->调用在线或离线听写能力（建议用讯飞在线效果好）--->识别用户说的语音成文字后发给大模型--->建议调用讯飞星火认知大模型--->获取大模型答案后调用语音合成（合成在线离线均可）进行答案输出。随着国内外大模型热度的兴起，依托
使用Llama 2大语言模型搭建本地自己的聊天机器人(群晖Docker篇)
随着ChatGPT 和open Sora 的热度剧增,大语言模型时代,开启了AI新篇章,大语言模型的应用非常广泛，包括聊天机器人、智能客服、自动翻译、写作助手等。它们可以根据用户输入的文本生成相应的响应，提供个性化的建议和服务,目前大部分大语言模型的产品都是基于网络线上的,如果我们本地想自己部署一个
AI大模型应用入门实战与进阶：如何训练自己的AI模型
1.背景介绍人工智能（Artificial Intelligence, AI）是计算机科学的一个分支，研究如何让计算机模拟人类的智能。在过去的几十年里，人工智能的研究主要集中在规则-基于的系统，这些系统需要人们明确地编写大量的规则来解决问题。然而，随着数据量的增加和计算能力的提高，机器学习（Mach
大语言模型系列-GPT-3.5(ChatGPT)
语言模型更大并不能从本质上使它们更好地遵循用户的意图，大型语言模型可能生成不真实、有害或对用户毫无帮助的输出。GPT-3.5正是基于此问题进行的改进，它通过对人类反馈进行微调，使语言模型与用户在广泛任务中的意图保持一致，专业术语是对齐（Alignment）。ps：ChatGPT和InstructGP
第四章：AI大模型的主流框架 4.4 MXNet
1. 背景介绍随着深度学习技术的快速发展，越来越多的研究者和工程师开始关注深度学习框架。深度学习框架是一种软件库，它可以帮助我们更轻松地设计、训练和部署深度学习模型。目前市面上有很多优秀的深度学习框架，如TensorFlow、PyTorch、Caffe等。本文将重点介绍MXNet，一种高效、灵活且易
开源语音大语言模型来了！阿里基于Qwen-Chat提出Qwen-Audio!
大型语言模型（LLMs）由于其良好的知识保留能力、复杂的推理和解决问题能力，在通用人工智能（AGI）领域取得了重大进展。
Meta开源大模型LLaMA2的部署使用
Llama2开源且免费用于研究和商业用途，接受2万亿个标记的训练，上下文长度是Llama1的两倍。Llama2包含了70亿、130亿和700亿参数的模型。
