一文搞懂LLM大模型！LLM从入门到精通万字长文（2024.7月最新）
LLM大模型从入门到精通
调用百度的大模型API接口实现AI对话！手把手教程！
本文介绍如何使用百度的大模型API接口实现一个AI对话项目。
Chainlit快速实现AI对话应用将聊天数据的持久化到Mongo非关系数据库中
默认情况下，Chainlit应用不会保留其生成的聊天和元素。即网页一刷新，所有的聊天记录，页面上的所有聊天记录都会消失。但是，存储和利用这些数据的能力可能是您的项目或组织的重要组成部分。之前写过一篇文章，这个技术方案的优点是，不需要自己在安装数据库，创建表结构等操作，缺点是，只适合用户量比较少的情况
Google最新开源大语言模型：Gemma 2介绍及其微调(上篇)
2024年6月27日，Google DeepMind发布了Gemma 2，这是Gemma系列轻量级开放语言模型的最新成员。Gemma 2在架构和训练方法上都有重大创新，在多项基准测试中取得了显著进步，甚至可以与参数规模大2-3倍的模型相媲美。本文将对Gemma 2技术报告的主要内容进行解读，包括模型
深入 Dify 源码，洞察 Dify RAG 核心机制
之前深入源码对 Dify 的完整流程进行了解读，基本上梳理了 Dify 的实现流程与主要组件。但是在实际部署之后，发现 Dify 现有的 RAG 检索效果没有那么理想。因此个人结合前端页面，配置信息与实现流程，深入查看了私有化部署的 Dify 的技术细节。将核心内容整理在这边，方便大家根据实际的业务
240713-Xinference模型下载、管理及测试
Xinference模型下载、管理及测试
书生.浦江大模型实战训练营——（四）书生·浦语大模型全链路开源开放体系
视频时间不长，30分钟，详细介绍了书生.浦语大模型的全链路开发体系，以及一些关键的大模型技术，收获颇多，后面想继续KG和RAG以及LLM长文本，基于图神经网络的LLM方向的进一步学习，欢迎大家交流！下面将详细介绍视频的内容。
基于人工智能的口试模拟、LLM将彻底改变 STEM 教育
本文开发了一个基于大规模语言模型的原型，模拟了高等教育中的口试，探索了大规模语言模型在教育环境中的潜力，展示了将人工智能引入教育的广泛可能性。尽管作为一项研究还处于早期阶段，但它为大规模语言模型在这一新应用领域的能力和局限性提供了重要见解，而最新版本的 OpenAI API 及其助手在为不同学生定制
基于AutoGen的多Agent AI系统实践
AutoGen是一个由Microsoft开源的框架，专为构建和优化大型语言模型（LLM）工作流程而设计。它提供了多Agent会话框架、应用程序构建工具以及推理性能优化的支持。基于AutoGen框架使得能够方便地使用多Agent开发LLM应用程序。以下将介绍如何基于AutoGen构建和定制多Agent
提升20%！京东广告模型系统负载均衡揭秘
负载均衡策略作为分布式服务架构的永恒话题之一，对于提高在线集群的资源利用率和服务稳定性十分必要。本文将从京东广告在线模型系统负载均衡策略的演进历程出发，并聚焦于系统最优算力调度下，异构硬件集群负载均衡问题解决策略的相关技术实践。
AI 情感聊天机器人之旅 —— 多轮对话存在的问题与数据积累
在 QA、逻辑推理等领域，多跳问答比单跳问答难得多。同理可得，多轮对话比单轮对话也难得多，模型需要结合历史对话和用户当前内容生成合适的响应。现有的指令数据大都是单轮或者两轮的对话，模型在对话轮数较少时，还能很好地遵循指令、记住历史信息以及输出合适的内容。但对话轮数多了后，模型的输出往往会变得不可控，
详解基于 RAG 的 txt2sql 全过程
本文使用通义千问大模型和 ChromaDB 向量数据库来实现一个完整的 text2sql 的项目，并基于实际的业务进行效果的展示。
使用Gradio搭建聊天UI实现质谱AI智能问答
1、获取api_key智谱AI开放平台网址：2、安装库3、执行一下代码，调用质谱api进行问答。
Qwen2本地web Demo
千问2前段时间发布了，个人觉得千问系列是我用过最好的中文开源大模型，所以这里基于streamlit进行一个千问2的web搭建，来进行模型的测试。
万字长文解析AI Agent技术原理和应用
深入剖析了AI Agent这一前沿科技领域的全貌。从基础概念的澄清，到技术原理的细致解构，再跨越至丰富多样的应用场景探索。
Llama（二）：Open WebUI作为前端界面，使用本机的llama3
Open WebUI是一个可扩展、功能丰富、用户友好的自托管WebUI，旨在完全离线操作。它支持各种LLM运行程序，包括Ollama和OpenAI兼容的API。
LLM时代中的AI推理优化
毫无疑问，AI是当下最热的话题之一，而大模型又是当前AI的主角。几年前，正当深度学习进入瓶颈时，以GPT为首的LLM的横空出世让之似乎又找到了“第二增长曲线”。当模型规模大到一定程度时，它所表现出来的涌现能力（Emergent ability）是之前在小模型中所不曾见过的。这种大模型所特有的推理、计
AI 音乐生成器 MusicGPT，同声传译StreamSpeech!Web短视频平台Sharine
AI 音乐生成器 MusicGPT，同声传译StreamSpeech!Web短视频平台Sharine。
AnythingLLM 的 Docker 使用
AnythingLLM是使用大语言模型LLM的一站式简便框架。
【AI落地应用实战】如何高效检索与阅读论文——302.AI学术论文工具评测
在浩瀚的学术海洋中，如何快速、准确地找到我们需要的论文，就像是航海家如何在茫茫大海中找到正确的航线。海量的学术资源、复杂的检索系统、不断更新的研究热点，都为我们设置了重重障碍。最近，我就收到了不少同学私信说他们检索并阅读完一篇论文所花费的时间，甚至比追完一季电视剧还要长，那么：- 如何快速检索找到那
