Streamlit 构建大语言模型 (LLM) web 界面
整体而言，该代码实现了一个具有记忆功能的在线聊天应用，用户可以在其中与预训练的大规模语言模型ChatGLM3-6B进行交互，模型根据用户的输入生成相应的回答，并以聊天形式展示在界面上。：通过Streamlit，可以将大语言模型集成到Web应用中，实现实时交互式体验，用户可以直接在浏览器中与模型进行对
大语言模型是通用人工智能的实现路径吗？【文末有福利】
考虑到像ChatGPT这样的大语言模型代表了自然语言处理的最新成果，因此，一个更具体的学习方法是从零开始理解并构建ChatGPT。接下来，我们来看看实现这一目标所需的知识体系，如下图所示。图1在结构层面上，大语言模型的核心要素是注意力机制和深度学习优化技术。注意力机制源于循环神经网络的发展。为了深刻
使用Ollama和Open WebUI管理本地开源大模型的完整指南
Open WebUI 是一种基于 Web 的用户界面，用于管理和操作各种本地和云端的人工智能模型。它提供了一个直观的图形化界面，使用户可以方便地加载、配置、运行和监控各种 AI 模型，而无需编写代码或使用命令行界面。测试以下编程能力用shell脚本编写一个ping通网段所有主机 要求如果可以访问返回
通义千问(Qwen)AI大模型-系列_2
CodeQwen1.5是Qwen1.5的代码特定版本。它是一种基于变换器的纯解码器语言模型，在大量代码数据上进行预训练。
AI大模型探索之路-实战篇9：探究Agent智能数据分析平台的架构与功能
随着数据量的激增和业务复杂性的提升，企业和组织对高效、精准的数据分析工具的需求日益增强。智能数据分析平台因此应运而生，它结合了最新的人工智能技术，尤其是大型语言模型，来解析用户的自然语言查询，并实现这些查询到数据库操作的转换。这种创新不仅提升了数据分析的效率和准确性，还极大地改善了用户体验。本文将详
开源模型应用落地-Gradio正确集成Fastapi-助力模型交互-实践篇（二）
Gradio与Fastapi正确集成，qwen1.5-7b-chat模型实践，同时提供界面交互和接口服务两种能力
SpringAI 整合 Ollama 大语言模型实践
SpringAI 整合 Ollama 大语言模型实践
LLM（大语言模型）——Springboot集成文心一言、讯飞星火、通义千问、智谱清言
目录引言代码完整地址入参出参ControllerServiceService实现类模型Service入参转换类文心一言实现类讯飞星火实现类通义千问实现类智谱清言实现类引言本文将介绍如何使用Java语言，结合Spring Boot框架，集成国内热门大模型API，包括文心一言、讯飞星火、通义千问、智谱清
大型语言模型安全风险的基准评估套件
CYBERSECEVAL 2 扩展了以前的工作，增加了两个新的测试套件：解释器滥用和提示注入。
AI系列：大语言模型的function calling（下）- 使用LangChain
在AI系列：大语言模型的function calling（上）中我们实现了OpenAI原生的function calling。这篇文章将继续探讨如何使用LangChain实现大语言模型（LLM）的function calling。
2024年中国医疗领域AI Models Overview
国内开源医疗大模型总览
OpenAI、微软、智谱AI 等全球 16 家公司共同签署前沿人工智能安全承诺
人工智能（AI）的安全问题，正以前所未有的关注度在全球范围内被讨论。
开源大模型与闭源大模型：技术哲学的较量
在人工智能领域，大型机器学习模型的开发面临着一个关键的选择：走向开源还是选择闭源。这两种模式各有优劣，而选择一个合适的路径对于模型的成功至关重要。本文将从数据隐私保护、用户数据安全、商业应用领域的考量等方面进行探讨，并分析在实际应用中如何选择以及未来发展趋势。
You Only Cache Once:YOCO 基于Decoder-Decoder 的一个新的大语言模型架构
论文提出了一种用于大型语言建模的解码器-解码器体系结构(YOCO)。与Transformers相比，YOCO具有更好的推理效率和竞争性能。实验结果表明，在各种设置下，YOCO在大型语言模型上取得了良好的效果，即扩大训练词元数量，扩大模型大小，将上下文长度扩大到1M词元。分析结果还表明，YOCO将推理
【论文速读】| 对大语言模型解决攻击性安全挑战的实证评估
本研究全面评价了LLMs在解决现实世界中的CTF挑战能力，并覆盖了从实际竞赛到完全自动化流程的各个阶段。研究成果不仅支持了LLMs在网络安全教育中的应用，同时也为系统性评估LLMs在网络安全攻击能力方面的潜力提供了新的研究路径。
开源模型应用落地-CodeQwen模型小试-探索更多使用场景（三）
使用CodeQwen1.5-7B-Chat模型，帮助开发人员获得高效、准确和个性化的代码支持
开源模型应用落地-模型量化-Qwen1.5-7B-Chat-GPTQ-Int8（一）
理解GPTQ模型量化技术，以低成本体验大语言模型的魅力
运用 Co-STAR 模型，让AI更容易理解你的提示词
个人使用层面来说，使用 CO-STAR 的模型，能让AI更容易理解你所在意的需求重点，从原理上分析，所有基于大型语言模型的AI都能够运用此模型，并且能够更有效地处理信息，以便精确地回答你的问题，提供更好的Idea。
AI大模型探索之路-训练篇13：大语言模型Transformer库-Evaluate组件实践
在自然语言处理（NLP）技术的迅猛发展过程中，基于深度学习的模型逐渐成为了研究和工业界解决语言问题的主流工具。特别是Transformer模型，以其独特的自注意力机制和对长距离依赖的有效捕捉能力，在多个NLP任务中取得了革命性的突破。然而，随着模型变得越来越复杂，如何准确评估模型的性能，理解模型的优
AI大模型探索之路-训练篇11：大语言模型Transformer库-Model组件实践
本文将介绍transformers库中的Model组件，包括不同类型的预训练模型、Model Head以及如何调用这些模型进行推理。通过本文的介绍，读者可以更好地理解和应用transformers库中的Model组件。
