【AIGC】本地部署 ollama + open-webui
本文将记录部署过程中遇到的问题以及解决方式，希望对你有所帮助（open-webui 采用 docker 进行部署）。
Ollama+Llama+Docker+WebUI Windows10部署指南
如果打开后，出现WSL 2 installation is incomplete的问题，可以直接点击下方链接。安装好后，可以在docker中找到相应的容器，点击这个组件，就可以打开webui界面。直接在网页中输入http://ip+已经在环境变量中设置好的端口，证明可以连接。先打开控制面板，找到程序
AI大模型探索之路-应用篇15：GLM大模型-ChatGLM3-6B私有化本地部署
ChatGLM3-6B 是 OpenAI 推出的一款强大的自然语言处理模型，它在前两代模型的基础上进行了优化和改进，具有更高的性能和更广泛的应用场景。本文将从技术角度对 ChatGLM3-6B 进行详细介绍，包括其特点、资源评估、购买云服务器、git拉取GLM、pip安装依赖、运行测试以及本地部署安
国内可直接使用的CHATGPT-4.0人工智能安意AI 中文网页版
人工智能网页版的卓越之选，为国内用户提供了一个高效、便捷的智能助手。无论是学习、工作还是生活娱乐，安意AI都能为用户提供强大的智能支持。相信在未来，安意AI将继续发挥其在人工智能领域的优势，为用户带来更多惊喜和便利。作为一款基于GPT-4.0模型构建的网页版人工智能工具，安意AI不仅为用户提供了强大
2024年国内可用最强AI工具软件应用排行榜TOP8——优点和缺点
我们通过对国内AI的逐一评测，从各个AI处理结果优略的角度，再结合网络上广大AI用户的反馈评价，对它们作了一个排名（个人意见，仅供参考）。2、强大的自然语言处理能力与广泛的知识覆盖面：无论是专业领域的知识查询、日常生活的疑问解答，还是新闻时事的解读分析，通义千问都能以接近真人对话的方式，实时为用户提
全民AI时代：手把手教你用Ollama & AnythingLLM搭建AI知识库，无需编程，跟着做就行！
本地运行大模型耗资源，需要选择较小的模型作为基础模型。在终端中运行时可能会出现 CUDA 错误，表示显存不足，导致提供的端口失效。若使用Hugging Face，需要申请 API Key 并且需要本地有 Python 或其他编程语言的环境。而使用Ollama则更加简单。✨ AI算法工程师 | AIG
基于大模型的Text2SQL微调的实战教程(二)
本文主要介绍了基于大模型的Text2SQL微调的实战教程(二)，希望对学习大语言模型的同学们有所帮助。文章目录1. 前言2. 配置环境 2.1 安装虚拟环境 2.2 安装依赖库 2.3 下载模型文件3. 运行代码 3.1 数据预处理 3.2 修改配置文件 3.3 微调
AI大模型探索之路-训练篇13：大语言模型Transformer库-Evaluate组件实践
在自然语言处理（NLP）技术的迅猛发展过程中，基于深度学习的模型逐渐成为了研究和工业界解决语言问题的主流工具。特别是Transformer模型，以其独特的自注意力机制和对长距离依赖的有效捕捉能力，在多个NLP任务中取得了革命性的突破。然而，随着模型变得越来越复杂，如何准确评估模型的性能，理解模型的优
AI大模型探索之路-训练篇11：大语言模型Transformer库-Model组件实践
本文将介绍transformers库中的Model组件，包括不同类型的预训练模型、Model Head以及如何调用这些模型进行推理。通过本文的介绍，读者可以更好地理解和应用transformers库中的Model组件。
如何利用AI提高内容生产效率与AIGC典型案例分析
本文探讨了AI在内容创作中的应用，包括具体案例分析与示例
【AIGC】揭秘驱动AI创新的关键力量：领军者的角色
作为人工智能领域的领军者，AIGC以其创新的技术和应用场景，为推动人工智能的发展和社会进步做出了重要贡献。在未来，AIGC将继续引领人工智能的创新浪潮，为我们带来更加智能、高效和可持续的世界。让我们期待AIGC带来的人工智能的未来，让我们共同迎接人工智能的新篇章！
AI大模型探索之路-训练篇18：大语言模型预训练-微调技术之Prompt Tuning
随着深度学习和人工智能技术的飞速发展，大语言模型的预训练与微调技术已成为自然语言处理领域的重要研究方向。预训练模型如GPT、BERT等在多种语言任务上取得了显著成效，而微调技术则进一步推动了这些模型在特定任务上的适用性和性能。Prompt Tuning作为一种新兴的微调技术，通过引入虚拟标记（Vir
AI大模型探索之路-基础篇5：GLM-4解锁国产大模型的全能智慧与创新应用
随着人工智能技术的飞速发展，大型预训练语言模型已成为推动行业进步的重要力量。它们在理解自然语言、生成文本、执行复杂任务等方面展现出惊人的能力。在此背景下，国产大模型GLM-4的问世，不仅展现了中国在AI领域的实力，也为国内外研究者和开发者提供了新的研究与应用平台。
大模型的不足与解决方案
在前面三个章节呢，为大家从技术的角度介绍了大模型的历程与发展，也为大家介绍了目前主流的大模型的一些特点。在平时的使用中呢，我们也能够感受得到 “大模型” 非常的强大，但不可否认的是 大模型也存在着一些不足的部分，具体表现在以下几方面。
AI大模型探索之路-训练篇3：大语言模型全景解读
大规模语言模型（Large Language Models，LLM），也称大语言模型或大型语言模型，是一种由包含数百亿以上参数的深度神经网络构建的语言模型，通常使用自监督学习方法通过大量无标注文本进行训练。
AI大模型探索之路-训练篇20：大语言模型预训练-常见微调技术对比
随着人工智能的迅猛发展，自然语言处理（NLP）在近年来取得了显著的进展。大型语言模型（LLMs）在多种NLP任务中展现了卓越的性能，这得益于它们在大规模文本数据集上进行的预训练和随后的微调过程。这些模型不仅能够理解和生成自然语言，还能在特定任务上通过微调达到令人印象深刻的精度和鲁棒性。本文将深入探讨
AI大模型探索之路-训练篇12：语言模型Transformer库-Datasets组件实践
在AI语言模型学习任务中，数据是至关重要的部分。一个高质量的数据集不仅决定了模型的上限，还影响着模型训练的效率和效果。然而，获取、处理和组织数据往往耗时耗力。为了简化这一过程，Hugging Face推出了Datasets组件，它集成了多种公开数据集，支持在线加载、筛选和预处理等功能。通过本文的介绍
AI大模型探索之路-训练篇7：大语言模型Transformer库之HuggingFace介绍
在的官方网站上，您可以发现一个丰富的开源宝库，其中包含了众多机器学习爱好者上传的精选模型，供大家学习和应用。此外，您也可以将自己的模型分享至社区，与他人共同进步。HuggingFace因其开放和协作的精神被誉为机器学习界的GitHub。在这里，用户能够轻松获取到Transformers库里各式各样的
AI大模型探索之路-训练篇8：大语言模型Transformer库-预训练流程编码体验
在深入探索Transformer库及其高级组件之前，我们先手工编写一个预训练流程代码。这一过程不仅有助于理解预训练的步骤和复杂性，而且能让您体会到后续引入高级组件所带来的开发便利性。通过实践，我们将构建一个情感分类模型，该模型能够接收文本评价并预测其是正面还是负面的情感倾向。通过上述步骤，我们手工完
AI大模型探索之路-训练篇5：大语言模型预训练数据准备-词元化
大语言模型训练需要数海量的各类型数据。如何构造海量“高质量”数据对于大语言模型的训练具有至关重要的作用。训练数据是影响大语言模型效果以及样本泛化能力的关键因素之一。通常预训练数据需要涵盖各种类型，包括网络数据、图书、论文、百科和社交媒体等，还需要覆盖尽可能多的领域、语言、文化和视角，从而提高大语言模
