开源模型应用落地-Qwen2.5-7B-Instruct与sglang实现推理加速的正确姿势

Qwen2.5-7B-Instruct集成sglang,构建多样化的语言模型应用。

新质技术之生成式AI、大模型、多模态技术开发与应用研修班

在当前的科技飞速发展的时代,生成式人工智能、大模型、多模态技术的出现正为企业的数字化转型带来革命性变革。该研修班特别设计了为期四天的课程,从生成式AI的核心概念入手,逐步深入探讨大模型的应用开发以及多模态技术的集成运用。通过此次研修班,学员不仅能获得最新的AI技术知识,还能获得行业权威机构的职业技能

MetaAI最新开源Llama3.2亮点及使用指南

Llama大模型是由Meta的人工智能研究团队开发并开源的大型语言模型,继Llama2+模型之后,Meta进一步推出了性能更卓越的Meta Llama3系列语言模型,包括一个80亿参数模型和一个700亿参数模型。lama370B的性能媲美Gemini1.5Pro,全面超越Claude大杯,而Llam

个性化大语言模型:PPlug——让AI更懂你

在当今数字化转型的时代,大型语言模型(LLMs)已经成为了不可或缺的工具,它们在自然语言理解、生成和推理方面展现了非凡的能力。然而,这些模型普遍采用的是“一刀切”的方式,即对于相同的输入给予所有用户相似的响应。这种方式虽然能够满足大多数情况下的需求,但在需要根据个人偏好定制内容的情境下就显得力不从心

真免费!10 款必备的语言类 AI 大模型

通义千问是阿里云推出的一个大型语言模型,它是通义系列的最新成果,能够回答问题、创作文字,还能表达观点、撰写代码,具备丰富的知识和强大的语言生成能力。它拥有强大的自然语言处理和智能交互能力,能够实现智能问答、聊天互动、文本生成等多种应用场景,并且具有丰富的知识储备,涵盖科学、技术、文化、艺术、历史等领

如何在Windows和Linux系统中通过ollama部署qwen大语言模型,并实现open-webui的访问

如何在Windows和Linux系统中通过ollama部署qwen大语言模型,并实现open-webui的访问

大语言模型与ChatGPT:深入探索与应用

这篇博客的内容围绕大语言模型的工作原理、架构、应用、挑战及未来发展,旨在帮助读者全面了解ChatGPT等大语言模型的实际应用及其发展方向。

GPT大模型翻译质量完胜传统机器翻译引擎

为了评估三种不同的机器翻译工具的翻译质量,我们将采用以下五个评价指标来进行量化评分。

数据顾问:大型语言模型的动态数据策划与安全对齐

数据顾问首先生成关于现有数据属性的简明报告,涵盖数据的多维分布。通过查询聚焦的总结,数据顾问能够有效地识别出新生成数据中的安全问题。例如,在安全对齐的背景下,数据顾问会优先考虑数据集中的多样性和安全问题的全面覆盖。

用 API 实现 AI 视频摘要:动手制作属于你的 AI 视频小助手

尝试做一个属于你自己的AI视频总结/摘要小助手!这并不难,即便你不懂任何深度学习的知识,也完全可以做到。

星火智能体创建指南

笔者在偶然的机会发现了一个官方发布的有键盘当作奖品的活动,从而知晓了这个入口。但是文档不是很完善,因此提供了从头创建的过程记录以及简单测评。本文从零使用结构化和编排式进行了创建。较星火模型而言,结构化的智能体文字能力略有优势,图像能力欠佳。编排式创建的定制化程度较高,但是不提供API接口,依托星火运

AI大语言模型进阶应用及模型优化、本地化部署、从0-1搭建、智能体构建技术

在过去几年中,人工智能领域的发展迅猛,尤其是大语言模型的应用,为各行各业带来了前所未有的创新与突破。从ChatGPT-3.5的推出到GPT Store的上线,再到最新的多模态交互ChatGPT-4o,OpenAI不断引领科技潮流,推动AI生态系统的构建。深入理解和掌握大语言模型的前言技术,涵盖了提示

【Python大语言模型系列】开源机器人对话系统框架RASA介绍与使用(案例分析)

开源机器人对话系统框架RASA介绍与使用(案例分析)

开源模型应用落地-Qwen2.5-7B-Instruct与vllm实现离线推理-降本增效(一)

将Qwen2.5模型与vLLM框架进行有效整合,通过离线推理为实际项目带来更大的价值。

AI较量:2024年9月份最新国产大模型与ChatGPT的真实能力测试,谁更胜一筹?

经过上述的测试提问,可以看出来GPT除了在汉字文学上确实稍显逊色。其他的能力实至名归的第一。不过,国产大模型中也确实有一些体现了它们的长处。比如:豆包和文心一言,在汉语文学上的理解是非常通透的。最后说一下我心中的排名吧。TOP1—GPT,实至名归的第一,没有那么多花里胡哨的东西,实打实的算力。TOP

ChatGPT-4o丨AI大语言模型优化、本地化部署、从0-1搭建、智能体构建、多模态、时间序列、目标检测及语义分割

ChatGPT-4o丨AI大语言模型优化、本地化部署、从0-1搭建、智能体构建、多模态、时间序列、目标检测及语义分割

Agent Q:自主 AI 智体的高级推理和学习

24年8月来自MultiOn AGI公司和斯坦福大学的论文“”Agent Q: Advanced Reasoning and Learning for Autonomous AI Agents“。

【ollama 在linux 上离线部署 本地大模型】

简介如何用ollama 在linux部署大模型

人工智能-大语言模型-微调技术-LoRA及背后原理简介

大语言模型的微调技术LoRA及成功背后原理分析文章。

大模型实战一、Ollama+RagFlow 部署本地知识库

通过以上步骤,你已经成功在 Windows 系统上通过 Docker 部署了一个本地化的大模型知识库,结合 RagFlow 和 Ollama,安装了通义千问2 7B 模型和中文 Embedding 模型,构建了一个支持中文问答的系统。这种设置适用于企业内部知识管理、自动化客服、智能问答等场景。

登录可以使用的更多功能哦! 登录
作者榜
...
资讯小助手

资讯同步

...
内容小助手

文章同步

...
Deephub

公众号:deephub-imba

...
奕凯

公众号:奕凯的技术栈