0


AI大模型避坑(一):Tabby如何安装在windows端成功安装,应该选择哪个版本

嗨,我是兰若,今天和大家聊聊Tabby,Tabby 是一款开源、自托管的人工智能编码助手。借助 Tabby,每个团队都可以轻松设置自己的 LLM 支持的代码完成服务器,也就是说,如果你 的公司用的是内网,不能使用外部大模型应用,但是你又需要使用AI应用辅助你编写代码,那么这个时候你就可以部署一套tabby,可以拥有属于你自己的copilot,可是很多人在安装tabby的第一步就遇到了难题,今天给大家说说如何在自己的windows电脑上安装tabby。

下面是tabby的官网下载链接:https://github.com/TabbyML/tabby/releases?page=1

可以看到windows版本有几个版本,很多小伙伴都傻傻分不清,自己到底应该下载哪个版本
在这里插入图片描述
其实这几个版本就是下面几点的区别,分清自己的电脑属于哪种情况就可以了

  1. CUDA 117CUDA 122版本:- 如果你的电脑有NVIDIA显卡,并且安装了对应版本的CUDA工具包,那么可以选择这两个版本中的一个。- CUDA 117:适用于CUDA 11.7版本的工具包。- CUDA 122:适用于CUDA 12.2版本的工具包。
  2. Vulkan版本:- 如果你的显卡支持Vulkan,并且你已经安装了Vulkan运行时,可以选择这个版本。- Vulkan是另一种图形和计算API,适用于支持Vulkan的显卡。
  3. 普通版本:- 如果你没有NVIDIA显卡或CUDA工具包,或者不确定显卡是否支持Vulkan,那么选择这个普通版本。

总结:

  • 如果你有NVIDIA显卡并且使用CUDA 11.7或12.2工具包,选择对应的CUDA版本。
  • 如果你使用的是支持Vulkan的显卡,选择Vulkan版本。
  • 否则,选择普通版本(tabby_x86_64-windows-msvc.zip)。

另外如何不知道自己是否有NVDIA显卡或CUDA工具包,请接着往下看

要检查你的电脑是否有NVIDIA显卡或安装了CUDA工具包,可以按照以下步骤操作:

检查是否有NVIDIA显卡

  1. 设备管理器:- 右键点击“此电脑”图标,选择“管理”。- 在“计算机管理”窗口中,选择左侧的“设备管理器”。- 在设备管理器中,展开“显示适配器”选项。如果你看到“NVIDIA”字样的显卡名称,则表示你有NVIDIA显卡。在这里插入图片描述
  2. NVIDIA控制面板:- 右键点击桌面,选择“NVIDIA控制面板”。如果有这个选项,说明你有NVIDIA显卡。

检查是否安装了CUDA工具包

  1. 命令提示符:- 按 Win + R 打开运行对话框,输入 cmd 并按回车。- 在命令提示符中输入 nvcc --version 并按回车。- 如果你看到类似如下的信息,则表示安装了CUDA工具包:nvcc: NVIDIA (R) Cuda compiler driverCopyright (c) 2005-2020 NVIDIA CorporationBuilt on ...Cuda compilation tools, release X.Y, VZ.W
  2. 检查环境变量:- 按 Win + R 打开运行对话框,输入 sysdm.cpl 并按回车。- 在“系统属性”窗口中,选择“高级”选项卡,然后点击“环境变量”按钮。- 在“系统变量”列表中查找是否有 CUDA_PATH 或类似的变量。这个变量通常指向CUDA安装目录。在这里插入图片描述

总结

  1. 如果你有NVIDIA显卡,可以选择相应的CUDA版本或普通版本。
  2. 如果你没有NVIDIA显卡或者未安装CUDA工具包,选择普通版本(tabby_x86_64-windows-msvc.zip)。
  3. 如果你的显卡支持Vulkan并且你安装了Vulkan运行时,也可以选择Vulkan版本。

本文转载自: https://blog.csdn.net/weixin_45754647/article/details/140516697
版权归原作者 兰若姐姐 所有, 如有侵权,请联系我们删除。

“AI大模型避坑(一):Tabby如何安装在windows端成功安装,应该选择哪个版本”的评论:

还没有评论