Ubuntu18 安装chatglm2-6b

记了下Ubuntu18 上安装chatglm2-6遇到的问题。

环境：Ubuntu18.04 + V100(显卡) + nvcc 11.6

显卡驱动+cuda+cudnn+aniconda + chatglm6b 的安装 网上有很多， 不记录 了。

chatglm2-6b 我从别的地方拷贝的， 模型也包含了。

遇到的问题：

1、执行 python web_demo.py 的时候 有如下的报错：

    大致意思是，驱动太低，pytorch 太高等，使用 可以查看到  torch 的版本，但是 

torch.cuda.is_available()

返回

False。

原因：确实是 conda 创建的环境下 torch安装的太高了。 使用 pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple 安装的时候， requirements.txt 里面 的 torch 版本写的是大于2.0 . 于是安装了最新的 版本2.1.8 ， 这个版本不支持 cuda11.6 。

解决方案： requirements.txt 中执行 torch 的版本 为 2.0.1 （官方写的支持cuda11.7），11.6也是可以的, 增加 torchvision 版本0.15.2 。

                 如果已经安装好了 torch2.1.8 可以卸载，在重新安装

                        pip uninstall torch

                         pip3 install torch==2.0.1 torchvision==0.15.2   -i          https://pypi.tuna.tsinghua.edu.cn/simple

pytorch （torch）的版本和cuda 是有对应关系的， 可以在 pytorch 上去查看。 一般小版本的偏差没问题，比如 官网写的 torch2.0.1 支持 cuda11.7 ，但是cuda11.6 也是支持的。

2、在次执行 python web_demo.py 报错：history 需要初始化

   AttributeError: st.session_state has no attribute "history". Did you forget to initialize it? More info: https://docs.streamlit.io/library/advanced-features/session-state#initialization

不知道啥原因， 更改 web_demo2.py 的代码，怎么改都不行。

解决：使用 streamlit run web_demo2.py 启动方式 就解决了。

3、在 web_demo.py 、web_demo2.py 的代码中注意更改模型的路劲、gpu 的数量等