前提条件:

1、win10系统更新到最新的版本,系统版本最好为专业版本

winver

查看系统版本,内部版本要大于19045

2、CPU开启虚拟化

3、开启虚拟化功能,1、2、3每步完成后均需要重启电脑;

注:windows 虚拟机监控程序平台不开启的话可能导致后面docker desktop启动不起来

开始:

1、在CMD/POWERSHELL中敲击命令wsl --version,查看WSL版本,如果版本为1.0则执行update命令,然后切换至2的版本

#查看版本
wsl --version

#更新
wsl --update

#设置为wsl2
wsl --set-default-version 2

#列出可用的linux发行版本
wsl --list --online

#列出已安装的 Linux 发行版
wsl --list --verbose

#推荐安装ubuntu2204,后面为安装路径
wsl --install Ubuntu22.04 E:\Ubuntu2204

#检查 WSL 状态
wsl --status


#关闭
wsl --shutdown

#导入和导出发行版
wsl --export <Distribution Name> <FileName>
wsl --import <Distribution Name> <InstallLocation> <FileName>

#导入已经存在的文件
#将指定的 .vhdx 文件导入为新的发行版。 虚拟硬盘必须采用 ext4 文件系统类型格式
wsl --import-in-place <Distribution Name> <FileName>

#注销或卸载 Linux 发行版
wsl --unregister <DistributionName>

2、安装docker desktop,win10建议下载4.26.1,按照要求进行安装即可,安装完成后进行如下设置:

wsl安装好ubtuntu之后我们是可以在dokcer desktop里面看到已经装好的linux系统

修改配置地址

3、拉取代码及下载模型

#下载qanything的基础代码
git clone https://github.com/netease-youdao/QAnything.git

#下载基础LLM,文件较大,提前下载好之后,解压放到qanything代码的根目录里,文件夹为models
git clone https://www.modelscope.cn/netease-youdao/QAnything.git

#千问模型可以不用下载,系统会自动拉取

更改shell脚本的回车(在windows下创建编辑的shell脚本是dos格式的,而linux却是只能执行格式为uni格式的脚本),否则执行时会报错,将回车符替换为空字符串

sed -i "s/\r//" scripts/run_for_local_option.sh
sed -i "s/^M//" scripts/run_for_local_option.sh
sed -i "s/\r//" scripts/run_for_cloud_option.sh
sed -i "s/^M//" scripts/run_for_cloud_option.sh
sed -i "s/\r//" run.sh
sed -i "s/^M//" run.sh
sed -i "s/\r//" close.sh
sed -i "s/^M//" close.sh

执行启动命令

bash ./run.sh -c local -i 0 -b hf -m Qwen-7B-QAnything -t qwen-7b-qanything

若发现npm run install报错failed to install npm dependencies,请参考将npm换成yarn
\scripts\run_for_local_option.sh,找到npm install那里,修改一下代码

npm config set registry https://registry.npmmirror.com
npm install -g yarn
yarn config set registry https://registry.npmmirror.com

timeout 180 yarn install

4、迁移docker-desktop-data,防止C盘文件过大

wsl --shutdown

wsl --export docker-desktop-data E:\docker-desktop\docker-desktop-data.tar

wsl --unregister docker-desktop-data

wsl --import docker-desktop-data E:\docker-desktop\data E:\docker-desktop\docker-desktop-data.tar --version 2

参考地址:网易有道QAnything 安装部署实践(RAG)-CSDN博客

Logo

旨在为数千万中国开发者提供一个无缝且高效的云端环境,以支持学习、使用和贡献开源项目。

更多推荐