LM Studio加载deepseek .gguf本地模型
·
直接讲重点，首先去官网下载.gguf的文件，下载后保存到一个目录里面
如我下的是这个模型：DeepSeek-Coder-V2-Lite-Instruct-IQ2_S.gguf
LM Studio 建立一个文件夹作为，模型目录，但是开始总也不显示下载的模型，后来才知道需要包两层文件夹的目录才行。
第一层目录名和gguf的文件名要相同
第二层目录名为：lmstudio-ai
这样再选择lmstudio-ai的上一层文件夹，作为模型目录就可以在LM Studio中显示了
整体目录层级如下：
AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念，把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起，为开发者提供从开发、训练到部署的一站式体验。
更多推荐
8
0- 0
已为社区贡献1条内容
所有评论(0)