非常好,现在你访问 http://127.0.0.1:1234/v1 返回了:

error: Unexpected endpoint or method. (GET /v1)

这意味着:

LM-Studio 的 API 服务已经成功启动了!
❌ 但你访问的路径 (GET /v1) 并不是一个有效的接口。


✅ 正确做法:用 POST 调用聊天接口

LM-Studio 的 API 遵循的是 OpenAI Chat Completions API 格式,你应该访问的是:

POST http://127.0.0.1:1234/v1/chat/completions

你可以用以下命令测试:

curl -X POST http://127.0.0.1:1234/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemma:3b-instruct-q4",
    "messages": [
      {"role": "user", "content": "Hello, who are you?"}
    ]
  }'

注意:"model" 字段的值需要与你在 LM-Studio 中加载的模型名一致,比如 gemma:12b-instruct-q4 或者 LM-Studio 里显示的精确名字。


✅ AnythingLLM 配置步骤

1. 打开 AnythingLLM 的网页:

http://127.0.0.1:3001/onboarding

2. 在模型设置页选择:

  • LLM Provider: OpenAI Compatible

  • API Base URL: http://host.docker.internal:1234/v1

  • Model: 填入你的模型 ID,比如 gemma:12b-instruct-q4

  • API Key: 随便填一个,比如 lmstudio(LM-Studio 不验证 Key,但 AnythingLLM UI 必填)

3. 测试连接 → 成功后保存


✅ 如何上传 /home/powersys/work/ 目录内容?

在 AnythingLLM 的网页里:

  • 打开网页左边栏 → Upload Files

  • 上传文件或文件夹,或者你也可以在后台将 /home/powersys/work/ 映射进容器。

你可以编辑 docker-compose.yml 加入:

    volumes:
      - /home/powersys/work/:/app/backend/uploads/

这样你启动后 /home/powersys/work/ 会自动出现在可读取目录中。


✅ 总结

操作状态说明
LM-Studio 是否启动已监听 1234 端口
/v1 是否有效应该访问 /v1/chat/completions
AnythingLLM 配置设置为 OpenAI Compatible, Base URL 为 http://host.docker.internal:1234/v1
上传文档路径挂载✅ 建议用 Docker volume 映射 /home/powersys/work/

如果你愿意,我可以帮你检查当前的 docker-compose.yml 文件是否挂载正确,或者生成一个配置模板。需要的话请贴出来或告诉我路径。

Logo

AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。

更多推荐