问题描述

在尝试部署llama模型过程中，碰到报错importlib.metadata.PackageNotFoundError: No package metadata was found for bitsandbytes

 问题原因

win平台安装的bitsandbytes库实际metadata名为bitsandbytes-windows，而不是bitsandbytes

解决方法

打开python根目录中这个文件：

/Lib/site-packages/transformers/utils/import_utils.py

Ctrl + F搜索以下内容：

importlib.metadata.version("bitsandbytes")

改为这样即可：

importlib.metadata.version("bitsandbytes-windows")