bitsandbytes 是一个用于提供低精度计算(如 8-bit)的库,常用于优化大型模型的存储和计算需求。它在训练和推理中可以显著降低内存占用,使得在相同硬件资源下可以处理更大的模型或数据集。要安装 bitsandbytes,可..