notebook鏈接：

首先需要安裝依賴(lài)：

接著加載8比特量化后的模型：

最后即可進(jìn)行模型推理：