随着大语言模型的普及，越来越多用户希望将它们部署在本地设备上，以获得离线使用、隐私保护和更低延迟的优势。Oll…