名词解释 / 01
小语言模型
第 10 / 127 个名词认识 AI 和常见产品
英文名称：Small Language Model
英文缩写：SLM
所属分类：认识 AI 和常见产品
一句话解释
小语言模型是参数量、计算需求和运行成本相对较低的语言模型，适合任务范围明确、响应快、成本敏感或需要在本地设备运行的场景；行业没有统一的大小分界线。
工作中什么时候会遇到
手机、车机、工业边缘设备、内部分类系统或高频客服功能，为了速度、成本和隐私，可能采用小语言模型。
能解决什么问题
- 执行分类、提取、改写等固定任务。
- 在算力有限的设备上运行。
- 降低高频调用的延迟和成本。
- 针对特定领域进行微调或蒸馏。
举个例子
工厂可在内网服务器部署小语言模型，把维修工单按设备和故障类型分类；复杂原因分析再交给更强模型或工程师。这样比所有任务都调用最大模型更经济，也更容易控制数据流向。
怎么使用
先用真实样本界定单一任务和最低准确要求，再比较小模型与大模型。只有小模型在关键类别达到标准，才扩大使用；不够时可采用大小模型路由。
使用时要注意什么
体积小不代表一定更安全或更准确，仍取决于训练数据、部署和权限。特定测试表现接近大模型，也不代表具备同等知识广度和复杂推理能力。
容易混淆的词
- 小语言模型与小参数版本：常有重合，但具体称呼由厂商决定。
- 蒸馏模型：通过大模型知识训练出的较小模型，是获得小模型的一种方式。
- 本地部署：小模型更容易本地运行，但两者不是同义词。
相关名词
相关图片
