名词解释 / 07

词元

第 84 / 127 个名词进一步了解 AI 原理

英文名称:Token 常见别名:Token(更常直接用英文原名);少数译作“词块”“令牌”,但“令牌”更多指登录验证凭证,容易混淆 所属分类:进一步了解 AI 原理

一句话解释

词元是 AI 读写文字时使用的基本计量单位。模型不会像人一样按“字”或“词”去读一段话,而是先把整段内容切成许多小块,再一块一块地处理和生成,这些小块的计量单位就是词元。可以粗略理解成 AI 世界里的“字数”:你喂给 AI 多少内容、AI 一次能记住多少、企业为此花多少钱,大多按它来计算。中文通常一个字约对应一到两个词元,具体切法因不同模型而异,不能简单按字数换算。

工作中什么时候会遇到

大多数时候你不会直接看到词元,产品在后台就替你处理了。真正遇到它通常是这几种情形:把一份很长的文档或聊天记录贴给 AI,结果它提示“内容太长”或只处理了前一部分;同一个对话问久了,AI 开始“忘记”早先交代的背景;或者是单位里负责采购、IT 的同事在核算 AI 使用成本、挑选服务套餐时,提到按“Token/词元”计费。

如果单位把 AI 服务当成正式办公工具统一采购,用量和费用通常集中管理,你可能只会在“剩余额度”“单次上传上限”这类地方间接感觉到它的存在。不同产品对这些限制的显示方式不一样,以当前版本和官方说明为准。

能解决什么问题

  • 解释“为什么 AI 一次读不完我的长文件”:一段内容的词元总量超过上限,后面的部分就被截掉,不是模型偷懒或变笨。
  • 解释“为什么聊着聊着它忘了前面说过什么”:对话越积越长,超过模型一次能装下的词元量,最早的内容就被挤出去了。
  • 看懂额度和费用:很多 AI 服务按词元计费,输入和输出都算,长文档、长回答的消耗明显更高。
  • 判断一份材料适不适合直接丢给 AI:超长内容先拆分或整理,比硬塞更省额度,回答也更准。
  • 帮单位选对服务档位:日常简单问答为主,还是经常传大文件、让 AI 跑自动化任务,用量差别很大,直接决定该买什么套餐。

举个例子

行政部的小郑想用办公 AI 查制度,她把一本上百页的员工手册整段粘贴进对话框,问“新员工年假怎么算”,AI 却答得含糊,还提示材料太长。原因是整本手册的文字量超过了模型一次能处理的词元上限,后面的章节根本没被读进去。

小郑把手册拆成“考勤”“休假”“报销”几个小节分别上传,再只针对“休假制度”部分提问,AI 就能准确答出年假规则。她再打开手册对照一下引用的是哪几条、是否与最新版一致,这一道人工确认建议不要省。

怎么使用

对普通员工来说,基本不需要自己数词元。日常提问、粘贴文本或上传文件时,产品会自动把内容切成词元并处理,消耗的额度一般也由单位统一购买,你未必看得到明细。需要养成的只是几个习惯:一次别塞过长的内容;长文件优先用产品的“上传文件”或知识库功能,而不是整段复制粘贴;发现 AI 答非所问或记不住前文时,先想想是不是内容超量,把问题拆小再问。

词元的计费口径、套餐档位、额度上限这些配置通常由单位的 IT、采购或服务供应商决定,普通员工不需要、也不应自行调整。具体产品的计费方式和显示口径各不相同,以当前版本和官方说明为准。

使用时要注意什么

一是别拿字数去核对词元。一个汉字不等于一个词元,英文单词还可能被切成几段,不同模型的切法也不一样,所以“我的文档 5000 字,怎么算出来不一样”是正常现象。二是别被“单价跌破每百万词元 1 美元”这类消息带偏:单价确实在快速下降,但让你日常反复提问、上传大文件,尤其让 AI 智能体自动跑任务时,单次消耗是简单问答的成百上千倍,企业的总账单未必变小,谈成本要看真实用量而不是单价。三是别把额度简单等同于“能用多少次”,长回答和短回答、传不传附件,消耗相差很大,套餐够不够用要按实际用量估算,不能只数提问条数。

容易混淆的词

  • 字符/字数:词元是 AI 的切分单位,两者不是一一对应。中文一个字大致对应一到两个词元,英文一个单词可能被拆成多段,别用人工字数去换算或核对费用。
  • 上下文窗口:词元是内容本身的计量单位,上下文窗口是模型“一次任务能装多少词元”的容量上限。好比手机套餐的流量总量和单次文件上传上限,是两个不同指标,前者管计费,后者管单次能放多少内容。
  • 令牌(Token,登录):登录网银、办公系统时也会收到叫 token/令牌的验证凭证,那是身份认证用的,和 AI 的词元只是英文同名,没有任何关系。
  • 模型参数:参数描述模型本身的规模与能力,词元计量的是处理文字时流动的内容量。一个形容“发动机排量”,一个衡量“这趟烧了多少油”。

相关名词

大模型 上下文窗口 提示词 AI 智能体 推理成本 生成式 AI

参考来源