Token

基础概念

Token

简明定义

Token是AI模型处理文本的最小单位。一个中文汉字约1-2个token,一个英文单词约1-3个token。模型计费和上下文窗口大小通常以token为单位。理解token概念对控制API成本至关重要。

深入理解

Token是AI模型的"计价单位"和"容量单位"。在API调用中,输入和输出的token数量决定费用;在模型上下文中,token数量决定一次能处理的最大信息量。

不同模型对token的切分方式不同:英文按子词(subword)切分,中文通常按字或词切分。API提供商通常按输入和输出token分别计费,输出token的价格通常是输入token的3-5倍。

实用经验:1个英文字符≈0.25 token,1个中文字符≈1.5 token,一张图片根据分辨率约85-1000+ token。2026年主流模型的输入价格在$0.15-$15/百万token之间。

实际应用

中文

"你好世界" ≈ 4个token

英文

"Hello world" ≈ 2-3个token

图片

一张1024x1024的图片 ≈ 85-1000+ token(取决于模型)

代码

一段50行的Python代码 ≈ 200-500 token