Token
基础概念Token
简明定义
Token是AI模型处理文本的最小单位。一个中文汉字约1-2个token,一个英文单词约1-3个token。模型计费和上下文窗口大小通常以token为单位。理解token概念对控制API成本至关重要。
深入理解
Token是AI模型的"计价单位"和"容量单位"。在API调用中,输入和输出的token数量决定费用;在模型上下文中,token数量决定一次能处理的最大信息量。
不同模型对token的切分方式不同:英文按子词(subword)切分,中文通常按字或词切分。API提供商通常按输入和输出token分别计费,输出token的价格通常是输入token的3-5倍。
实用经验:1个英文字符≈0.25 token,1个中文字符≈1.5 token,一张图片根据分辨率约85-1000+ token。2026年主流模型的输入价格在$0.15-$15/百万token之间。
实际应用
中文
"你好世界" ≈ 4个token
英文
"Hello world" ≈ 2-3个token
图片
一张1024x1024的图片 ≈ 85-1000+ token(取决于模型)
代码
一段50行的Python代码 ≈ 200-500 token
相关术语