Token
最近关于token定价的争论很多。有人觉得芯片成本在涨,新模型迭代太快太激进,所以token价格也会一直涨上去。然后有人在X上回了一句,我觉得说得很到位:token现在的阶段就像15-20年前的移动数据流量。AT&T、中国移动,所有运营商都是那种很小的流量套餐。200MB、500KB、1.2MB一个月。打开个网页都要想想值不值得用这个流量。大家真的是在数自己用了多少KB。
现在一切都建立在几乎无限的流量上。没有人打开一个app还担心流量够不够用。消费者心甘情愿地为流量买单,根本不会去想这件事。我们现在用的整个app经济,在流量按KB计费的年代根本不可能存在。
Token就是当年的流量。
现在大家都在省着用token。我每次跑一个agent之前都会看看这次要花多少钱,就像以前加载一个视频之前先看看剩余流量一样。所有做AI的人想token预算的方式,跟我们当年想流量套餐一模一样。
但token的成本本质上就是电费。如果计算效率继续按现在的速度指数级提升,那3-5年之后,达到甚至超过今天最强模型水平的token可能几乎免费。而且tps可能快100倍。
这就改变了token的意义。现在大多数人还觉得token就是聊天机器人背后的东西,一个对话界面。但token其实是驱动agent所有操作的智能单位。当agent调研一家公司或一个创始人、写代码、跑搜索的时候,花的全是token。Token不是聊天。它是驱动一切智能操作的燃料。
当移动流量变得足够便宜的时候,没人再想"怎么更好地用我的流量套餐"。他们在做Uber、Instagram、TikTok,约束消失了,全新的东西冒出来了,那些在大家还在数KB的时候根本没人想到的东西。
我觉得token马上要经历同样的事情。
Like
Comment
Share