先给你们讲个笑话。我今天下午2点准备摸鱼刷推特,结果发现OpenAI、Google、Anthropic三家同时发了公告。我那个小群里的AI同好们直接炸了,消息从早上9点刷到晚上9点,我手机震得跟按摩棒似的。
先说第一个瓜。OpenAI今天凌晨偷偷放出了GPT-4o的微调API,价格直接打了个骨折——训练费用降了70%,推理成本降了50%。我一开始以为是假消息,跑去官网一看,好家伙,真的。以前微调一个模型够我吃一个月土,现在够我吃一周外卖了。
我立马试了一把。拿我手头那个帮朋友写的客服机器人项目,喂了300条对话数据,训练花了不到20分钟,跑一次推理比我以前用的那个版本快了将近一倍。关键是质量还在线,回答没有那种“您好,请问有什么可以帮您”的机器人味儿了,更像一个活人在打字。我朋友看完测试结果,直接问我要不要合伙开公司。
但别急,坑也来了。微调API的文档写得跟天书似的,我翻了3遍才搞明白参数配置。而且它有个限制——一次最多只能输入8000个token,超过就得截断。我那个项目里有些客户投诉动不动就是几千字小作文,8000个token根本不够塞。解决办法是得自己先做个摘要再喂进去,多了一步操作,麻烦。
第二个瓜更刺激。Google今天发了Gemini 2.5 Pro的更新,说是上下文窗口从100万token扩到了200万token。我第一反应是:这玩意儿是来搞笑的吧?100万token已经够离谱了,200万token是要把整个维基百科塞进去吗?
我试了试。把一本400页的小说PDF丢进去,让它帮我总结人物关系和剧情走向。结果还真给我整出来了,而且没报错。我数了数,大概用了180万token,把整本书的内容都记住了。这要是放在以前,我得分好几段喂,还得担心它记不住前面说了啥。
但我得吐槽一下,这东西贵得离谱。200万token的上下文,一次查询就要花掉差不多5块钱人民币。我算了一下,要是有人拿它写论文,光上下文费用就能吃掉半个月生活费。Google这定价是跟OpenAI学的吧?一个比一个黑。
第三个瓜才是最炸的。Anthropic今天宣布Claude 3.5 Sonnet正式支持在亚马逊Bedrock上部署了。这不是重点,重点是它出了一个叫“Artifacts”的新功能——可以在对话里直接生成代码、图表、网页,还能实时预览。我试了一下,让它帮我画一个数据看板的原型,它直接给我生成了一个HTML页面,里面图表、表格、筛选器全有,我复制到浏览器就能跑。
说实话,我有点慌了。以前写前端代码是我摸鱼的底气,现在AI连这个都能干了,我是不是该考虑转行卖烤肠了?但转念一想,它生成的代码虽然能跑,但风格丑得一塌糊涂,配色辣眼睛,布局像是用脚写的。我要是拿这个给客户看,估计得被骂到自闭。所以目前来看,它还只能当个草图工具,真要上线还得人改。
说到这,我想起来上周有个读者问我,说AI更新这么快,到底该学哪个。我的答案是:别学了,直接用。你今天学GPT-4o的微调,明天它出了GPT-5,又得重学。不如定个规矩:每周花2小时,把当天最火的3个AI工具都试一遍,好用就留着,不好用就删。我手头现在就装了大概10个AI工具,但真正每天用的就3个:Claude写代码、GPT做翻译、Gemini查资料。其他都是摆设。
最后说个让我血压飙升的事。今天下午我在群里分享这几个瓜,结果有个哥们回了一句:“这些AI工具我都用过,感觉一般。” 我问他用过哪个版本,他说“就那个免费的”。我当场就想顺着网线爬过去打人。免费的GPT-3.5和付费的GPT-4o完全是两个物种好吗?这就像你吃了口康师傅牛肉面,然后说“米其林三星也就那样”一样离谱。
行吧,今天就到这。我得去把那个客服机器人的微调模型再优化一下,顺便看看能不能把那个200万token的Gemini玩出点新花样。要是明天有更新,我再写。
📎 延伸阅读
看完这篇,如果你想:
- 直接拿工具 → 回复”13“,我把跨境获客工具包发给你
- 系统学习 → 点击菜单”AI训练营”,从0开始跑通AI变现