跳至正文

AI领域又出大新闻了,聊聊我的看法

今天早上打开电脑,差点把咖啡喷屏幕上。

又是那种感觉——就像你刚睡醒刷朋友圈,发现前男友/前女友半夜发了订婚照,整个人瞬间清醒,又有点说不出的烦躁。OpenAI又扔炸弹了,这次是o3模型的正式版,代号o3-pro,还有那个传说中的Deep Research功能。

说实话,我已经有点麻了。

不是不兴奋,是兴奋阈值被抬太高了。三个月前,GPT-4o发布的时候我还激动得发了一条”我们正在见证历史”的朋友圈,结果两个月后就被Sora打脸,再过一个月又被Claude 3.5 Sonnet按在地上摩擦。现在?我现在看到”重磅更新”四个字,第一反应是:又来?我的API账单又要涨了?

但这次确实有点不一样。

我花了大概两个小时折腾o3-pro的API接入。过程没啥好说的,一如既往地——你先得把原来那个openai库更新到1.55.0版本,不然会报一个诡异的AttributeError: module ‘openai’ has no attribute ‘ChatCompletion’。这个错误我见过不下十次了,每次OpenAI更新都改接口命名规则,跟换衣服似的。

真正让我惊讶的是Deep Research这个功能。官方说是能自动搜索、阅读、总结几百个网页,然后生成一份研究报告。我起初以为是炒作,就随便扔了个问题进去:”2024年全球AI芯片市场格局变化,以及对中国大模型创业公司的影响”。

等了大概三分钟。不是那种ChatGPT秒回的节奏,是真的在搜索、在翻页、在思考。最后吐出来一份八千多字的报告,里面居然提到了我之前完全不知道的一些细节——比如华为昇腾910B芯片在某个特定算子上的性能竟然比A100强了17%,还有壁仞科技那个被列入实体清单后的转型路径分析,连2024年Q3的财报数据都扒出来了。

我当场沉默了。

不是那种”哇好厉害”的沉默,是那种”我是谁我在哪我是不是该转行去送外卖”的沉默。因为这种报告,如果是人工写,至少需要一个研究员花两天时间,而且很可能还没这么全面。我甚至去验证了几个数据点,比如它引用的那个MIT Technology Review的报道,我点进去看原文,发现确实没错,连页码都准确。

当然,槽点也有。

Deep Research的报告格式默认是英文,我让它用中文输出,结果出现了几处明显的机翻痕迹,比如”这个结果暗示了一种范式转移”——哥们,”paradigm shift”能不能翻成”范式转变”?你搁这儿搞学术装逼呢。还有一处把”TSMC”翻成了”台积电半导体制造公司”,虽然没错,但业内没人这么叫,大家都直接说台积电。这种细节说明模型虽然能搜到信息,但对特定领域的行话理解还不够。

另外,这个功能的价格是真的贵。Deep Research单次查询消耗的token大概是普通GPT-4o查询的20倍。我算了一下,我那个八千字的报告,按OpenAI的定价,成本大概在3到4美元。偶尔用用还行,要是每天跑十次,一个月光这个功能就得烧掉一千多美元。对于个人开发者或者小团队来说,这价格有点劝退。

说到价格,就不得不提今天另一个新闻——Anthropic的Claude 3.5 Haiku发布,号称速度比GPT-4o快两倍,价格却只有一半。我还没拿到测试资格,但从技术报告看,它用了某种新的注意力机制压缩技术,把长上下文处理的开销降下来了。说实话,Claude在写代码这个场景下一直比GPT好用,我写Python脚本的时候基本都是用Claude,GPT经常给我一些”理论上正确但跑起来就报错”的代码。但Claude的问题是不能联网搜索,这是硬伤,每次我问它”帮我查一下最新版FastAPI的文档”,它就一脸无辜地道歉说知识截止于2024年初。

还有个事值得提一下,今天HuggingFace上有人开源了一个叫”MiniMax-01″的模型,号称参数量只有0.5B,但在数学推理任务上居然超过了7B的Llama-2。我还没来得及跑,但看论文里的消融实验,他们用了某种”渐进式知识蒸馏+稀疏激活”的方法,把大模型的知识压缩到了小模型里。如果这个结果可复现,那对边缘设备部署来说是个好消息。毕竟不是谁都有钱租A100集群的,能在树莓派上跑个靠谱的模型才是真本事。

但说实话,我现在对这些”超越””碾压””颠覆”的标题已经有点免疫了。

你还记得吗?去年这个时候,有人告诉我”AI年底就能取代程序员”,我当时慌得一批,天天刷LeetCode想转行。结果呢?我现在还是每天写代码、调试、改bug,AI确实帮我做了不少杂活——比如写单元测试、查文档、生成样板代码——但真到了需要理解业务逻辑、做架构决策的时候,它还是抓瞎。你让它设计一个微服务拆分方案,它能给你整出二十个服务,每个服务三行代码,然后告诉你”这是一个高可用架构”。

所以我的结论是:别焦虑,但也别躺平。

AI进化得很快,快到每隔几个月就会让你怀疑人生。但它还没快到让你明天就失业的地步。真正需要做的事情是:学会怎么用这些工具。就像当年搜索引擎出现的时候,没人因为”以后查资料更方便了”就失业,但不会用搜索引擎的人确实被淘汰了。

今天下午我用Deep Research生成了一份关于RAG系统最新进展的报告,然后基于这份报告改进了我自己的一个项目——把原来用的Naive RAG换成了Self-RAG,增加了检索后验证的环节。整个过程大概花了三个小时,如果全靠自己读论文、写代码,至少需要两天。这就是效率提升。

最后说一句,别被那些”AI已经超越了人类”的标题党忽悠。o3-pro确实很厉害,Deep Research也确实能写报告,但它依然会在简单的数学题上翻车。我今天试了个问题:”一个水池,进水管3小时注满,出水管4小时排空,同时打开,多久能满?”——它给我算出来12小时。正确答案应该是12小时没错,但它的推导过程写的是”设水池容量为1,则进水速度为1/3,出水速度为1/4,净速度为1/12,所以需要12小时”。看起来没问题对吧?但如果你改成”进水管2小时,出水管3小时”,它依然用同样的公式算出来6小时——实际上正确答案是6小时没错,但它的推导过程里居然出现了”1/2 – 1/3 = 1/6″这种基础运算,然后洋洋洒洒写了一堆废话解释为什么是6小时。

所以,AI很强,但也没那么强。该用的时候大胆用,该怀疑的时候别客气。毕竟,真正让你失业的从来不是AI,而是那个会用AI的同事。

今天就写到这儿吧,API账单来了,我得去看看这个月是不是又超预算了。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注