现在的整个大环境对大模型的认知真的是一地鸡毛,没眼看了。
最近看某AI大主播,带着几个同样IT业内的朋友做视频,一起聊GPT-5。
本来我想听听我这个普通人不知道的东西,结果越听越震惊,比如,他们能一本正经地拿自己遇到的一次幻觉问题,来直接论证整个模型的幻觉率高不高。
你去吃了家餐馆,碰巧吃到了一道贼难吃的菜,然后你回头告诉别人这家餐馆所有菜都是垃圾——平时我们知道这逻辑根本站不住脚,但就因为聊的是GPT-5,这模型刚一出就被很多博主猛批,所以就可以无脑跟风,不需要基本的怀疑精神了?
再比如他们谈AI写作,我很明显听出,他们眼里的「AI写作」就是指写公众号和社媒营销文章。
说道这个我就更气了,我平时是既写社交媒体也写小说,知道这两种场合区别有多大。
我需要拿大模型去写文风各异、长达多少数万数十万字的故事,我需要写的是活生生的人物和逻辑想象力兼具的设定框架。
所以我既清楚AI在这种工程里有着深不可测的上限,也知道不同的模型在不同环境下可以有天差地别的下限。
正因如此,我知道这种话题可以聊得非常深,但当他们一本正经地聊AI写作时,就完全没有提到过这些东西,瞬间让我觉得这节目没听下去的兴趣了。
当然,我并不觉得GPT-5表现符合我的期待,有多么值得我辩护,但咱们讨论大模型不应该是这个水平。
其实我最近经常发现,对于同一个大模型,不同人的看法简直可以南辕北辙,但背后的原因不是意见的百花齐放,单纯是无知者无畏。
比方说这几人如果聊AI编程,他们肯定能聊的特别细。实际上现在评测最详细的也是AI编程。其次也就是文生图和视频了。
至于其他不受关注的领域,胡说八道的评测到处都是,很多人讨论的时候只凭印象和一两次简单使用就敢信口开河,就连官方也没兴趣讲太细。
现在的大环境就是这样,因为码农声音大,所以AI讨论=AI编程讨论。
我没办法改变这种讨论环境,但是能否至少不要装作看不见这个问题?
我们每个人用大模型的方式其实都很片面,这种片面比我们想象中普遍得多,却像房间里的大象总被无视。
正因如此,就连平时看起来靠谱得不得了的行业大佬们,也经常会在聊到大模型时突然开始满嘴跑火车,让人觉得可气又可笑。
更可气的是,作为业内人,明知道大模型的评测有多复杂,现在的科技自媒体还是大模型发布几个小时,随随便便做几个测试,就敢对模型公开宣判「XX爆了!」「XXX跌落神坛了」。
关于大模型,明明大部分人都一知半解,但偏偏每个人都喜欢脸不红心不跳地装作自己无所不知。
舆论大环境如此,普通用户之间的讨论也是乱七八糟。
有个很离谱的事,我和我同样一个写小说的朋友,对同一个模型的评价都可能截然相反。
我说这个模型「描写很细腻,像人」,人家觉得「全都是AI那一套八股文」。
如果说「AI大佬」是没有实践过小说写作也就罢了,为什么同在一个领域的我们也得不出一致的结论呢?
这一切问题的源头,非要追究的话,只能说,从一开始,自从Transformer架构的大模型的研发出来,它的文字内在生成机制就是个巨大的黑箱。
迄今为止最顶尖的AI实验室都还要努力去琢磨大模型的内在机制是怎么回事。
换句话说,就连它的创造者也还在努力搞清楚它究竟是如何运作的,用户对模型的测试和评价自然更难靠谱了。
其实,一般人要想严谨地评测大模型,很难。
很多人都不知道,现在那些你能买到的主流大模型,就是同样叫ChatGPT,Gemini,你网页和客户端用着不一样,和API用着又不一样,不同的套餐智力和用量天差地别。
同一个大模型,甚至你在不同时间调用,厂商背后分配给你的算力都可能不一样,导致出来的结果一个神一个鬼。
更别提用户账号的记忆、提示词技巧不同导致结果差距会更大。
你说,这还怎么评测,怎么好好讨论?
我经常和别人聊半天,发现全都在鸡同鸭讲。
没法好好讨论,就导致一般人没法了解大模型在不同情境下的真实能力。
到底谁是真神,谁是菜鸡,又到底什么因素才真正影响了模型的发挥,这些根本没人能给出清楚答案。
最后只有卖课的和半桶水的意见领袖赚钱了。因为别的办法都没法搞懂大模型,一般人要学AI大模型,只能盲信个人IP,盲信所谓的权威。
我一直觉得,现在市场上非常缺乏一个大模型的「大众点评」。
这个大模型点评网站,应该要能够全面展示真人用户对各种大模型的真实打分和反馈才行。顺便,还要在评价之后附带上用户使用的渠道、版本和具体环境,不给鸡贼厂商省钱作假的空间。
我们用户实在太缺乏这么一个了解大模型真实用例、真实性能的渠道了。
现存的hugging face、LM arena和很多专业测试榜单,都太不贴近群众。更别说,很多榜单背后猫腻也不少。
所以说。「大模型点评」,什么时候能有人建一个?
在这种网站出来之前,就只能闷头自己研究了。