官方说法 vs 实测结论

厂商宣传页写得都很美,实际跑起来呢?以下每条结论都来自本站同题横评中的真实翻车记录。

案例 01

官方说法

「代码能力业界领先,一次生成完整可运行的应用」

实测结论

同题生成中国象棋,有模型初始局面就摆错。

在我们的同题横评中,多家模型生成单文件象棋游戏:有的一次成型直接可玩,也有的初始局面棋子位置摆错、对弈过程中棋子无故消失。代码写得长不等于能跑,必须实际运行验证。

案例 02

官方说法

「规则理解与逻辑推理能力强大」

实测结论

有模型生成的象棋「马走田」,将帅照面不判负。

棋规是硬逻辑。实测中出现过马走田、将帅直接照面不判负等规则性错误——不亲手玩几步根本发现不了。这也是我们坚持产物在线试玩、而非只看代码的原因。

案例 03

官方说法

「超长输出,轻松应对复杂任务」

实测结论

复杂游戏直接写到一半被截断,页面白屏。

输出长度是有上限的。实测中任务稍复杂,部分模型的返回 finish_reason 即为 length,代码不完整导致白屏。我们的横评报告会对输出截断做明确标记,并触发翻车闸门:截断产物综合分封顶 4.0。

案例 04

官方说法

「价格便宜量又足,随便用不心疼」

实测结论

同一道题,各家 Token 消耗与费用能差出数倍。

同题同提示词并发调用,有的模型几千 Token 干脆利落交卷,有的输出冗长费用翻倍还翻车。我们的每场横评都记录 Token 消耗与按官方定价折算的费用,并列展示。

案例 05

官方说法

「响应速度快,体验流畅」

实测结论

首字节快不等于出活快,完整生成耗时差很大。

只算响应头返回时间会让耗时虚低。我们按完整响应体读取完成计时,速度、Token 效率、费用按 45% / 40% / 15% 折算性能分,截断产物性能分再乘 0.6。

查看原始横评记录

以上结论出自以下横评报告,产物可在线试玩,欢迎亲自验证。

我们怎么测

同题同提示词,并发调用

同一任务、同一提示词同时发给 2-4 家模型,排除题目差异带来的不公平,优劣立现。

产物实机运行,不纸面评审

生成的网页游戏、工具直接在页面里运行试玩。白屏、资源缺失、规则错误,跑一遍全都藏不住。

六维打分 + 翻车闸门

正确性/可运行性 30%、逻辑性 25%、完整性 20%、稳定性 10%、风格 10%、效率 5%;输出截断或可运行性 ≤ 2 时综合分封顶 4.0,翻车不得高分。

费用与耗时全记录

每场横评记录完整耗时、Token 消耗与官方定价折算费用,性能分按速度 45%、Token 效率 40%、费用 15% 加权。

不信?自己跑一场

注册会员即可使用同题横评工作台:输入任务、勾选模型、并发调用,打分后一键发布为公开报告。