👁 78 次阅读
500美元微调开源模型,性能碾压GPT-5.5和Claude Opus 4.8?
今天 HackerNews 上有一篇引发热议的文章——一家名为 Fermisense 的公司用 仅500美元 对 9B 参数的开源模型做了 GRPO 强化学习微调,结果在商品目录审核任务上,这个微调后的模型竟然击败了所有前沿闭源模型,包括 GPT-5.5、Claude Opus 4.8 等一线大模型。
惊人的性价比差距
Fermisense 公布的数据令人震撼:在同一个商品目录审核工作流中,使用相同的工具、图片和评分标准,他们的 GRPO 微调 9B 开源模型在每个列表的审核成本为 0.50美元/千条,而最强的前沿模型组合成本为 34美元/千条——差距高达 68倍。如果与最贵的前沿配置相比,成本差距更是达到 340倍。
更关键的是,微调模型不仅更便宜,性能也更好。微调后的 9B 模型达到了最高分的 87.5%,而最强的前沿模型配置只有 76.9%,相对提升了 13.5%。未经微调的原始 9B 模型得分仅为 64.2%。
核心方法论:任务专精化
Fermisense 的方法论非常清晰:先用前沿模型做原型验证,收集大量的输入输出数据(包括人工修正记录),然后基于这些数据用 GRPO(Group Relative Policy Optimization)对开源模型进行微调,让模型学会在特定工作流中做出正确决策。
这种做法有几个关键优势:
- 数据飞轮:每次调用前沿模型都会产生训练数据,数据越多模型越强
- 成本断崖:微调后的专精模型运行成本仅为前沿 API 的几十分之一
- 持续迭代:新数据不断输入,模型持续优化
企业AI落地的启示
这个案例对正在探索 AI 落地的企业有重要启示。根据 Ramp 平台的数据,AI 投入前25%的企业在2022年11月至2025年12月间的收入增长是零 AI 投入企业的 8倍以上。但成功的关键不在于使用最贵的模型,而在于重新设计工作流、建立评估体系、让模型专精于企业特定的业务场景。
文章提到,Bridgewater 的微调模型比最强前沿模型少犯约30%的错误,Harvey 的法律 AI 在自建评分标准上超越了 GPT-5.5 和 Claude Opus 4.8,Intercom 的 Fin Apex 以更低成本解决了更多客服问题。这些案例共同的模式是:开源模型 + 专有任务数据 + 强化学习微调。
总结
500美元微调一个开源模型,就能在特定任务上超越 OpenAI 和 Anthropic 的最强模型——这不是天方夜谭,而是 Fermisense 已经验证的事实。这标志着 AI 行业正在从”模型军备竞赛”转向”模型专精化运营”的新阶段。对于预算有限的企业来说,这可能是最值得尝试的 AI 落地路径。
来源:Fermisense – When Machines Take the Wheel (HackerNews 220pts)