开源逆袭:TAO 方法微调 Llama 模型,FinanceBench 跑分超 GPT-4o

2025-04-11 15:53:11 作者:孔雀手游网

本站 3 月 27 日消息,科技媒体 NeoWin 昨日(3 月 26 日)发布博文,报道称数据智能公司 Databricks 发布新型大语言模型微调方法 TAO(Test-time Adaptive Optimization),通过无标注数据和强化学习技术,在显著降低企业成本的同时提升模型性能。

开源逆袭:TAO 方法微调 Llama 模型,FinanceBench 跑分超 GPT-4o

开源逆袭:TAO 方法微调 Llama 模型,FinanceBench 跑分超 GPT-4o

开源逆袭:TAO 方法微调 Llama 模型,FinanceBench 跑分超 GPT-4o

测试显示,在金融文档问答和 SQL 生成任务中,通过 TAO 微调后的 Llama 3.3 70B 模型,表现甚至超越传统标注微调方法,逼近 OpenAI 顶级闭源模型。

开源逆袭:TAO 方法微调 Llama 模型,FinanceBench 跑分超 GPT-4o

开源逆袭:TAO 方法微调 Llama 模型,FinanceBench 跑分超 GPT-4o

TAO 方法利用测试时计算(test-time compute)自动探索任务可能性,结合强化学习优化模型,省去人工标注成本。在三大企业基准测试中,TAO 微调的 Llama 模型表现亮眼:

小编推荐

排行榜