工作原理和成本
Posted: Tue Apr 22, 2025 8:09 am
GPT-4o 的微调流程现已面向所有付费使用层级的开发者开放。OpenAI 提供了具体的定价细节:“GPT-4oo 微调训练费用为每百万个代币 25 美元,推理费用为每百万个输入代币 3.75 美元,每百万个输出代币 15 美元。”
训练会教会模型您的具体数据和要求,以阐明这些术语。推理则是使用训练好的模型来生成响应或执行任务。输入标记是您输入到模型中的单词或单词片段,而输出标记是模型生成的响应。
迷你版 GPT-4o mini 也在促销期间提供,每天提供 200 万个免费训练代币,更适合小型项目或企业使用。
虽然 OpenAI 的声明标志着一项重大进展,但值得注意的是,微调功 中国电报数据 能并非 GPT-4o 独有。其他知名语言模型也提供微调选项。例如,谷歌的 BERT(Transformers 的双向编码器表示)早已支持微调,尤其适用于自然语言处理任务。热门 AI 社区和模型中心Hugging Face提供了用于微调多种模型的工具。Meta 开源的 LLaMA 模型也支持微调。
早期采用者
虽然这项技术的长期影响仍在显现,但早期采用者报告的成果令人鼓舞。Cosine是一家开发人工智能软件工程助手 Genie 的公司,该公司声称在衡量软件工程能力的 SWE-bench 基准测试中取得了最高分。
OpenAI 的声明凸显了 Cosine 的成就:“凭借经过微调的 GPT-4o 模型,Genie 在上周二发布的新 SWE-bench Verified 基准测试中取得了 43.8% 的 SOTA 得分。” SOTA 代表“state of the art”,表示在特定任务上取得的最高性能。
同样,人工智能解决方案提供商Distyl在 BIRD-SQL 基准测试中名列第一,该基准测试评估文本到 SQL 的转换能力。OpenAI 表示:“Distyl 经过微调的 GPT-4oo 在排行榜上的执行准确率达到了 71.83%,并在查询重构、意图分类、思路链和自我修正等任务中表现出色,尤其是在 SQL 生成方面性能卓越。”
训练会教会模型您的具体数据和要求,以阐明这些术语。推理则是使用训练好的模型来生成响应或执行任务。输入标记是您输入到模型中的单词或单词片段,而输出标记是模型生成的响应。
迷你版 GPT-4o mini 也在促销期间提供,每天提供 200 万个免费训练代币,更适合小型项目或企业使用。
虽然 OpenAI 的声明标志着一项重大进展,但值得注意的是,微调功 中国电报数据 能并非 GPT-4o 独有。其他知名语言模型也提供微调选项。例如,谷歌的 BERT(Transformers 的双向编码器表示)早已支持微调,尤其适用于自然语言处理任务。热门 AI 社区和模型中心Hugging Face提供了用于微调多种模型的工具。Meta 开源的 LLaMA 模型也支持微调。
早期采用者
虽然这项技术的长期影响仍在显现,但早期采用者报告的成果令人鼓舞。Cosine是一家开发人工智能软件工程助手 Genie 的公司,该公司声称在衡量软件工程能力的 SWE-bench 基准测试中取得了最高分。
OpenAI 的声明凸显了 Cosine 的成就:“凭借经过微调的 GPT-4o 模型,Genie 在上周二发布的新 SWE-bench Verified 基准测试中取得了 43.8% 的 SOTA 得分。” SOTA 代表“state of the art”,表示在特定任务上取得的最高性能。
同样,人工智能解决方案提供商Distyl在 BIRD-SQL 基准测试中名列第一,该基准测试评估文本到 SQL 的转换能力。OpenAI 表示:“Distyl 经过微调的 GPT-4oo 在排行榜上的执行准确率达到了 71.83%,并在查询重构、意图分类、思路链和自我修正等任务中表现出色,尤其是在 SQL 生成方面性能卓越。”