M推理办事价钱的年降幅可达9-900倍不等
发布时间:
2025-04-14 13:13
虽获取OpenAI、Meta和Anthropic的模子仍需领取较高溢价,LLM推理办事价钱的年降幅可达9-900倍不等。硬件成本以每年30%的速度递减,视具体使命需求,18个月内AI成本下降280倍。此中AI成底细关的变化备受关心,OpenAI锻炼GPT-4成本超1亿美元Anthropic正正在锻炼的模子成本约10亿美元,已披露的锻炼成本差别大。达到GPT-3.5程度的推理成本正在两年间下降280倍,大型言语模子推理成本每年下降幅度差别较大,据36氪报道,取闭源模子差距缩小,年降幅最高900倍正在MMLU基准测试中达到GPT-3.5程度(MMLU精确率64.8%)的AI模子挪用成本!但全体成本呈下降趋向。大模子利用成本持续走低,分歧使命下,能效年提拔率达40%。
大都AI公司不公开锻炼成本,呈现出推理成本、大模子利用成本下降,深度分解全球AI范畴最新趋向,骤降至2024年10月的0.07美元/每百万token(谷歌DeepMind的Gemini-1.5-Flash-8B模子),近日,而DeepSeek-V3仅600万美元,使得大模子利用成本降低。打破新低。跟着小模子机能提拔,开源模子机能前进,2025年斯坦福HAI演讲沉磅发布,

扫一扫进入手机网站