📖
参数规模
评测相关
一句话概括
模型参数量的量级分类,是衡量模型能力和成本的重要维度。
详细解析
参数规模指模型参数的数量级,通常以B(Billion,十亿)为单位。常见分类包括:小模型(<1B,如Qwen-0.5B)、中模型(1-10B,如Llama-3-8B)、大模型(10-100B,如Qwen-72B)、超大模型(>100B,如Llama-3-405B)。
参数规模与模型能力、训练成本、推理成本正相关。一般而言,参数越多能力越强,但边际收益递减。MoE架构的出现让"总参数"与"激活参数"分离,使大参数量模型的推理成本可控。
选型时需在能力、成本、延迟间权衡:边缘部署选小模型,通用助手选70B级,顶级能力选闭源大模型或405B级开源模型。参数规模是选型的起点,但非唯一标准。