RWKV
开源非 Transformer 架构大模型代表,由 RWKV 开源社区维护
美国-加利福尼亚厂商梯队待完善
📖 这家公司做什么
1. 厂商本体介绍
RWKV 是一个开源非 Transformer 架构大模型项目,由 BlinkDL(Bo Peng)发起并维护。项目以"并行训练 + 顺序推理"的线性 RNN 架构著称,是非 Transformer 大模型路线的核心代表之一。
2. 厂商模型特点
以 RWKV 系列模型为代表(RWKV-4/5/6/7)。模型特点:① 线性注意力 RNN 架构,推理显存恒定;② 训练并行化如 Transformer;③ 开源权重 + 商用许可;④ 长上下文友好。
3. 厂商AI发展
RWKV 是 2023-2024 年非 Transformer 架构探索的代表项目。社区驱动迭代,从 RWKV-4 演进至 RWKV-7;2025 年持续优化架构与多模态扩展。定位为开源非 Transformer 大模型社区代表。
RWKV 是一个开源非 Transformer 架构大模型项目,由 BlinkDL(Bo Peng)发起并维护。项目以"并行训练 + 顺序推理"的线性 RNN 架构著称,是非 Transformer 大模型路线的核心代表之一。
2. 厂商模型特点
以 RWKV 系列模型为代表(RWKV-4/5/6/7)。模型特点:① 线性注意力 RNN 架构,推理显存恒定;② 训练并行化如 Transformer;③ 开源权重 + 商用许可;④ 长上下文友好。
3. 厂商AI发展
RWKV 是 2023-2024 年非 Transformer 架构探索的代表项目。社区驱动迭代,从 RWKV-4 演进至 RWKV-7;2025 年持续优化架构与多模态扩展。定位为开源非 Transformer 大模型社区代表。
✨ 热门旗舰模型
RWKV 旗下代表模型
社区真实评价
登录后才能发表评价,与极客们一起交流哦~