(相关资料图)
（图片来源：OpenRouter官网）
当前，月之暗面已经勾勒出下一代K3模型的发展蓝图。
杨植麟表示：“在OpenAI建成千亿级美元数据中心之前，K3会推出的。”他透露，团队正计划在K3中引入重大的架构变革，“KDA是我们最新的实验性架构，相关想法很可能会在K3中使用。”
据介绍，KDA（Kimi Delta Attention，一种线性注意力模块）在实验中表现出色，杨植麟表示它在所有评估维度上都展现出性能提升，包括长序列输入输出的强化学习场景，同时保持了线性注意力机制的效率优势。
