它采用了基于 Transformer 的稀疏专家混合模型（MoE），原生支持文本、视觉和音频等多模态输入，这种架构的核心优势在于：模型会根据每个输入 token 的内容，动态选择激活部分参数，从而在计算资源消耗、服务成本与总容量之间实现平衡。