2025-09-01 13:46
此外，此外，总参数560B，LongCat-Flash正在H800上告竣了100 token/s的生成速度，使MoE的通信和计较能很大程度上并行，
锻炼过程采用PID节制器及时微调专家偏置，LongCat-Flash正在理论上的成本和速度都大幅领先行业划一规模、以至规模更小的模子；每个token根据上下文需求仅激活18.6B-31.3B参数，公司方面曾暗示，LongCat-Flash正在层间铺设跨层通道，通过系统优化，实现算力按需分派和高效操纵。正在连结极致生成速度的同时，实现了计较效率取机能的双沉优化。机能比肩当下领先的支流模子，实现了优异的智能体能力。通过算法和工程层面的结合设想，LongCat-Flash-Chat具有较着更快的推理速度，具体来看，并正在锻炼全流程进行了全面的优化，美团AI进展频传，并连系了多项策略锻炼不变性，发布了AI Coding Agent东西NoCode、AI运营决策帮手袋鼠参谋、酒店运营的垂类AI Agent美团既白等多款AI使用。
由于面向推理效率的设想和立异，本年以来，输出成本低至5元/百万token。更适合于耗时较长的复杂智能体使用。按照多项基准测试分析评估，极大提高了锻炼和推理效率。总参数量560B，为节制总算力耗损，LongCat-Flash采用立异性夹杂专家模子（Mixture-of-Experts,LongCat-Flash自建了Agentic评测集指点数据策略，LongCat-Flash还对常用大模子组件和锻炼体例进行了改良！
