天猫

摩尔线程发布技术白皮书：破解长上下文推理成本瓶颈_我的网站

疑犯追踪

A | 视频加载中...近期，演员王某、灯光师孙某强等多名中国公民被骗至泰缅边境后失联、被困，引发社会高度关注。公安部部署相关地方公安机关全面梳理摸排境外失联、被困人员情况，积极协调驻外使领馆等相关部门，全力开展人员解救和案件侦查调查。经工作，王某、孙某强、杨某琪、吴某琪、林某玲、许某宁等人已获救脱困、安全回国。

凤凰网科技讯 8月24日，摩尔线程正式发布《MTT S5000 Prefill-as-a-Service技术白皮书》，基于旗舰级AI训推一体智算卡MTT S5000，提出Prefill-Decode异构解耦方案，面向AI Agent、代码生成、超长文档分析等长上下文推理场景，旨在破解推理成本瓶颈。公安部公布王星案详情经查，2024年12月29日，王某在微信群中看到一则赴泰国曼谷拍摄影片的通告，遂根据通告内容添加副导演“颜十六”微信，沟通赴泰国曼谷拍戏事宜。

白皮书指出，大模型输入上下文规模进入百K至1M级别后，Prefill（预填充，计算密集型）与Decode（解码，访存密集型）在同一资源池混跑造成结构性算力错配。2025年1月3日凌晨，王某抵达泰国曼谷机场后，乘坐“颜十六”安排的车辆经泰缅边境被送入缅甸妙瓦底“阿波罗”园区，随后又被贩卖至“环亚”“凯旋”等多个电诈园区。解决方案是将二者彻底解耦，分别运行在各自最契合的硬件资源池上，实现单位Token基础设施成本大幅下降。MTT S5000硬件特性与Prefill任务高度契合：提供高稠密算力压缩首字时延，原生支持FP8全精度计算，并全面兼容CUDA及PyTorch、vLLM等主流推理框架。挖出跨境人口贩运集团，已抓获12人！公安机关在全力查找解救失联、被困人员的同时，同步推进案件侦查调查工作，循线深挖出一个藏匿于缅甸妙瓦底、专门从事跨境人口贩运的犯罪集团。2024年12月以来，该犯罪集团在大量微信群中发布招聘演员、模特、剧组工作人员等虚假信息，通过为有意向人员购买机票、预订酒店、安排车辆等方式，将其诱骗至泰国境内后，再转运至缅甸妙瓦底，贩卖至各电诈园区。实测数据显示，在64K上下文场景下，单机Prefill吞吐达95,920 tok/s，按智谱API定价测算，满负载下单机月收入可达64.6万元；400K极限长序列场景TPM达2.6MTokens，吞吐平稳可控。摩尔线程表示，大模型产业竞争下半场本质上是推理效率与商业回报的较量，该方案旨在帮助企业在万亿参数与Agent时代降低总拥有成本。完整白皮书已在官网发布。近期网上的多起相关人员境外失联、被困案件均与该犯罪集团有关。

。目前，中泰警方已联手抓获12名境内外犯罪嫌疑人，相关案件侦办及其他犯罪嫌疑人缉捕工作正在进行中。公安部全力解救在泰缅边境失联被困中国公民针对近期境外失联、被困人员家属发布的求助信息，公安部已部署各地公安机关全面摸排梳理线索，及时开展侦查调查工作，全力协调有关部门尽快查找解救失联、被困人员。公安机关将继续保持对跨境电信网络诈骗犯罪的严打高压态势，紧盯不放、穷追不舍，深入推进专项打击行动，加大国际执法合作力度，全力捣毁境外电诈窝点，全力缉捕犯罪集团“金主”、骨干，全力协调解救被困人员。公安机关提醒，境外诈骗集团以“高薪工作、包吃包住、报销机票、专人接送”为诱饵，或以商务考察、免费旅游等名义，将境内人员诱骗至境外非法拘禁，从事电信网络诈骗等违法犯罪活动。