10月13日，在上海举办的工博会上，爱芯元智正式发布了AX8660大算力芯片产品，爱芯元智确立“现场智能”四大要素。凭借原生FP4、高带宽及多芯级联技术，解决边缘大模型部署瓶颈，提供从模组到整机的全场景算力底座，推动AI向物理世界下沉。

爱芯元智创始人兼董事长仇肖莘表示：“AI最初建立在云端训练，下一站是什么？一定是物理AI，提供‘现场智能’，即指事件发生的现场，能够准确捕捉到这个事件，同时能够根据周围的环境，发生的事件做现场的判断。根据判断去指挥各种的设备或机器执行。现场智能有四大关键要素：一、看得见；二、算得准，支持大参数模型以避免小模型幻觉，确保关键操作准确；三、反应快，毫秒级甚至更短时间内完成决策，满足严苛延时要求。智能汽车、无人机、机器人这些场景需要决策快；四、稳执行，决策链路稳定可持续，支持长时间连续操作。”

AX8660构建三大优势，支持FP4，为边缘A推理I而生

边缘设备跑大模型，卡脖子往往不是算力，而是显存、内存带宽和功耗。FP4同时把这4个压下来。支持FP4方案本质上意味着用精度换效率的极致推理方案，70B模型参数显存需求从FP16的140GB下降到FP4的35GB，单卡即可加载，推理延迟大幅度降低。

爱芯元智正式推出AX8860系列芯片（包括AX8860P和AX8860），专为物理AI打造，具备三大核心优势：

一、极致性能和精度支持：

AX8860峰值算力达到256Tops，采用混合精度设计，支持原生FP4精度的芯片。这颗芯片除了支持INT4、INT8、INT16、FP8、FP16之外，又支持原生FP4。

高内存带宽：内存带宽达到273GB/s，与国际领先GPU相当，与256T算力形成良好匹配，消除瓶颈。

二、大模型承载能力

大容量显存：单芯片支持128GB LPDDR5x内存，可支持数百亿参数模型，大幅减少推理幻觉。

多芯级联技术：支持基于AxLink接口的Chip-to-Chip互联，可实现双芯或四芯级联。四芯级联后内存池化可达512GB，足以支持千亿参数以上的大模型（如DeepSeek-V2 Flash等） 。

级联效率：多芯级联效率维持在80%左右，高于行业平均水平，确保1+1>2的算力扩展效果。

三、能效比优势：

先进制程：采用6nm工艺，功耗控制优异。

低功耗表现：满负载功耗仅为国际竞品GPU的45%-50%，典型功耗约20-30W，最大功耗约50W，适用于散热受限的边缘场景。

爱芯元智披露，AX8860P芯片 prefill阶段首Token的响应速度，还是Decode阶段持续生成速度的速度已经至少打平了国际大厂的GPU，AI推理性能均衡，可以把芯片能力发挥到极致。满负载的功耗是竞品的50%以下。

值得关注的是，A8860X工具链又进行了进一步的提升，它兼容了主流的推理框架，AX8860配套工具链支持vLLM、SGLang、PyTorch等主流框架与开发环境，并提供兼容OpenAI API的服务接口，覆盖模型量化、转换、编译和调试等流程。

推出高性能边缘AI模组，加速客户新品上市

仇肖莘介绍，爱芯元智推出了A256S核心模组，该模组集成AX8860及4颗LPDDR5内存，体积小巧，我们希望通过核心板落地，便于客户快速集成至主板。

爱芯元智还展示了元曦系列的Agent Box、推理卡和推理服务器，比如合作伙伴打造的4芯级联的PCle卡，支持1000TOPS算力及512GB内存，单卡即可运行千亿参数大模型。

我们AX8860还可以做成4卡或者8卡的一体机，就能够让许多原来只能跑在云端的推理能够在边缘侧跑起来。现场展示的内置核心模组的智能体盒子，兼具充电功能；紧凑型体积约为国际竞品一半。

爱芯元智此次展示的芯片、模组、推理卡、软件工具链与合作伙伴演示形成了系列化的产品链条，让客户看到算力如何协同算法靠近具体任务。