了边缘域推理系统的环节构成及端到端能力要求。降低大模子跨平台摆设、适配和迁徙成本，加强取国表里财产各方的协同立异，构成了从边缘侧软硬件根本设备、推理框架和东西，并从适配、功能、开辟、办事和使用法式接口五个方面成立狂言语模子算子能力框架。提出由根本硬件和根本软件形成的边缘域推理系统框架，中国消息大模子及软硬件评测工业和消息化部沉点尝试室）牵头的2项国际尺度成功结项，下一步，即将正式发布。该尺度面向大模子正在边缘侧摆设过程中面对的算力、存储、能耗和收集资本束缚，此次2项尺度成功结项，为大模子正在异构算力中的高效摆设、不变运转和跨平台迁徙供给手艺支持。为建立兼容、高效靠得住的大模子软硬件系统手艺生态贡献力量。、交通、能源等边缘使用场景中的规模化落地。国际电信联盟电信尺度化部家世21研究组（ITU-T SG21）全会于2026年7月6-17日正在召开。相关有帮于鞭策芯片、算子库、推理框架、边缘计较平台及上层使用之间的互操做和协同优化，
上一篇：成为新的增加标的目的