【环球网科技报谈 记者 林迪】近日，清程极智团队对外系统先容了以赤兔推理引擎、AI Ping评测路由平台、八卦炉智能软件栈为中枢的全链路Token处分决议。清程极智围绕大模子推理降本、国产算力生态适配、Token劳动质地与性价比三大行业关键痛点，汇集展示多项中枢本领突破与范围化落地效用，以本领革命鼓励中国AI产业从“能用”迈向好用、省钱、自主可控的新阶段。

尊龙官方网站APP下载

贵府露馅，清程极智建树于2023年12月，中枢团队来自清华大学计较机系高性能计较所，已完成天神轮、PreA、PreA+三轮融资，取得中科创星、中金本钱、考拉基金、联思创投、中关村科学城公司等多家投资机构加抓，是国内专注AI基础设施（AI Infra）的标杆企业，尽力于打造一站式全链路Token处分决议。

现时，大家 AI 产业已插足范围化落地的关键阶段，Token 成为 AI 期间的 “水电煤”，是大模子劳动与智能愚弄的中枢坐蓐成分。数据露馅，2024 岁首至 2026 年 3 月，中国 Token 日均调用量激增约1400 倍，范围突破140 万亿。陪同 Agent 智能体、多模态愚弄快速普及，Token 正从交互用量转向坐蓐用量，平直鼓励产业对推理效用、部署成本、劳动踏实性的条款抓续攀升。

在 Token 需求爆发的同期，国产算力与国产模子迎来高速发展，但二者之间的推理规范却长期依赖国外引擎，难以充分开释国产硬件性能；而 Token 劳动市集也濒临乱、贵、慢、选型难等凸起问题，供需错位、成本高企、体验不一，成为制约 AI 本领普惠化、范围化落地的中枢瓶颈。

针对大模子部署成本高、国产算力适配不及的痛点，清程极智推出赤兔推理引擎。动作皆备自主研发的国产推理引擎，赤兔防碍国外本领把持，构建“国产算力+国产引擎+国产模子”宇宙产化闭环，针对昇腾、海光、沐曦、摩尔线程等国产芯片的硬件特点深度优化，终了标量向量计较、数据抒发、硬件更正、卡间互联的全维度适配，处分国产算力“能用不好用”的可贵。

在性能与成本上，赤兔推理引擎终了突破性造就：通过软件决议在不具备FP4/FP8硬件才调的算力斥地上援手FP4/FP8低位宽浮点数目化，开云体育官网使用FP8量化可镌汰50%算力门槛，FP4量化可镌汰75%算力门槛；相同使用浮点数计较部署DeepSeek‑V3满血版模子时，仅需1台8卡910B劳动器即可替代传统4台8卡机，硬件成本从600万元降至150万元。现在，赤兔已在券商、动力央企等场景落地愚弄，某动力央企终了3500+职工宇宙产化算力踏实使用，算力效用造就近40%，相干案例荣获2025东谈主工智能愚弄大赛铜奖。

面对Token劳动市集劳动商林立、标的浩大、选型成本高的行业乱象，清程极智打造AI Ping一站式大模子劳动评测与API智能路由平台，成为国内首个集“劳动汇总、客不雅评测、智能路由”于一体的Token劳动关键。平台已接入30余家主流劳动商、600余个大模子劳动，掩饰文本、图片、视频等全场景；通过7×24小时多地域散布式监测，及时输出蔓延、详细、可靠性、价钱等中枢标的，数据真的可核验；依托智能路由算法，以和解API接口为用户自动匹配最优劳动商，终了成本镌汰超37%、详细造就超90%、蔓延镌汰超20%，让路发者“一键调用、定心省钱”，专注业务革命。

此外，清程极智还推出八卦炉智能软件栈，面向大模子训诲、微调场景提供高效Token坐蓐与智能更正才调，与赤兔推理引擎、AI Ping平台造成协同，掩饰AI“训诲‑推理‑愚弄”全经过，构建好意思满的AI基础设施生态。

对此，清程极智相干崇拜东谈主暗示，公司将抓续深耕AI基础设施范围，坚抓中枢本领自主可控，不休迭代赤兔推理引擎对国产芯片的适配才调，完善AI Ping评测与路由劳动，联动国产算力、国产模子、行业愚弄等产业链伙伴，打造高效、普惠、安全的国产AI基础设施体系，反应国度“东谈主工智能+”步履KaiYun Sports2026世界杯(中国)官方网站，以本领革命鼓励中国AI产业高质地发展。