
11月20日,记者从相关新闻发布会上获悉,我市首个Token工厂上线。工厂由吉安市新庐陵大数据有限公司牵头建设运营,中国移动吉安分公司提供全栈技术支撑,是我市践行“人工智能+”行动、推进算力网建设的重要举措。

Token工厂将算力、模型、工具封装成标准化、可计量的产品,为大模型训练和推理提供低成本算力服务。该工厂采用“政府引导、国企运营、央企支撑”模式,提供“统一调度、统一计量、统一计费”一体化服务;采用全栈自主可控的建设方案,形成“自有为主、多元互补”的供给格局;平台私有化部署在吉安当地,数据不出市、不出域,从汇聚主流大模型、智能调度、安全合规等多方面破解企业“用算难、用算贵”问题。
什么是Token工厂?
吉安Token工厂由吉安市新庐陵大数据有限公司牵头建设运营,中国移动吉安分公司提供全栈技术支撑,是我市践行“人工智能+”行动的重要举措,也是全市“算力网”建设的有益实践。通俗来讲,Token(词元)是大模型处理信息的基本单位,Token工厂以集约化、规模化方式,把底层的算力、模型、工具封装成标准化、可计量的产品,为大模型训练和推理提供高效、稳定、低成本的智能算力服务。过去企业要建机房、买设备、养团队,投入大、周期长,现在只要按实际用量付费,利好市场主体。
为什么现在要建设Token工厂?
第一,这是顺应发展大势的需要。人工智能是引领新一轮科技革命和产业变革的战略性技术,任何技术只有在广泛使用中才能彰显其价值。国家层面致力于打造全国一体化算力网,省级层面出台了算力券(数据券)支持政策,我们地市则需要让算力资源更好地匹配本地企业需求。建设Token工厂,就是进一步促进算力资源的供需对接。
第二,这是吉安产业转型的需要。推进产业数智化转型,算力支持、AI应用是绕不开的一环,但自建算力投入大、模型部署门槛高,不少企业有场景设想,但缺一个低成本的使用入口。我们建设Token工厂,就是要为吉安本土企业解决“用算难、用算贵”问题,为市场主体大胆开发创新提供便利。
第三,这是展现国企担当的需要。新庐陵公司作为市属国企,多年深耕数字领域,通过全市政务云、“城市大脑”等项目建设,积累了丰富经验,能够很好地承担Token工厂的运营服务。并且,国有企业运营,能够在前期投入大、回报周期长的情况下坚持做下去,也能够在数据安全、合规运营上守住底线,同时还能兼顾社会效益。
吉安Token工厂的结构形式
在建设模式上,我们走的是“政府引导、国企运营、央企支撑”的路子。新庐陵大数据公司作为运营主体,负责项目统筹、资金保障、市场运营和本地化服务;中国移动吉安分公司作为技术支撑方,负责平台搭建、算力供给、模型接入和安全稳定运行。双方各展所长,共同打造“统一调度、统一计量、统一计费”的一体化服务。在技术路线上,平台采用全栈自主可控的建设方案,从算力底座、模型平台到运营系统,均基于中国移动自有能力建设。
同时,“自主”不等于“封闭”,平台在自有能力之外,同样开放接入第三方主流模型和外部算力资源,形成“自有为主、多元互补”的供给格局,让企业有更多选择,也让价格更具竞争力。在使用体验上,平台私有化部署在吉安本地,数据不出市、不出域,安全可控性较高。
为便于市场主体使用,我们围绕提升性价比,重点做好四方面工作:一是模型汇聚,把国内主流大模型集中到一个入口,让企业不必再为“该选哪个模型”反复试错;二是智能调度,按任务复杂度自动匹配模型,简单的事用小模型、复杂的事用大模型,帮企业把每一分钱花在刀刃上;三是统一计量,按Token用量计费,用多少算多少,账单看得清、算得明;四是安全合规,把内容安全、权限管理、审计留痕做在平台里,让企业敢用、放心用。
来源:综合吉安市行政审批局
全媒体记者:见习记者胡慧敏