证券AI进入规模化应用,国泰海通为何先建一座“算力工厂”?

Alter聊科技 原创

2026-07-27 09:53

对客服务、智能投研、智能投顾、业务运营、风险识别……大模型在证券行业的应用,几乎渗透到了每一个业务环节。

早期的探索大多是单一场景。

或是把内部知识库接入大模型,让AI回答员工问题;或是把几十页研报交给AI,让它提炼关键信息;或是在客服系统中加入智能问答功能,提高常见问题的处理效率。

打通的场景越来越多,渐渐从量变走向质变。

AI的服务对象变成了数千万客户、上万名内部员工,进入到投顾、投研、投行、风控、研发运维等核心环节,从效率提升走向价值转化。面对算力的挑战,问题不再是“能不能上线部署一个模型”,而是大量用户同时发起请求时,系统能不能及时响应?财富、投行、风控等多个部门同时调用模型时,算力如何分配?

2026世界人工智能大会前夕,国泰海通联合华为打造的金融行业首个自主创新AI液冷超节点正式上线,实现了大规模的算力协同,补齐了AI在证券行业规模化落地的一块重要拼图。

01 从“部署大模型”到“建设AI生态系统”

国泰海通的AI布局并非始于大模型热潮。

早在2017年,国泰海通就前瞻提出了“AI in ALL”的人工智能应用策略,并在2024年创新提出“ALL in AI”的全新策略,坚定长期、持续、深入推进AI在各领域场景应用和赋能。

2025年4月,国泰海通行业首家获监管同意在APP上线大模型面客服务,并在同年7月发布了行业首个全AI智能App“灵犀”。

截止到目前,国泰海通大模型的典型应用已经覆盖财富管理、机构服务、投资银行、合规风控、数字职场、研发运维等多个领域,实现了全业务、全链条、全岗位的全场景创新实践。

原因并不难解释。走在行业最前沿的国泰海通,在人工智能建设的过程中落地了三大举措。

一是构筑行业首创的“1+N”大模型应用架构。以1个通用大模型“君弘灵犀大模型”为基础,辅以N个场景模型,构建了1+N的模型矩阵,实现开闭源模型、大小模型的融合应用、能力协同和灵活组合,并通过模型能力原子化、组件化复用,落地到了财富管理、机构交易、投资银行、合规风控、数字职场、研发运维在内的260多个核心场景。

二是打造“自主创新+产业协同”的算力创新合作模式。随着AI场景的规模化落地应用,智能面客、智能投研投顾、智能风控、智能办公协作、智能科技等核心业务场景的算力需求大规模爆发,国泰海通通过异构算力融合、软硬件协同适配、应用生态搭建等,以及自研的算力动态调度能力,赋能上层“1+N”大模型应用架构能级提升。

三是强化AI-Ready数据平台建设、全模态数据治理与可信可控机制搭建。在“ALL in AI”策略的牵引下,国泰海通围绕AI-Ready数据平台构建金融AI可信可控基础设施,面向金融AI落地中“不敢用、不好用、不可控”的核心挑战,形成了从绿色算力、可信数据、模型矩阵、治理闭环到智能体应用的端到端技术体系,支撑金融AI规模化、生态化落地。

不难发现,国泰海通没有止步于“部署大模型”,通过深化和华为等头部企业的产业协同,对客服务与对内赋能双轮驱动,打造了一套可调度、可复用、可治理、可规模化落地的“AI生态系统”。

02 用超节点集群建一座“算力工厂”

譬如在算力层面与华为的深度技术协同。

传统的风冷AI服务器面临着算力密度不足、散热瓶颈突出、能耗偏高、通信延迟高等痛点,制约了AI应用的深度落地。基于昇腾A3液冷超节点架构,国泰海通联合华为实现了三大行业突破。

第一,打破算力密度与散热瓶颈。

有别于传统的算力集群,超节点通过统一内存编址、超大带宽、超低时延等能力,实现了计算卡一体化协同调度,在逻辑上像一台计算机一样运行,打破了传统单服务器的互联带宽桎梏,资源利用率大幅提升。

由于采用了全液冷散热架构,散热效率比传统风冷提升了40%以上,显著降低数据中心的PUE和运维成本,避免了硬件高温降频引发的业务中断风险,可满足核心业务7×24小时零宕机的严苛标准。

第二,承接不断增长的推理需求。

证券业务对AI实时性、稳定性、并发能力要求极高,不仅仅是对客场景,对内场景应用中的AI Coding、投顾问答、智能风控预警、研报解读、智能问数等,也普遍存在大模型推理序列长、算力开销大的特点。

具备大算力吞吐量、低推理时延、高业务并发三大核心能力的超节点,能够从容承接长序列推理任务,大幅压缩长文本分析、深度风险研判的处理时长;同时可支撑海量业务请求的瞬时并发调度,响应速度显著提升。

第三,把数据和模型留在可控环境。

证券行业的特殊性在于,对数据安全的需求极为敏感,客户资产、交易行为、沟通记录、投行材料和内部业务数据,不能像互联网信息一样随意流转,需要通过私有化部署,杜绝敏感数据离开内部系统的风险。

超节点集群实现了“鱼和熊掌的兼得”:既能通过私有化部署将敏感数据和模型留在机构内部,保障数据安全与业务可控,还能统一调度能力支撑大模型规模化训练与推理,避免安全要求成为AI应用效率的掣肘。

打个比方的话,国泰海通的液冷超节点像是一座“算力工厂”:财富、投行、风控等业务不用各建算力,可以共享统一的“生产线”,根据任务优先级和实时需求调配算力,为AI规模化落地持续提供稳定产能。

03 让算力在业务一线释放新生产力

业务一线是检验价值能否兑现的晴雨表。

无论是算力、模型,还是数据、智能体,最终都要回到真实业务中,转化为客户体验、员工效率和风险管理能力。证券行业拥抱AI的价值在哪里呢?我们在WAIC的国泰海通展台,找到了问题的答案。

在客户服务上,让“全能AI投资助手”人人可用。

普通投资者需要专业的市场解读、资产分析和风险提示,但人工投顾的时间和精力有限,无法服务数千万的客户。

国泰海通交出的答卷是灵犀APP,全面覆盖选股、盯盘、交易、智能问答、持仓陪伴等五大核心场景,并通过“灵犀App+智能体+灵犀Skills”多层次数智化服务平台,完成了从“AI伴随服务”向“全能AI投资助手”的越级。截止到2026年6月末,灵犀智能化服务8300万人次。

在内部提效上,用AI重构了数字化客户服务。

投研、投顾、投行、风控等岗位,工作人员日常需要阅读大量材料进行分析判断,占据了大量的时间和精力。

国泰海通将大模型和业务流程深度融合,实现了工作范式的重塑:在智能投研领域,构筑了覆盖“搜、读、思、写、审”五大关键环节的投研新范式,研报解读效率从小时级缩到了分钟级;在智能投顾领域,基于客户全生命周期服务链路,主动识别服务交互中的关键信息与潜在线索,当前已100%覆盖分支机构,问题解决率均超过90%;在智能科技领域,依托自研的代码助手和智能运维体系,效率提升超过30%。

在风险防控上,AI让风险识别走向过程管控。

过去风险防控主要依赖人工抽查和事后复盘,随着客户沟通、智能服务的持续升级,仅靠人工已经很难做到实时覆盖。

围绕安全合规要求,国泰海通构建了一整套“可信内容可靠输出”的体系,将AI-Ready数据平台、可信数据集、大小模型协同、Agent工程、实时接口和内容合规审查机制结合起来,形成了从输入拦截、生成管控和输出审核的全流程防线,让风险识别发生在内容生成、业务沟通和服务过程中,而非等问题发生后再进行追溯、补救。

按照国泰海通的计划,将持续夯实大模型、平台工具、高质量数据集和可信AI体系建设,推进自主创新算力与模型适配、性能优化及生态协同,丰富智能体应用,深挖金融核心业务场景,推动金融AI规模化、生态化落地,加快技术成果向业务价值转化。

04 写在最后

两年前,证券行业对AI的讨论主要集中在模型和应用层:谁率先推出大模型,谁把AI接入客户端。

国泰海通让我们看到了证券AI落地的升维:不再满足于上线几个模型、打造几个场景,开始为规模化应用建设统一的AI生态系统,加速形成持续创新、不断复用的新质生产力。

特别声明
本文为正观号作者或机构在正观新闻上传并发布,仅代表该作者或机构观点,不代表正观新闻的观点和立场,正观新闻仅提供信息发布平台。
最新评论
打开APP查看更多精彩评论

微信扫一扫
在手机上浏览