科大讯飞赵乾谈金融大模型：应用才是硬道理 下半年发布证券行业智能助手

大模型技术的生命力在于应用。

(资料图)

2023年是属于大模型的一年，在这一年里，中国大模型的发展速度和规模都超出了预期。《中国人工智能大模型地图研究报告》显示，据不完全统计，截至6月，我国10亿级参数规模以上大模型已发布79个。除了10亿级参数规模以上的大模型外，还有许多更小、更轻量级的模型也在不断涌现，为各个领域带来了更多的应用可能性。

国家网信办联合发改委等七部委公布的《生成式人工智能服务管理暂行办法》将于今年8月15日起施行。《办法》明确指出，鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。

可以预见，大模型技术将带来各行各业的智慧涌现。

金融行业需要什么样的大模型？

“通用大模型已然掀起了一阵巨浪，但在行业真正应用，更需要垂直领域的专业模型。” 科大讯飞研究院副院长、金融科技事业部CTO 赵乾在第七届金融科技与金融安全峰会上表示。金融业需要的是“能落地、可应用”的行业大模型，是能革新金融业务场景的大模型。

此前科大讯飞就曾公开表示，判断一个大模型系统到底好不好，首先要看它是不是能解决刚需、是不是真的有用，而不是一个简单的单点测试。

从技术攻关到落地应用，绝不是简单的拿来主义，要考虑三个关键因素：技术可达性、经济实用性和应用边界性。技术厂商要考虑的，不仅是技术的攻关突破，更是技术的可用性、实用性和确定性，要把大模型能力加持下的人机对话、语音合成、语音识别、机器翻译、虚拟形象等技术实现系统性组合与创新，将优势技术有机联合，形成“护城河”效应。

据赵乾介绍，科大讯飞坚持应用是硬道理。在金融领域，科大讯飞聚焦金融客服场景，发布了首个行业大模型产品——讯飞星火智能客服，发布会上现场真机演示，“就是让大家看到，大模型是可以在真实的业务场景中应用的”。

但，“能落地，可应用”是一个没有上限的标准。

用讯飞星火智能客服来解释“能落地、可应用”或许十分贴切。讯飞星火智能客服产品并不是通用大模型和行业语料库的简单叠加，而是真正切入细分场景，锚定场景需求。以商业保险推荐场景为例，面对用户的语音提问，讯飞星火智能客服能迅速理解客户的购买诉求，并同步展示相关的业务页面，直接推荐多款保险产品，供客户选择，切实体现了生成式AI的应用优势。

据了解，讯飞星火智能客服产品在意图理解能力、专业知识应用能力、对话设计与交互能力、个性化表达能力四个层面取得了全面提升，在保障服务信息安全可控基础上，可以帮助金融机构提高客户服务效率和质量，提升用户体验。未来，讯飞星火智能客服还会进行迭代升级，探索与金融场景更贴近、更有价值的技术服务。

金融大模型能为行业带来什么？

如果说数据、算力、算法是推动金融大模型发展的三驾马车，那场景就是核心驱动力和价值释放地。

金融行业属于信息密集型行业，具有天然数字化的优势，是大模型技术的最佳应用领域之一。就应用场景来说，客户服务、营销、风控、研发、内控合规等业务场景都能与大模型产生化学反应。

赵乾以讯飞星火认知大模型举例，基于讯飞星火的七大特性，在金融行业，将革新营销获客、风险防控、智慧运营、客户服务等场景。基于泛领域开放式知识问题能力，大模型和行业知识库及外部APP对接，可以解决新知识难更新、事实类问答容易“张冠李戴”等问题；通过情景式思维链逻辑推理，可为用户推荐个性化产品，赋能营销获客；通过要素抽取解析和数学能力，可辅助各类业务风险防控；基于多层次跨语种语言理解、多风格多任务长文本生成、多模态输入和表达等能力，可帮助金融机构为客户提供有温度、更便捷的服务体验，提升客户满意度。

金融机构数字化转型是当前金融业发展的重要趋势之一，也是实现金融服务普惠化、提升金融服务效率和降低金融风险的必经之路。然而，由于不同金融机构在技术、人才、资金等方面的差异，数字化转型进程存在一定的不平衡性。

目前来看，大模型在理解、推理和内容生成上有了质的突破，开始产生智慧涌现，而具体应用才不到一年时间，随着需求爆发和技术发展二者之间的“飞轮效应”，后续的应用潜力将无比巨大。从更宏观的角度来看，大模型的出现，可能会把金融机构的数字化转型进程拉到同一个起跑线，填补金融机构间的“转型鸿沟”，这对中小金融机构来讲，是一个机遇。

如何率先实现落地应用？

谈及目前大模型的不足之处，赵乾解释称，“它有可能一本正经胡说八道，如果不和行业专业数据库或者一些专业应用插件进行对接，可能会提供过时或者不专业的答案。”解决大模型在行业中的应用问题，要把它的语言理解能力和推理概括表达能力，和优秀的APP、行业知识库结合起来。科大讯飞已经推出一些技术方案，和行业知识大模型训练中自监督、有监督过程进行融合，结合类搜索技术，让大模型在行业应用中可以扬长避短。

在技术侧，科大讯飞自建了业界一流的AI数据中心，为大模型训练平台建设奠定了很好的硬件基石；在工程技术方面实现了百亿参数大模型推理效率的近千倍加速，为未来更大更多认知智能大模型技术经济实惠规模化应用提供了可能。截至目前，讯飞开放平台已开放587项AI能力及场景解决方案，聚集近500万开发者团队。

在服务侧，科大讯飞一直坚持金融为本，技术赋能，用AI能力助力金融机构在多业务场景实现数智化转型，提供更好的金融服务。在探索金融大模型行业落地的过程上，科大讯飞仍旧坚持“技术＋场景”双轮驱动的战略，助力金融服务创新升级。据了解，目前，基于讯飞星火认知大模型的底层能力，科大讯飞正积极开发证券行业智能助手、星火语音客服、星火智能数据分析系统等应用，下半年将择机发布。

在行业侧，由于金融行业的特殊性，建设行业大模型，不仅需要考虑数据的质量，还要顾全数据安全。科大讯飞在多年认知智能系统研发推广中，积累了大量级的行业语料，为行业大模型搭建了稳固的底座。但一花独放不是春，百花齐放春满园。长期来看，需要构建行业生态，集合大模型厂商、金融机构等产学研多方优秀伙伴力量，共同答好这道属于行业的答卷。据此前公开报道，科大讯飞已经与华为、中科曙光、寒武纪等国内优秀硬件企业、头部银行、保险机构等深度合作，共同推动行业大模型的建设。

大模型是人工智能发展史上的一个重要里程碑。尽管目前尚未达到通用人工智能（AGI）的水平，但已经让我们看到AGI的曙光。就像科大讯飞董事长刘庆峰在科大讯飞24周年庆上讲的那样，通用人工智能的全新时代将是一个伟大的历史进程，绝不是一蹴而就的，科大讯飞既有短期攻关的雄心，更有长期主义的恒心。

科大讯飞积极布局大模型在各个领域的应用，不是贪图风口上的一时之热。事实上，在去年12月，科大讯飞就正式启动了“1+N”认知大模型专项攻关，其中“1”是指通用认知智能大模型，“N”则是大模型在金融、教育、办公、医疗等各个领域的落地。

就目前讯飞星火在各领域的表现来看，星火燎原之梦的实现，不会太远。至于如何率先兑换技术红利，虽然目前大模型还有一系列的问题需要去解决，但是行业可以先从一些稳定的高价值的场景切入应用，循序渐进，在应用过程中，共同发现问题，解决问题。

（文章来源：21世纪经济报道）