2023年3月30日，金融信息内容服务提供商彭博新闻社发布致力于金融行业打造出大语言模型（Large Language Model，LLM）Bloomberg GPT。该模型借助彭博新闻社的大规模金融数据库，构建了一个3630亿次标签的数据，适用金融行业里的各种每日任务，在实施金融每日任务中的表现远远超过目前模型，在通用性情景中的表现与当前模型也可以一较高下。

国金证券分析师谢春生（从业：S0570519080006）觉得，把握金融数据库的国内厂商有望拷贝Bloomberg GPT的路线，完成大语言模型在金融场景下的合理创变。

核心突破取决于金融语料库

虽然Bloomberg GPT的模型主要参数处于GPT-2与GPT-3中间。但BloombergGPT的金融竖直能力远高于GPT系列产品。

分析师强调：

依据毕业论文《Bloomberg GPT: A Large Language Model for Finance》的模型详细介绍表明，Bloomberg GPT一样根据最典型的Transformer架构设计，Bloomberg GPT的模型主要参数处于GPT-2与GPT-3中间，GPT-2模型主要参数为1.5亿，GPT-3模型主要参数为1,750亿，Bloomberg GPT的模型主要参数为500亿。

官方网毕业论文《Bloomberg GPT: A Large Language Model for Finance》里的检测数据显示，Bloomberg GPT在实施金融每日任务中的表现超出已有的通用性LLM模型，在通用性情景中的表现与当前通用性LLM模型能力相差不大。

虽然Bloomberg GPT的模型主要参数相比GPT-3比较小，但分析师表明，借助彭博新闻社的大规模金融数据库，Bloomberg GPT在预训练中得到了很多高品质金融数据信息，并且对预训练数据信息进行了一系列清洗、标明，Bloomberg GPT在通用性能力与GPT-3相差不大的情形下，完成了金融竖直能力的大幅度提高。

拓展开源系统模型 竖直数据库的LLM新理念

Bloomberg GPT在开发方法上面有何特别之处？分析师觉得，在模型搭建上，Bloomberg GPT展现出了优异的自主创新，为我国金融大数据公司开发设计大模型带来了有价值的途径参照。

具体来说，主要表现在五个方面：

1）垂直领域语言模型：以往大语言模型多见根据通用性文字锻炼的通用性模型，垂直领域模型多见仅根据垂直领域数据训练竖直模型，Bloomberg GPT开辟了通用性 竖直的组合训练法，让模型兼顾实用性与专业；

2）训练样本：以往大语言模型的预训练数据信息在很大程度上取决于网页抓取数据信息，如C4、ThePile、Wikipedia等，Bloomberg建造了高质量规模性金融数据；

3）模型评定：Bloomberg对其模型展开了公共性、金融NLP基准测试以外，也对模型进行了一系列根据Bloomberg内部结构任务功能测试；

4）Token化（Tokenizer）：将练习文字Token化指模型锻炼的关键因素，Bloomberg应用Unigram模型替代greedymerge-basedsub-word模型，完成更加智能的token化变换；

5）模型搭建方式：以GPT-3、GPT-4为代表大语言模型都由大型技术专业人工智能技术精英团队开发设计，而且模型练习需要很多算率；得益于开源系统模型BLOOM的项目实战与Bloomberg在垂直领域高品质数据库的浓厚积淀，Bloomberg GPT取得成功验证了一个中档经营规模团队还可以在垂直领域的特殊数据中生产制造一样有竞争力的大语言模型。

金融GPT来日可期

分析师觉得，Bloomberg GPT未来有望用于下列三大场景：

1）Bloomberg数据库语言的形成：Bloomberg GPT能将客户自然语言理解查看转换成高效的Bloomberg数据库语言，使与金融数据库的互动更加真实；

2）文章标题的意见：Bloomberg GPT能够为Bloomberg的报道应用软件给予支持，帮助新闻记者进行新闻报道短标题的编写；

3）金融互动问答：归功于金融垂直领域知识键入，Bloomberg GPT能够更准确地说金融相关问题，比如在鉴别企业CEO的问答上，Bloomberg GPT的答案相比通用性模型更加精确。

分析师强调，做为并不是对焦人工智金融垂直领域生产商，Bloomberg为金融GPT发展提供具备实用价值的有效示范性。

把握丰富多样的金融竖直专业知识与当前AI产品布局，根据高质量金融数据和开源系统大语言模型，一样还有机会打造出专享金融情景大语言模型，完成大语言模型在金融场景下的合理落地式，让大语言模型变成最底层的AI电脑操作系统。

本文将见解来源于国金证券分析师谢春生（从业：S0570519080006）编写的汇报《从BloombergGPT看金融GPT机会》，有删减

汕头人自主研发狂飚版本传奇！武器装备装备全靠打，200%攻击速度！