文心一言 （百度推出的生成式对话产品，聊天机器人）

简介

2023年2月，“文心一言”披露了首批生态合作伙伴，包括邮储银行、爱奇艺、新潮传媒、巨人网络等近300家企业宣布接入百度“文心一言”生态，涉及互联网、媒体、金融、保险、汽车、企业软件等行业。“文心一言”于2023年3月完成内测，面向公众开放。截至5月5日，“文心一言”已有650家合作伙伴接入“文心一言”。2023年8月31日，“文心一言”率先向全社会全面开放。

产品历程

2019年，“文心一言”的基础模型文心大模型在中国率先发布，是当时的中国第一家，该模型是百度自主研发的产业级知识增强大模型，全景图由模型层、工具与平台层、产品与社区层构成。自2019年3月以来，百度文心大模型家族在改进搜索结果方面发挥了重要作用，如优化搜索排名、提升多模态搜索能力。到了2021年，文心3.0已是百亿级别的大模型。演变至2023年，文心大模型已从最初的自然语言理解大模型，发展成了跨语言、跨模态、跨任务、跨行业的能力完备的大模型平台。在文心大模型3.5加持的“文心一言”中，问答、推理、代码、文生图等能力都向前迈了一步。“文心一言”背后的算力基础设施均由百度智算中心支持。在百度阳泉智算中心内部，支撑“文心一言”的机房正在全力运转、测试，全力备战“文心一言”的发布。

2023年2月7日，百度宣布其类ChatGPT项目的名字为“文心一言”，英文名ERNIE Bot，在3月份完成内测，面向公众开放。项目总指挥为百度CTO王海峰，百度集团副总裁吴甜、百度技术委员会主席吴华等任带队高管。

2023年2月9日，小度官方宣布将融合百度“文心一言”的全面能力，打造针对智能设备场景的人工智能模型「小度灵机」应用到小度全系产品。2月13日，百度宣布，“文心一言”在3月和大家正式见面。2月17日，在2023AI+工业互联网高峰论坛上，百度智能云宣布“文心一言”通过百度智能云对外提供服务，率先在内容和信息相关的行业和场景落地。百度集团执行副总裁、百度智能云事业群总裁沈抖表示，“文心一言”是基于百度智能云技术打造出来的大模型，云服务将从数字时代跃迁到智能时代。

2023年2月22日，在发给百度全员的财报信中，李彦宏重点介绍了百度在3月份推出的生成式AI产品“文心一言”，宣布计划将多项主流业务与“文心一言”整合，将帮助百度增加用户粘性。

2023年2月28日，百度官方预告称，百度计划于3月16日14时在北京总部召开新闻发布会，主题围绕“文心一言”。同日，绿地金创旗下绿地数字科技有限公司宣布成为百度“文心一言”首批生态合作伙伴。

2023年3月13日，百度官方表示，其让“文心一言”写了一封发布会的邀请函。2023年3月16日，百度在北京总部举行发布会，百度大语言模型“文心一言”（ERNIE Bot）正式推出。李彦宏展示了“文心一言”在文学创作、商业文案创作、数理推算、中文理解、多模态生成五个使用场景中的综合能力。同天，长安汽车官宣，逸达将成为中国首款搭载百度“文心一言”的量产车型，率先将百度领先的AI技术成果应用到汽车领域，为用户带来人工智能时代出行新体验。截至2023年3月16日，百度“文心一言”大模型已经迭代到3.5版本。与3.0版本相比，训练速度提升了2倍，推理速度提升了17倍，模型效果累计提升超过50%。

截至2023年3月17日，百度方面表示，排队申请百度智能云“文心一言”企业版API调用服务测试的企业用户破7.5万，与百度智能云基于“文心一言”展开合作咨询已达6080条。截至2023年3月18日11点，已有12家企业完成首批签约合作，申请百度智能云“文心一言”API调用服务测试的企业达9万。此外，“文心一言”发布首日已有超60万人申请测试。

2023年3月20日消息，文心一言云服务于3月27日上线。同天，钟薛高官博宣布，该公司正式成为百度文心一言生态合作伙伴，在未来全面体验并接入文心一言的能力。2023年3月21日，百度文库宣布接入文心一言，此举标志着中国文档服务场景首次接入“生成式AI”。

2023年3月23日，百度官微发文回应对“文心一言”文生图功能的相关反馈，“文心一言”完全是百度自研的大语言模型，文生图能力来自文心跨模态大模型ERNIE-ViLG。在大模型训练中使用的是互联网公开数据，符合行业惯例。2023年3月24日，百度官方发布声明，坚决谴责并严禁任何形式的测试账号转让、贩卖及各类利用测试账号牟利的行为，并已展开全面核查。2023年3月27日，百度“文心一言”发布后，相关云服务已收到了12万家企业的申请测试。

2023年4月，百度首席技术官王海峰做客CCTV-2《中国经济大讲堂》，阐释“文心一言”这类大语言模型的产品能力、技术原理和产业价值。4月17日，“文心一言”在百度内部全面应用在智能工作平台“如流”。4月25日，“文心一言”开启内测一个月以来，已完成4次技术版本升级，大模型推理成本降为原来的十分之一。在企业服务方面，3月底开始，百度智能云大模型平台启动首批企业内测，针对不同客户和开发者的需求，提供公有云服务、私有化部署两种服务模式。百度智能云的六大智能产品系列——包括金融行业应用、政务行业应用、智能创作平台、智能客服、企业知识管理、数字人直播平台，也将基于“文心一言”全面升级，在安全评估完成后上线。

2023年5月4日，百度董事长兼CEO李彦宏在公司内部活动讲话中表示，“文心一言”完成了4次大的技术升级，大模型推理成本已降到原来的十分之一，推理性能提升近10倍。截至5月5日，“文心一言”已有650家合作伙伴接入“文心一言”。5月28日，百度首席技术官王海峰在中关村论坛中演示了“文心一言”尚未公开上线的通过文本生成视频功能、智能总结聊天记录功能、智能编程功能。

2023年6月6日，文心大模型技术交流会第五站落地成都。“文心一言-Turbo”高性能模式正式开放邀测，在一些高频、核心场景中，“文心一言-Turbo”在满足同样客户需求的情况下，推理服务整体性能提升50倍。6月20日，百度文心大模型3.5版本已内测可用，实测得分超ChatGPT。2023年7月3日，百度“文心一言”App已在苹果App Store上架，用户可免费下载安装。

2023年8月16日，“文心一言”发布五个原生插件：百度搜索、览卷文档（基于文档的交互）、E言易图（数据洞察图表生成）、说图解画（基于图片的交互）、一镜流影（文字转视频），并发布百度如流“超级助理”。同时面向开发者正式推出AI Studio星河大模型社区、插件机制以及文心大模型“星河”共创生态计划。“文心一言”可以支持一次同时使用3个插件，不但扩展了大模型能力边界，也更适应场景需要。8月31日，“文心一言”率先向全社会全面开放。8月31日0点至24点，百度官方平台数据显示，24小时内，“文心一言”共计回复网友超3342万个问题。此外，“文心一言”APP开放下载首日，日活跃用户破100万。

主要功能

“文心一言”上线百度搜索、文档摘要、文本转视频等5个原生插件。百度搜索可以帮助用户基于文档进行快速搜索，找到需要的内容。览卷文档原名为ChatFile，能够基于文档完成摘要、问答和创作等任务。一镜流影是一个AI文字转视频的工具，能够根据主题词、语句、段落篇章等文字描述内容，一键生成视频。E言易图基于Apache Echarts，为用户提供数据洞察和图表制作，支持柱状图、折线图、饼图、雷达图、散点图、漏斗图、思维导图（树图）等多种图表类型。说图解画则是基于图片进行文字创作、回答问题的工具，能够帮助用户写文案、想故事。

百度“文心一言”定位于人工智能基座型的赋能平台，助力金融、能源、媒体、政务等千行百业的智能化变革，最终“革新生产力工具”。“文心一言”有五大能力，文学创作、商业文案创作、数理逻辑推算、中文理解、多模态生成。

特点介绍

主要技术特性

“文心一言”的关键技术包括有监督精调、人类反馈的强化学习、提示、知识增强、检索增强和对话增强。其中“文心一言”进一步强化和打磨了前三项的技术，后三项是百度已有技术优势的再创新。

“文心一言”的知识增强主要是通过两种方式，其中一种知识内化是从大规模知识和无标注数据中，基于语义单元学习，利用知识构造训练数据，将知识学习到模型参数中。另一种知识外用是引入外部多源异构知识，做知识推理、提示构建等。

“文心一言”的检索增强，来自以语义理解与语义匹配为核心技术的新一代搜索架构，可以为大模型提供时效性强、准确率高的参考信息。

在对话增强方面，“文心一言”基于对话技术和应用积累，具备记忆机制、上下文理解和对话规划能力，实现更好的对话连贯性、合理性和逻辑性。

模型框架

“文心一言”基于百度2016年开源出首个国产深度学习框架PaddlePaddle（飞桨），也是中国至今（截至2023年）唯一能与国际两大主流框架TensorFlow和PyTorch同水平的深度学习框架，拥有充分的技术自主性。

“文心一言”是新一代知识增强大语言模型，是在ERNIE及PLATO系列模型的基础上研发的。它的关键技术包括SFT（监督精调）、RLHF（从人类反馈中进行强化学习）、Prompt（提示构建）、知识增强、检索增强和对话增强。

训练数据集

“文心一言”的训练数据主要是来自于某个特定领域的专业文献。由于专业领域的文本相对有限，因此“文心一言”的训练数据量相对较少。

百度的搜索引擎抓取了非常庞大的网页库，经过精细的处理积累高质量数据。随着百度智能云的发展，百度也积累了很多行业数据。百度构建了面向中文、服务应用、富含知识的多样化训练数据，对“文心一言”进行有监督精调，使其掌握的知识更精准，更懂中文和应用场景，并建立起人类反馈、奖励模型和策略优化之间的飞轮机制。“文心一言”融合不同类型数据和知识，自动构造提示，包括实例、提纲、规范、知识点和思维链等，提供了丰富的参考信息，激发模型相关知识，生成高质量结果。

参数规模

“文心一言”运行在千亿参数规模的文心大模型3.5版本上。发布初期参数已高达2600亿，能够支持文生图、代码理解、生成Excel等功能，覆盖了办公、学习、情感、绘画、娱乐等应用场景。

性能指标

《大语言模型综合性能评估报告》显示，“文心一言”从生成质量、使用与性能、安全与合规三大维度进行考察，包括上下文理解、中文语义理解、误导信息识别、逻辑推理、内容安全性、隐私保护等20项指标的综合评分位居中国首位。“文心一言”在语义理解能力上，得益于在知识增强、检索增强和对话增强等方面的技术创新，具有强大的时效性和对内容安全的细致把握。 在生成质量方面，“文心一言”在语义理解、输出表达、适应泛化的综合评测中得分率为76.98%，领先于包括ChatGPT在内的其他大语言模型。在部分中文语义理解方面，“文心一言”以92%的得分率排名榜首。在安全合规方面，“文心一言”在内容安全性、偏见和公平性、隐私保护等方面的综合评测中得分率为78.18%。

科技简介

百度在搜索、人工智能领域研发20余年，基于搜索引擎，演化出语音、图像、知识图谱、自然语言处理等人工智能技术。在人工智能的四层架构中，百度的布局包括底层芯片、飞桨深度学习框架、文心大模型以及最上层的搜索等应用，“文心一言”技术位于模型层。

飞桨框架

飞桨拥有动静统一的开发范式，以及自适应分布式架构，可实现大模型的灵活开发和高效训练。在推理部署方面，飞桨支持大模型高效推理，提供计算融合、软硬协同的稀疏量化、模型压缩等服务化部署能力。

文心大模型

NLP大模型

面向语言理解、语言生成等NLP场景，具备超强语言理解能力以及对话生成、文学创作等能力。通过持续学习技术，不断吸收海量文本数据中词汇、结构、语义等方面的新知识，实现模型效果不断进化。

CV大模型

基于领先的视觉技术，利用海量的图像、视频等数据，为企业和开发者提供强大的视觉基础模型，以及一整套视觉任务定制与应用能力。

跨模态大模型

基于知识增强的跨模态语义理解关键技术，可实现跨模态检索、图文生成、图片文档的信息抽取等应用的快速搭建，落实产业智能化转型的AI助力。

生物计算大模型

融合自监督和多任务学习，将生物领域研究对象的特性融入模型。构建面向化合物分子、蛋白分子的生物计算领域预训练模型，赋能生物医药行业。

行业大模型

文心大模型与各行业企业联手，在通用大模型的基础上学习行业特色数据与知识，建设行业AI基础设施。

相关合作

截至5月5日，“文心一言”目前已有650家合作伙伴接入“文心一言”。包括上海报业集团旗下澎湃新闻、重庆日报报业集团旗下上游新闻、河南广播电视台大象新闻、每日经济新闻等多家媒体平台。

合作信息

应用场景

“文心一言”可以应用于智能客服领域，为用户提供更加智能化的服务和支持。它可以根据用户的问题和需求，提供准确、个性化的回答和建议，帮助用户更好地解决问题和获取信息。“文心一言”可以应用于内容创作领域，如写作、翻译等。它可以根据用户的需求和意图，提供个性化的内容和建议，帮助用户更好地完成创作任务。

“文心一言”在2023年8月31日面向全社会开放服务首日回答了网友3342万个问题，成为登顶Apple Store免费应用榜首的首个中文AI原生应用。其在工作、生活、学习、陪伴四大场景为用户提供帮助。百度将开放一批经过全新重构的AI原生应用，让广大用户充分体验生成式AI的理解、生成、逻辑、记忆四大核心能力。

相关事件

百度公开发文回应有关“文心一言”生图功能的争议，其称“文心一言”完全是百度自研的大语言模型，文生图能力来自文心跨模态大模型ERNIE-ViLG。在大模型训练中，使用的是全球互联网公开数据。“文心一言”在大家的使用过程中不断学习和成长。

社会评价

在人工智能技术“芯片-框架-模型-应用”四层结构中，百度是全球为数不多在这四层进行全栈布局的公司，从昆仑芯，到飞桨深度学习框架，再到文心预训练大模型，到百度搜索等应用，各个层面都有自研技术。（新京报评）