2023年4月,阿里云发布通义千问(Qwen)——阿里的大语言模型。这是继百度文心一言之后,国内又一个大厂正式发布的大模型产品。国产大模型竞赛进入白热化阶段。本文从技术角度分析通义千问的特点和意义。

一、通义千问的发布
2023年4月11日,阿里云正式发布通义千问(Qwen)。这是阿里自研的大语言模型,定位是”超大规模语言模型”,支持自然语言对话、文案创作、逻辑推理、代码生成等多种能力。
通义千问的技术基础是阿里的通义大模型系列——阿里在NLP领域有多年积累,从早期的词向量模型,到后来的预训练模型,再到现在的千亿参数大模型,技术路线一脉相承。通义千问是这个技术积累的集大成者。
从发布后的体验看,通义千问的中文理解能力不错,特别是在电商、办公这些阿里熟悉的场景下,表现比较突出。毕竟阿里有海量的电商数据和企业服务场景,这些数据对大模型的训练很有帮助。
二、阿里的AI布局
通义千问不是阿里第一次做大模型——早在2021年,阿里就发布了M6超大规模预训练模型,参数规模达到万亿级。M6当时是国内最大的预训练模型之一,在多项 benchmark 上取得了好成绩。
通义千问是在M6的技术基础上,针对对话场景做了优化和调整。M6是通用的预训练模型,可以做各种NLP任务;通义千问是面向对话场景的产品化模型,更注重对话体验和用户交互。
阿里的优势在于场景丰富——电商、云计算、办公、物流,这些场景都有大量的文本数据和应用需求。通义千问可以落地到这些场景中,比如电商客服、智能导购、企业办公助手。有场景,才有落地的机会。
三、国产大模型的竞争格局
通义千问发布后,国内大模型的竞争格局更加清晰了。百度有文心一言,阿里有通义千问,腾讯有混元大模型,华为有盘古大模型。四大厂各有各的特点和优势。
百度的优势是搜索和NLP积累深,文心一言发布最早,迭代最快。阿里的优势是电商和云场景丰富,通义千问可以快速落地到阿里云的客户中。腾讯的优势是社交和内容生态,混元大模型可以服务微信、QQ等海量用户。华为的优势是算力和基础研究,盘古大模型侧重行业应用。
除了四大厂,还有一批创业公司在做大模型——智谱AI、百川智能、月之暗面,这些创业公司虽然规模不如大厂,但在某些细分领域也有自己的特色。整个行业呈现”大厂为主、创业为辅”的格局。
四、大模型的技术路线
国内大模型的技术路线,基本上是跟随GPT路线——预训练+微调+对齐。先在海量文本数据上做预训练,得到一个基座模型;再用指令数据做微调,让模型学会遵循指令;最后用人类反馈做对齐,让模型的回答更符合人类偏好。
这条路线是OpenAI验证成功的,国内厂商基本上是照着这个路线走。但在具体实现上,各家有自己的优化——数据怎么清洗、模型结构怎么设计、训练效率怎么提升,这些技术细节上各有各的技巧。
从技术指标看,国产大模型和GPT还有差距——特别是在复杂推理、长文本理解、代码生成这些方面。但差距在快速缩小——毕竟GPT已经迭代了好几代,国内才刚开始起步。按照这个速度,追上只是时间问题。
五、大模型的商业化
做大模型很烧钱——训练一次大模型就要几千万甚至上亿。怎么赚钱?商业化是大模型公司必须面对的问题。
目前的商业化路径主要有几条。第一条是API服务——把大模型能力做成API,按调用量收费。阿里云、百度智能云都在这么做,企业开发者调用API来开发自己的应用。
第二条是产品订阅——直接做面向C端的产品,用户付费订阅。比如ChatGPT Plus就是订阅模式,每月20美元。国内的大模型产品也在探索类似的订阅模式。
第三条是行业解决方案——针对金融、医疗、教育等行业,做定制化的大模型解决方案。这种客单价高,但项目周期长,需要深入行业。
六、大模型对云计算行业的影响
大模型的兴起,对云计算行业影响很大。首先是算力需求爆发——训练和推理大模型需要大量的GPU算力,云厂商的GPU资源变得非常紧张。阿里云、腾讯云、华为云都在扩充GPU服务器,满足大模型客户的需求。
其次是云服务的产品形态变化——以前云服务主要是计算、存储、网络这些基础设施。现在大模型成为新的云服务品类——模型即服务(MaaS)。客户不用自己训练大模型,直接调用云厂商的API就行。这是云计算行业的一个新增长点。
还有就是云厂商的竞争格局变化——以前云计算的竞争主要是价格战和资源规模。现在大模型能力成为新的竞争维度——谁的大模型能力强,谁就能吸引更多AI客户。技术能力的重要性,超过了单纯的资源规模。
七、对开发者的意义
大模型API的开放,对开发者意味着什么?首先是开发效率提升——以前要花几个月做的NLP应用,现在调用大模型API几天就能做出来。比如做智能客服、做文案生成、做知识问答,都可以基于大模型快速开发。
其次是开发门槛降低——以前做NLP应用需要懂算法、懂模型训练,门槛很高。现在只要会调用API,就能做出不错的NLP应用。更多开发者可以参与到AI应用开发中来。
还有就是创新空间变大——大模型的能力很通用,开发者可以发挥想象力,做出各种新奇的应用。就像移动互联网时代,智能手机的传感器催生了很多新应用一样,大模型也会催生很多新的应用形态。
八、写在最后
通义千问的发布,是国产大模型竞赛的一个重要节点。从百度文心一言到阿里通义千问,国产大模型正在快速追赶世界先进水平。这场竞赛才刚刚开始,未来还会有更多玩家加入,更多技术突破出现。
对整个科技行业来说,大模型是一个重大的技术变革——它会改变软件的开发方式、改变用户的交互方式、改变企业的运营方式。抓住这个机遇,就能在下一代技术浪潮中占据有利位置。
期待国产大模型能不断进步,为中国的AI产业发展贡献力量。
八、写在最后
通义千问的发布,是国产大模型竞赛的一个重要节点。从百度文心一言到阿里通义千问,国产大模型正在快速追赶世界先进水平。这场竞赛才刚刚开始,未来还会有更多玩家加入,更多技术突破出现。
对整个科技行业来说,大模型是一个重大的技术变革——它会改变软件的开发方式、改变用户的交互方式、改变企业的运营方式。抓住这个机遇,就能在下一代技术浪潮中占据有利位置。
期待国产大模型能不断进步,为中国的AI产业发展贡献力量。
0 条评论
还没有评论,快来抢沙发吧!
发表评论