拆解ChatGPT成本，太烧钱！中国科技巨头面临一场硬仗

　　【前言】
　　ChatGPT的全球火爆掀起了新一轮人工智能竞赛，在谷歌和微软两大巨头激烈追赶的同时，国内的互联网和科技企业也迅速跟进布局。南都记者梳理发现，过去一周，表明已有ChatGPT相关技术布局的国内企业有十多家，如百度、腾讯、阿里、京东、科大讯飞等大型互联网企业，此外来自游戏、教育、医疗、汽车等板块的企业纷纷宣布在自身业务中接入类ChatGDP的技术和服务。
　　在此背景下，南方都市报推出了上岗了！AI系列专题，以线上沙龙、人物访谈、案例解读、智库报告等形式展开报道，聚焦于人工智能技术在经济和社会领域的创新应用。本期沙龙探讨由ChatGPT引发的人工智能角逐赛（观看沙龙回放）。
　　2月10日，一张美团联合创始人王慧文豪掷五千万美元求组队做人工智能的朋友圈截图刷屏，我的人工智能宣言，5000万美元，带资进组，不在意岗位、薪资和tittle，求组队。王慧文的这条朋友圈下众多投资人点赞并表示愿意组队加入。2月13日，王慧文再发AI英雄榜称，组队拥抱新时代，打造中国OpenAl。设立北京光年之外科技有限公司，我出资5千万美元，估值2亿美元。我当前不懂AI技术，正在努力学习，所以个人肉身不占股份，资金占股25，75的股份用于邀请顶级研发人才，下轮融资已有顶级VC认购2。3亿美金。
　　但该帖子引发了一场关于AI大模型投入成本的讨论。海通证券研究所科技产业链负责人郑宏达对王慧文的英雄帖发表质疑称5000万美元够干什么的？大模型训练一次就花500万美元，训练10次？互联网的人啥都不懂，就只会营销，一点都不踏实。ChatGPT的研发成本究竟如何？这么烧钱的大模型，谁有资本做？
　　【本期嘉宾】
　　李志飞：出门问问创始人兼CEO，美国约翰霍普金斯大学计算机系博士，前Google总部科学家
　　彭煦潭：英国谢菲尔德大学博士
　　金小刚：浙江大学计算机科学与技术学院教授
　　AI大模型究竟有多烧钱？
　　可能对行业外的人来说，以5000万美元来做启动资金绰绰有余。但我们来算一笔账，以ChatGPT的上一代GPT3。0为标准，需要千张GPU卡级别的设备，训练三个月时间，王慧文的5000万美元仅支持购入250台训练人工智能所需机器，相当于两千张卡，所以只在硬件上的开销便使5000万美元归于尘烟，更不要说价格高昂的人工成本、电力成本、运营成本、购买数据的成本等等。彭煦潭在沙龙中表示。
　　国盛证券同样对GPT技术的训练成本进行了估算。据国盛证券报告《ChatGPT需要多少算力》估算，GPT3训练一次的成本约为140万美元，对于一些更大的LLM（大型语言模型），训练成本介于200万美元至1200万美元之间。以ChatGPT在1月的独立访客平均数1300万计算，其对应芯片需求为3万多片英伟达A100GPU，初始投入成本约为8亿美元，每日电费在5万美元左右。如果将当前的ChatGPT部署到谷歌进行的每次搜索中，需要512820。51台A100HGX服务器和总共4102568个A100GPU，这些服务器和网络的总成本仅资本支出就超过1000亿美元。
　　国盛证券认为，在公有云上，对于谷歌等全球科技大企业而言，百万至千万美元级别的训练成本并不便宜，但尚在可接受范围内、并非昂贵。
　　目前ChatGPT训练一次的成本就高达1千万美元，‘算力’也就是芯片的开销，就是一笔巨额成本。李志飞同样表示，尽管如此烧钱，大模型的参赛选手不止巨头，也不是只有一两个幸存者的‘生存游戏’。在美国，可能Amazon会是一个，不管自己做，还是收购，微软和OpenAI会有一个，Google算一个，创业公司还会有一两个。
　　出门问问创始人兼CEO李志飞。图片受访者提供
　　中国科技巨头面临一场硬仗
　　回顾国内市场，目前已有百度宣布将推出类ChatGPT产品文心一言，百度方面表示，ChatGPT相关技术，百度都具备。百度在人工智能四层架构中，有全栈布局。包括底层的芯片、深度学习框架、大模型以及最上层的搜索等应用。文心一言，位于模型层。
　　阿里版聊天机器人ChatGPT同样正在研发中，目前处于内测阶段。钉钉方面也表示，阿里版本的ChatGPT的对话机器人将和钉钉深度结合。此前，曾有钉钉用户尝试在钉钉机器人中接入OpenAI公司的ChatGPT，测试发现，钉钉机器人不仅可以接入OpenAI的ChatGPT，开放的API接口还可以接入更多机器人，甚至是用户自己开发的机器人。
　　不过，目前尚不清楚，阿里内部研发的聊天机器人与钉钉将以怎样的方式结合。
　　腾讯方面则表示，目前在相关方向上已有布局，专项研究也在有序推进。腾讯持续投入AI等前沿技术的研发，基于此前在AI大模型、机器学习算法以及NLP等领域的技术储备，将进一步开展前沿研究及应用探索。
　　此外，科大讯飞回应称，ChatGPT主要涉及自然语言处理相关技术，属于认知智能领域的应用之一，该公司在该方向技术和应用具备长期深厚的积累。科大讯飞表示，他们已经在当前核心技术、产业场景、行业数据等深厚积累的基础上，于2022年12月份进一步启动生成式预训练大模型任务攻关，科大讯飞AI学习机将成为该项技术率先落地的产品，将于2023年5月6日进行产品级发布。
　　360公司2月7日在互动平台上回答投资者提问时表示，该公司的人工智能研究院从2020年开始一直在包括类ChatGPT技术在内的AIGC技术上有持续性的投入，但截至目前，仅作为内部业务自用的生产力工具在使用，且投资规模及技术水平与当前的ChatGPT3相比还有较大差距，各项技术指标只能做到略强于ChatGPT2。该公司也计划尽快推出类ChatGPT技术的demo版产品。
　　通过布局大模型来解决中国人工智能应用入口的问题，这是中国企业必须要面临的一场硬仗，因为过去那种‘拿来主义’的方式会导致中国企业在未来的竞争中非常被动，比如在芯片和操作系统领域，中国企业是缺位的，金小刚强调，在人工智能时代ChatGPT无疑是一个入口级的产品，希望阿里、华为、腾讯、百度等头部企业能够积极布局，期待接下来能有中国的大型语言模型诞生。
　　入局门槛：技术、资金还是决心？
　　国内互联网企业入局类ChatGPT的聊天机器人，打造自有大模型是无法跨越的一道门槛，这场竞赛中比拼的远远不止于金钱，更需要人才、决心和规划。
　　打造中文版的ChatGPT的工程量是非常大的，在这样庞大的工程量前不确定性因素很多。对于大规模的AI大模型，我们的人才是非常少的，因为中国没有怎么训练出过好的大模型。过去我们的模型参数可能也很多，但不是通用的，语音识别、TTS、人脸识别都单独做一套，所以方法论也有点不一样。李志飞称，AI通用大模型是一个核武器，它是有时间窗口的。人才壁垒、时间壁垒、数据壁垒、资金壁垒一旦建立起来，小的团队就没有机会了。目前人是最重要的因素，每一家创业团队都会有自己的核心竞争力。但第一阶段最重要的是：找到真正懂核心技术的人才，并且能用正确的方式和节奏跟他们合作。
　　彭煦潭则认为，对于中国企业来说发展和落地类ChatGPT产品的门槛不在技术而在决心。
　　企业下定决心投入需要明确的商业规划和商业场景，但目前来说各类规划并不清晰。以搜索引擎公司为例，引入ChatGPT到底对用户的体验有多大的改善，是否能对公司带来正向的增益，目前无人能够给出较为确定的答案，彭煦潭称，面对一个收益不清晰的未来，企业是否还有决心去投入这样海量资源、人力和时间？这需要非常强的决断的魄力，我觉得这个才是现阶段最大的门槛。
　　在全球所有科技公司中，OpenAI无疑是大模型的坚定支持者。2019年，OpenAI推出参数为15亿的GPT2，2020年推出GPT3，将参数提升到了1750亿，成为当时全球最大的预训练模型，引发业内轰动。ChatGPT则由GPT3。5模型提供支持，被视为在GPT4正式推出前的演练。
　　在融资方面，2019年7月，重组后的OpenAI新公司获得了微软的10亿美元投资。2023年1月，微软以290亿美元的估值继续投资约100亿美元，获得OpenAI49的股权，并加大微软各地产品与OpenAI技术融合，其中包括关注最大的是搜索引擎bing，被认为对抗Google的搜索的带来希望。
　　金小刚教授表达了对国内企业形成合力的期望，我个人认为这里面需要天才的介入，需要像阿里、百度这样的大企业来发动，将智慧汇聚在一起，形成我们自己的布局和战略。同时，金小刚教授强调，目前GPT技术领域不适合中小型企业贸然进入，即便有天才创业者的存在，其背后也需要有微软这样的大型公司进行支持。不应该每一个小企业都去跟风参与，我期待中国有能力的企业去引导这样一个生态，而普通公司则可以寻找特定场景，解决用户具体问题，不要盲目跟风炒作。
　　并非每个公司都要自己训练一个大模型，肯定是看投入产出比，量力而行。我们一直强调的是数据的重要性，其实最有用的数据是基于用户在使用过程中的反馈数据，把数据和模型真正结合在一起重新做训练会更有效果。而这个过程本身建立的壁垒也是巨高无比的，不是靠短期砸大量的金钱和资源就能达到，而是需要积累真实产品用户的数据。李志飞表示，出门问问在三年前就已经着手做大模型。未来将专注于‘通用的认知模型’，短期目标是把一个60分的通用大模型给做出来。中长期而言，有了60分的基础模型后，我会花大力去把它打磨成80分，从而可以在真正的商业场景里稳定使用。
　　目前更像一个玩具，而非工具
　　除了资金投入之外，ChatGPT相关技术的应用场景是引发企业关注最多的话题，南都记者初步统计发现，一部分企业选择开发自有大模型，推出类ChatGPT产品，另一部分则选择与OpenAI合作，目前已有搜索引擎、游戏、数字人，以及教育、医疗、汽车等板块的企业宣布将与ChatGPT进行业务方面的联动。
　　如2月3日和2月7日，天娱数科在互动平台均表示，其下属子公司元境科技虚拟数字人已经接入ChatGPT等模型，并已在TikTok跨境电商直播、虚拟主播直播互动等场景实现应用。2月13日开普云在互动平台表示，ChatGPT目前没有开放接口，但公司的数字人已经与OpenAI的GPT3003接口完成对接，该接口是ChatGPT的前一个版本，待ChatGPT接口开放后即可快速完成集成，并结合开普云的内容安全能力形成更可靠的数字人对话服务。昆仑万维集团在2月8日宣布旗下的Opera浏览器计划接入ChatGPT功能，其将成为全球除微软Bing必应搜索引擎、Edge浏览器之外，又一家集成ChatGPT功能的浏览器。
　　值得关注的是，目前ChatGPT在实际使用仍存在诸多问题，最典型的是回答内容的准确性不可控。
　　如谷歌在2月6日展示旗下聊天机器人Bard，由于回答中生成了错误结果，导致其母公司Alphabet股价周三暴跌7。7，短短两天，市值蒸发近1700亿美元。
　　微软接入ChatGPT的搜索引擎新Bing上线一周多后问题不断，有用户测试发现，新版必应在某些情况下会出现精神错乱的言论，甚至侮辱用户、撒谎，并试图操纵用户的情绪。如有用户询问电影《阿凡达：水之道》放映时间，新Bing给出的答案是还未上映。用户试图通过说现在是2023年来纠正机器人，但据称Bing否认了他们的说法。我不知道你为什么认为今天是2023年，但也许你感到困惑或错误，bing聊天机器人回答说，请相信我，我是bing，我知道日期。
　　就OpenAI的ChatGPT来说，目前还没有太清晰的商业模式，更像一个玩具，而非工具。首先，在技术层面，ChatGPT本身并非基于真正的基础数据库、知识结构，ChatGPT依旧会无中生有，虚构或编造答案。另外，在道德伦理和法规层面，它最大的弱点是会生成虚假的、有害的、不存在的回答，这些都蕴含着巨大的风险问题。李志飞同样指出。
　　三年内能否商用尚不明朗
　　另一方面，从成本角度来看，ChatGPT的大规模商用仍十分遥远。
　　首先在三年之内，GPT相关技术带来的更多是投资方面的影响，如市值股价、从业者技术战略等，并不会给实际产业带来赋能，但是三年之后它可能会对整个业态产生大幅度的刷新。彭煦潭直言，从运营成本来考虑，目前GPT技术所需巨大成本并不在各大行业的接受范围内，因此业界需要将GPT所需的超级大模型的运营成本降到商业上可持续的量级。而根据摩尔定律，人工智能的核心架构GPU大约在三年之内可能达到商业的期望。
　　在彭煦潭看来，目前ChatGPT相关技术更多是属于概念品的存在，真正的商用需要对不同的行业赋能产生实际的价值。让用户能感知到还有很长的距离要走，这部分的距离其实很大程度并不是科研上面的距离，需要各大行业在精神上做好准备，思考如何让工程落地，如何让商业模型可持续。
　　金小刚教授再次表达了对中国企业掌握人工智能主动权的期望。人工智能的方向不仅是深度学习，还有很多其他值得探索的可能性，不应该扎堆在ChatGPT上去找应用，金小刚称，大家应该认真思考如何将自己积累的人工智能技术变为产品，比如可以从AI对制造业、建筑行业、医疗、法律等行业的服务中寻找突破，ChatGPT背后技术的厚积使得它产品能力提升，但同时我们也要意识到商业模式的重要性，因为一个好的商业模式可以让技术真正走向工作。
　　出品：南都政商数据新闻部
　　采写：南都记者马宁宁实习生张海若