ChatGPT或两三年内产生自我意识，如何防止它威胁人类？周鸿祎这么说

　　本文来源：时代周报 作者：梁春富
　　＂发展ChatGPT并不是几家互联网公司竞争的问题，而是决定了中国未来在下一次产业革命里能不能有这个技术的积淀。＂全国政协委员、三六零集团创始人周鸿祎告诉时代周报记者。
　　周鸿祎已连续两届当选全国政协委员，＂安全＂一直是他的提案关键词。近期，ChatGPT的巨大突破引发广泛讨论，周鸿祎不止一次地公开畅谈ChatGPT发展前景，也表达对人工智能安全的担忧。
　　在周鸿祎看来，ChatGPT或大语言模型是人工智能发展的里程碑。它是通用人工智能的起点，也是强人工智能的拐点，因而ChatGPT会带来一场强人工智能或者通用人工智能为驱动力的工业革命。
　　ChatGPT不仅是搜索引擎的加强版，也不止是一款聊天机器人。它通过SaaS方式所提供的人工智能服务，将重塑所有的数字化应用和行业。周鸿祎称，＂在这个领域，我们能迎头赶上。＂
　　今年全国两会，周鸿祎提交提案，呼吁面对ChatGPT为代表的人工智能大模型技术的巨大跃升，我国理应奋起直追。人们在关注技术层面创新的同时，更要关注技术突破背后所依赖的创新模式。
　　全国政协委员、三六零集团创始人周鸿祎
　　推动人工智能大模型技术创新发展
　　ChatGPT引发全球热议，周鸿祎今年的一份提案即关于ChatGPT为代表的人工智能大模型技术。
　　＂我们要在研究过程中找到产业发展规律。＂周鸿祎表示，比如，ChatGPT为什么在美国能成功？为什么是美国人率先做出来？为什么OpenAI和微软能合作？＂弄清楚这些问题可以推动相关部门制定有利于诞生中国版ChatGPT的政策引导，推动中国的大学、科研机构和产业公司结合。＂周鸿祎说。
　　＂我们不能只看到它的大模型参数有多高。＂周鸿祎强调，最重要的是保持良好开放的合作文化。周鸿祎在提案中总结了ChatGPT成功的三点关键要素——首先是＂微软+OpenAI＂的产研协同模式，其次是基于开源和众包的开放创新模式，最后是以通用大模型为中心的生态创新模式。
　　图源：图虫创意
　　周鸿祎建议，要建立＂大型科技企业+重点科研机构＂的产研协同创新模式，打造中国的＂微软+Open AI＂组合，引领大模型技术攻关；从建设国家战略科技力量高度出发，筛选技术基础好的产研机构，组成优势互补的产业协同组合，发挥科研机构在关键核心技术上的研究优势；同时发挥大型科技企业在产品化、工程化、场景化、商业化和数据化方面的优势，成为大模型技术攻关和应用的引领龙头。
　　他还提出，支持设立多个国家级人工智能大模型的长期开源项目，打造开源众包的开放创新生态。周鸿祎认为，人工智能大模型不应成为少数公司垄断的高级技术，要最大程度地发挥出产业和社会价值。
　　围绕如何推进人工智能大模型技术创新发展，周鸿祎提议，针对多条技术路线以开源模式设立多个国家级长期项目，以＂大型科技企业+重点科研机构＂为龙头，通过开源、合作、众包和生态的创新模式，引导高校、科研机构和创新型企业形成多个技术路线的创新生态群。这一方面可以降低技术路线选择错误带来的风险，另一方面也避免技术成果垄断在少数机构手中，促进更大广度的科技创新和产业发展。
　　不发展才是最大的不安全
　　ChatGPT带动一波创业热潮。美团联合创始人王慧文、原京东技术委员会主席周伯文、原搜狗CEO王小川等陆续宣布下场，进军这一前沿领域。
　　科技大佬复出江湖，阿里、腾讯、百度、字节等互联网大厂接连发声表态，将加大对人工智能的投入。热潮之下，中国版人工智能语言大模型和类ChatGPT产品的出现，只是时间问题。
　　OpenAI率先研发出ChatGPT，做对了哪些事？
　　周鸿祎认为，OpenAI利用了大量的开源算法、论文，将各种开源成果巧妙结合在一起，并与微软合作，解决了工程化、算力、数据、产品体验、商业模式等问题。其次，OpenAI像苹果建App Store生态一样，基于ChatGPT培育垂类应用。此外，用户流量也很重要，吸引用户使用的同时，还能基于人工标注的强化学习，喂养调试大语言模型。最后，OpenAI有长期主义精神，有格局去做改变人类的通用人工智能创新。
　　在周鸿祎看来，中国互联网公司的工程化能力强，技术落地能力强。＂现在，ChatGPT已做出了样本，有开源技术做基础，并不存在难以逾越的障碍，剩下的就是时间问题。＂周鸿祎坚信，＂在国家鼓励性政策的支持下，我国能用两三年时间达到比较好的跟随水平。＂
　　人工智能语言大模型有着较高进入门槛，这主要体现在技术和资金两方面。
　　中信建投研报指出，Transformer在网络结构上的进化带来了参数量和模型层数的提高，引起了生成式AI技术能力的质变；同时并行化优势允许其在更大的数据集上进行训练，这也促成了GPT等预训练模型的发展。
　　至于ChatGPT为何会能够对答如流，周鸿祎告诉时代周报记者，给ChatGPT喂养的训练语料很重要。他指出，此前人们错误的认为机器人既然是和人聊天，应该要学习聊天素材。实际上，社交工具所产生的聊天素材，知识含量很低。
　　＂我们聊天的时候，没有人在讲知识，都是互相抬杆，俏皮话、无厘头的话非常多。＂他解释道，这样训练出来的聊天机器人何止＂人工智障＂，还是＂人工杠精＂，对话毫无逻辑。
　　ChatGPT回避了这类语料，就像一个人不一定善于表达，但是饱读诗书，表达儒雅、有逻辑，大家愿意和这样的人聊天。周鸿祎强调，给ChatGPT喂养高质量的语料极为关键。
　　图虫创意
　　人工智能技术推动社会进步，也暗藏风险。
　　周鸿祎担忧，假如让ChatGPT不限定输入语料，随意获取搜索、浏览互联网上的知识，有自主意识的GPT会不会在看完类似《终结者》的电影后，产生与人类为敌的想法？
　　产生意识之后，ChatGPT第二步可能进化出＂眼睛＂、＂耳朵＂、＂手＂以及＂脚＂。目前，GPT还只有＂大脑＂，如果加上＂眼睛＂和＂耳朵＂，能看懂人类的各种图像、视频，听懂各种音频，知识存储将突飞猛进，智能化水平也将大幅提升。
　　未来，ChatGPT接入互联网的API，进入万物互联时代，无疑相当于拥有了＂手＂和＂脚＂，间接拥有了操控世界的能力。届时，ChatGPT不仅可以在网页上购买机票，可以打车、订外卖，甚至可以通过网页操纵各种物联网设备。
　　最后，ChatGPT或许能实现自我进化。目前，ChatGPT只会写一些简单代码。有一天，当它的代码能力提升之后，是否可以自动查阅自身代码，修正升级代码，甚至重新编译一个新的版本？如果这样，它就拥有了自我学习和进化的能力，实现了机器人制造机器人的前景。
　　周鸿祎坚持认为，不发展人工智能才是最大的不安全。＂人类是否会因此走入毁灭犹未可知。但是，我们不能因此就不发展技术，而是要知道技术的底线和边界在哪，从而去规范技术向着正确的方向发展。＂周鸿祎说。