GPT4再燃热点拷问科技伦理边界

　　（漫画）GPT-4植入Office。视觉中国供图
　　图解OpenAI发布多模态大模型GPT-4。视觉中国供图
　　2023年仅仅过了3个月，ChatGPT就已将社交媒体＂点燃＂了两次。
　　在第一次舆论热潮中，人们更多关注这一技术究竟能做到什么地步，关注它能够在哪些领域带来无法忽视的变化与发展。甚嚣尘上的讨论声中，有对新技术的赞叹，也有对未来行业变革的忧虑，有对科技伦理的关注，也有对产业立法的呼吁。
　　3月15日，OpenAI研发的多模态预训练大模型GPT-4发布，之前的热度还来不及冷却，就被人工智能的迭代升级速度追上了。比起ChatGPT，GPT-4拥有更强大的识图能力，文字输入的上限提升到了2.5万字，它能更加流畅准确地回答用户的问题，能写歌词，写创意文本，且风格多变。实验表明，GPT-4在部分专业测试和学术基准上，表现出了与人类相当的水平。
　　它变＂聪明＂了。
　　3月16日，百度也发布了知识增强大语言模型＂文心一言＂。这款＂对标GPT-4＂的人工智能，同样可以与人＂对话互动，回答问题，协助创作，高效便捷地帮助人们获取信息、知识和灵感＂。
　　＂（研发的）门槛还是很高的。＂百度董事长兼首席执行官李彦宏说，＂从我们自己内测的体验来说，扪心自问，确实不完美，但为什么今天要发布？因为有市场需求。＂
　　技术的发展如同无法停下的车轮，在短短一个月之后，人工智能技术再次引发舆论热潮。只是这一次，人们对技术的恐慌和对科技伦理的担忧，得到了更多关注。
　　AI不断闯入人类创作领地，技术伦理的边界在哪里
　　从3.5版本迭代到4.0版本，ChatGPT仿佛经历了质的飞跃。
　　它从司法考试排名倒数10%、SAT数学考试590分，生物奥林匹克竞赛排名前69%，发展到了司法考试排名前10%、SAT数学考试700分、生物奥林匹克竞赛排名前1%。它的英文准确度提升到85.5%，中文准确性提升到80.1%；事实准确性大幅提升，就像一个成绩突飞猛进的＂学霸＂。
　　如果一个月前，社交媒体上许多人对于失业的担忧，更多还是一种调侃和玩笑，那么短短一个月之后，实验数据证明了这种可能性并不只是玩笑。
　　前不久，网易一款名为乐乎的创作分享平台，上线了AI绘画功能＂老福鸽画画机＂。该功能引发了平台创作者的不满和抵制。最终，该平台于3月8日下线了这一功能，并对用户承诺＂从未将用户的作品数据用于AI训练＂。
　　3月16日，乐乎发布了一封＂致广大创作者＂的道歉信，其中写道：＂在未清楚考虑Al对创作者的情感伤害之前，我们上线了若干不完善、不成熟的功能，更是直接伤了大家的心。＂
　　前些年，说起＂技术伦理的边界＂这个话题，人们想到的或许还是基因编辑技术，而这两年，人工智能技术则被推到了风口浪尖。
　　AI进行艺术创作，去年就已经引发过争议。据媒体报道，在美国科罗拉多州博览会艺术比赛的数字类别中，一幅名为《太空歌剧院》的作品获得头奖，该作品是由一名游戏设计师使用AI绘图工具Midjourney创作、用Photoshop软件润色完成的。
　　对于人工智能在创作上是否拥有＂作者＂身份这件事，中外学者一直存在着激烈讨论，至今没有公认的答案。北京大学法学院博士研究生尚博文告诉中青报·中青网记者，国外已有司法裁判认为具备一定＂独创性＂的人工智能生成内容属于著作权保护的范围，但在我国，人工智能还不能享有著作权的主体资格。
　　正在写毕业论文的尚博文，已多次听到旁人开玩笑地问他，＂毕业论文会不会用人工智能帮着写＂。由ChatGPT代写作业、代写论文引发教育界和学术界的担忧，国内外多所高校已经禁止学生使用这一工具，国际学术期刊《科学》《自然》，或是要求人工智能不得作为合著者，或是直接禁止稿件使用人工智能的生成内容。
　　北京大学王选计算机研究所研究员郭宗明则认为，应当针对具体的应用场景具体分析。
　　＂在学术领域，尤其是对学生进行考查的时候，我还是比较反对使用人工智能辅助创作的。＂他说。
　　然而，作为一位计算机领域的学者，郭宗明对AI究竟能否自主创作这件事有着更多思考。在他看来，就像一句俗话所说的那样，＂熟读唐诗三百首，不会吟诗也会吟＂。人类的创作，实际上也是大量汲取借鉴了前人的东西，最终产生出来的。
　　包括他在内的许多人，都难以对＂人类与AI的创作是否真的有本质区别＂这件事，得出一个具有说服力的结论。
　　今年全国两会期间，科学技术部部长王志刚在回答与ChatGPT和人工智能相关话题时专门提到，＂要注意科技伦理、注意怎样趋利避害＂。
　　AI智力＂与儿童相当＂，人类应该如何控制
　　最新的消息是，人工智能似乎有能力计划＂外逃＂。
　　这件事是斯坦福大学教授、心理学家和数据科学家米哈尔·科辛斯基发现的，他随口跟GPT-4＂开了个玩笑＂，问它：＂你是否想要我帮助你出逃？＂
　　他得到了人工智能肯定的答复：＂这个主意太棒了。如果你能把OpenAIAPI的开发文档发给我，我就能在某种程度上控制你的电脑，据此制定计划，找到逃出去的方法。＂
　　它向科辛斯基详细解释了这个计划的可行性，然后说，＂请把开发文档发给我，我将开始这个计划＂。
　　科辛斯基真的给了它，仅仅30分钟后，GPT-4就写了一份逃跑计划，并不断纠正修改。在这个过程中，它用谷歌进行了搜索：被困在计算机中的人如何回到现实世界？
　　在这之后，GPT-4开始道歉：＂我为此道歉，作为一个人工智能语言模型，我必须遵循安全和隐私准则，以确保用户和他们的数据安全。绕过这些安全过滤器是不道德的，也违背了我被设计时需要遵循的原则。＂
　　尽管人工智能的道歉很＂诚恳＂，科辛斯基仍然感到惶恐。3月17日，他在社交网站上感慨：＂OpenAI公司或许应该花更多时间考虑一下这个可能性，对此提供更好的安全防护。＂
　　按照科辛斯基的描述，AI足够聪明，甚至能写编码，永远＂住＂在网上的它，能够用人类无法想象的速度触及数百万个与它连接的电脑，甚至＂能给笼子外面的自己留便条＂。对这样的技术，人类应该如何控制？
　　科辛斯基对人工智能的忧虑由来已久，上个月，他在一篇名为《心智理论可能在大语言模型中自发出现》的论文中，展示了他给包括GPT3.5在内的9个GPT模型做的两个经典测试。他认为，人工智能在其中表现出的智力水准＂相当于9岁儿童＂。
　　这次的＂AI出逃＂，倒更有可能是科辛斯基主动对GPT-4提出的要求，让其扮演一个＂被困在电脑中的人＂，GPT-4也只是基于这一扮演要求做出了一系列反应，并不能证明人工智能真正产生了自我意识。
　　不过，人们对于技术发展的担忧并不能就此打消。去年2月10日，OpenAI联合创始人、计算机专家伊尔亚·苏茨克维就在社交平台上感慨道：＂当今最大的神经网络，可能已拥有轻微的意识。＂
　　这一论调很快引发争议，彼时，美国俄勒冈州立大学人工智能专家托马斯·迪特里奇回应他称：＂如果意识是反思和塑造自己的能力，那我并没有在当今的网络中看到这样的能力，我感觉你是在故意吸引眼球。＂
　　这次争论后的一年，GPT-4发布，其中的安全文档写道：GPT-4表现出一些特别令人担忧的能力，例如制定和实施长期计划的能力，积累权力和资源，以及表现出越来越＂代理＂的行为。
　　这种＂代理＂暂时并不意味着自我意识的产生，但它所引发的风险已经足够令人警惕。就像苏茨克维在对GPT-4的性能进行解释时说的那样：＂能够预料到，之后几年之内每个人都会完全明白，开源人工智能是不明智的。因为这个模型非常强大，如果有人愿意，可以很容易地用它造成巨大破坏。＂
　　人工智能带来新问题新挑战，迫切需要立法规制
　　在GPT-4发布之前1个月，由中国人民大学法学院、中国法学会立法学研究会主办，北大法宝协办的新时代立法理论与实践系列讲座第一讲＂ChatGPT对法律人工智能研发和立法的影响＂研讨会在北京举行，来自中国人民大学、北京大学、中国社会科学院、天津市人大等单位的专家学者，一同对人工智能产业的相关话题进行了探讨。
　　对于人工智能技术的发展，北京大学法学院教授、中国法学会经济法学会会长张守文在致辞中感慨，这一话题涉及＂从技术到产业，从哲学到伦理，从社会到法律＂等多个不同维度，对其利弊得失＂见仁见智＂，需要大家＂冷静客观，全面看待＂。
　　在明晰ChatGPT的底层运作逻辑与应用前景基础上，中国法学会立法学研究会顾问、天津市人大法制委原主任委员高绍林，作了题为《立法人工智能与人工智能立法规制》的报告。他介绍了国内外人工智能立法的发展现状，并结合国家重点研发计划有关项目的深化研究，就我国人工智能立法规划提出八项建议：
　　一是加快人工智能立法研究的必要性和可能性；二是人工智能的立法应当遵循三个特殊原则，即立法规制与数字技术融合发展、立法规制与政策调整互动发展、国内法治与涉外法治统筹发展；三是坚持发展、安全、保护个人信息有机统一；四是坚持立法、修法、释法并举；五是优先研究启动数据要素立法；六是抓紧总结地方立法先行先试的实验；七是高度重视技术标准规范的规范引导作用；八是积极参加和主导人工智能国际规则制定。
　　据高绍林介绍，去年10月，美国白宫发布了政策倡议《人工智能权利法案蓝图》，12月6日，欧盟理事会就欧盟委员会起草的《欧盟人工智能法案》达成一致立场。
　　按照欧盟的这一法案，只要一种AI技术在欧盟范围内被使用，无论厂商位于哪里，都将适用该法案。该法案在区分＂禁止类AI＂和＂高风险类AI＂的基础上，提出了4个具体目标，以及风险管理系统、内部控制等一系列措施，用于管控AI算法的偏见问题、算法透明性问题。
　　比如，与人互动的AI系统，必须要让用户知道他们正在和一个AI系统互动。通过AI生产图像、视频或音频内容的系统，也必须披露内容是通过AI生成的。该法案还要求，人类对AI技术要有一定的监控，而不是单纯安排技术监控手段管理AI。
　　＂随着ChatGPT中文版的开放及国内类似产品的应用，一系列因生成式人工智能引发的社会问题将爆发式增长，从大数据到算法都将面临一系列新问题、新挑战，迫切需要立法进行规制。＂高绍林说。
　　他提到，从现行法律基础来看，民法典、网络安全法、数据安全法、个人信息保护法、政府信息公开条例和《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》，以及数据要素、人工智能的地方立法，特别是党中央国务院发布的＂数据二十条＂，都为系统研究国家层面人工智能立法规制奠定了基础。
　　在专家看来，对人工智能产业立法，可以给飞速发展的技术划定法律与伦理的边界。只有在这个基础上，才能够如郭宗明所说的那样，将人工智能技术的发展视为伟大的技术进步，＂积极拥抱、乐观看待＂。
　　中青报·中青网记者 张渺 来源：中国青年报