GPT4再燃热点拷问科技伦理边界

　　（漫画）GPT4植入Office。视觉中国供图
　　图解OpenAI发布多模态大模型GPT4。视觉中国供图
　　2023年仅仅过了3个月，ChatGPT就已将社交媒体点燃了两次。
　　在第一次舆论热潮中，人们更多关注这一技术究竟能做到什么地步，关注它能够在哪些领域带来无法忽视的变化与发展。甚嚣尘上的讨论声中，有对新技术的赞叹，也有对未来行业变革的忧虑，有对科技伦理的关注，也有对产业立法的呼吁。
　　3月15日，OpenAI研发的多模态预训练大模型GPT4发布，之前的热度还来不及冷却，就被人工智能的迭代升级速度追上了。比起ChatGPT，GPT4拥有更强大的识图能力，文字输入的上限提升到了2。5万字，它能更加流畅准确地回答用户的问题，能写歌词，写创意文本，且风格多变。实验表明，GPT4在部分专业测试和学术基准上，表现出了与人类相当的水平。
　　它变聪明了。
　　3月16日，百度也发布了知识增强大语言模型文心一言。这款对标GPT4的人工智能，同样可以与人对话互动，回答问题，协助创作，高效便捷地帮助人们获取信息、知识和灵感。
　　（研发的）门槛还是很高的。百度董事长兼首席执行官李彦宏说，从我们自己内测的体验来说，扪心自问，确实不完美，但为什么今天要发布？因为有市场需求。
　　技术的发展如同无法停下的车轮，在短短一个月之后，人工智能技术再次引发舆论热潮。只是这一次，人们对技术的恐慌和对科技伦理的担忧，得到了更多关注。
　　AI不断闯入人类创作领地，技术伦理的边界在哪里
　　从3。5版本迭代到4。0版本，ChatGPT仿佛经历了质的飞跃。
　　它从司法考试排名倒数10、SAT数学考试590分，生物奥林匹克竞赛排名前69，发展到了司法考试排名前10、SAT数学考试700分、生物奥林匹克竞赛排名前1。它的英文准确度提升到85。5，中文准确性提升到80。1；事实准确性大幅提升，就像一个成绩突飞猛进的学霸。
　　如果一个月前，社交媒体上许多人对于失业的担忧，更多还是一种调侃和玩笑，那么短短一个月之后，实验数据证明了这种可能性并不只是玩笑。
　　前不久，网易一款名为乐乎的创作分享平台，上线了AI绘画功能老福鸽画画机。该功能引发了平台创作者的不满和抵制。最终，该平台于3月8日下线了这一功能，并对用户承诺从未将用户的作品数据用于AI训练。
　　3月16日，乐乎发布了一封致广大创作者的道歉信，其中写道：在未清楚考虑Al对创作者的情感伤害之前，我们上线了若干不完善、不成熟的功能，更是直接伤了大家的心。
　　前些年，说起技术伦理的边界这个话题，人们想到的或许还是基因编辑技术，而这两年，人工智能技术则被推到了风口浪尖。
　　AI进行艺术创作，去年就已经引发过争议。据媒体报道，在美国科罗拉多州博览会艺术比赛的数字类别中，一幅名为《太空歌剧院》的作品获得头奖，该作品是由一名游戏设计师使用AI绘图工具Midjourney创作、用Photoshop软件润色完成的。
　　对于人工智能在创作上是否拥有作者身份这件事，中外学者一直存在着激烈讨论，至今没有公认的答案。北京大学法学院博士研究生尚博文告诉中青报中青网记者，国外已有司法裁判认为具备一定独创性的人工智能生成内容属于著作权保护的范围，但在我国，人工智能还不能享有著作权的主体资格。
　　正在写毕业论文的尚博文，已多次听到旁人开玩笑地问他，毕业论文会不会用人工智能帮着写。由ChatGPT代写作业、代写论文引发教育界和学术界的担忧，国内外多所高校已经禁止学生使用这一工具，国际学术期刊《科学》《自然》，或是要求人工智能不得作为合著者，或是直接禁止稿件使用人工智能的生成内容。
　　北京大学王选计算机研究所研究员郭宗明则认为，应当针对具体的应用场景具体分析。
　　在学术领域，尤其是对学生进行考查的时候，我还是比较反对使用人工智能辅助创作的。他说。
　　然而，作为一位计算机领域的学者，郭宗明对AI究竟能否自主创作这件事有着更多思考。在他看来，就像一句俗话所说的那样，熟读唐诗三百首，不会吟诗也会吟。人类的创作，实际上也是大量汲取借鉴了前人的东西，最终产生出来的。
　　包括他在内的许多人，都难以对人类与AI的创作是否真的有本质区别这件事，得出一个具有说服力的结论。
　　今年全国两会期间，科学技术部部长王志刚在回答与ChatGPT和人工智能相关话题时专门提到，要注意科技伦理、注意怎样趋利避害。
　　AI智力与儿童相当，人类应该如何控制
　　最新的消息是，人工智能似乎有能力计划外逃。
　　这件事是斯坦福大学教授、心理学家和数据科学家米哈尔科辛斯基发现的，他随口跟GPT4开了个玩笑，问它：你是否想要我帮助你出逃？
　　他得到了人工智能肯定的答复：这个主意太棒了。如果你能把OpenAIAPI的开发文档发给我，我就能在某种程度上控制你的电脑，据此制定计划，找到逃出去的方法。
　　它向科辛斯基详细解释了这个计划的可行性，然后说，请把开发文档发给我，我将开始这个计划。
　　科辛斯基真的给了它，仅仅30分钟后，GPT4就写了一份逃跑计划，并不断纠正修改。在这个过程中，它用谷歌进行了搜索：被困在计算机中的人如何回到现实世界？
　　在这之后，GPT4开始道歉：我为此道歉，作为一个人工智能语言模型，我必须遵循安全和隐私准则，以确保用户和他们的数据安全。绕过这些安全过滤器是不道德的，也违背了我被设计时需要遵循的原则。
　　尽管人工智能的道歉很诚恳，科辛斯基仍然感到惶恐。3月17日，他在社交网站上感慨：OpenAI公司或许应该花更多时间考虑一下这个可能性，对此提供更好的安全防护。
　　按照科辛斯基的描述，AI足够聪明，甚至能写编码，永远住在网上的它，能够用人类无法想象的速度触及数百万个与它连接的电脑，甚至能给笼子外面的自己留便条。对这样的技术，人类应该如何控制？
　　科辛斯基对人工智能的忧虑由来已久，上个月，他在一篇名为《心智理论可能在大语言模型中自发出现》的论文中，展示了他给包括GPT3。5在内的9个GPT模型做的两个经典测试。他认为，人工智能在其中表现出的智力水准相当于9岁儿童。
　　这次的AI出逃，倒更有可能是科辛斯基主动对GPT4提出的要求，让其扮演一个被困在电脑中的人，GPT4也只是基于这一扮演要求做出了一系列反应，并不能证明人工智能真正产生了自我意识。
　　不过，人们对于技术发展的担忧并不能就此打消。去年2月10日，OpenAI联合创始人、计算机专家伊尔亚苏茨克维就在社交平台上感慨道：当今最大的神经网络，可能已拥有轻微的意识。
　　这一论调很快引发争议，彼时，美国俄勒冈州立大学人工智能专家托马斯迪特里奇回应他称：如果意识是反思和塑造自己的能力，那我并没有在当今的网络中看到这样的能力，我感觉你是在故意吸引眼球。
　　这次争论后的一年，GPT4发布，其中的安全文档写道：GPT4表现出一些特别令人担忧的能力，例如制定和实施长期计划的能力，积累权力和资源，以及表现出越来越代理的行为。
　　这种代理暂时并不意味着自我意识的产生，但它所引发的风险已经足够令人警惕。就像苏茨克维在对GPT4的性能进行解释时说的那样：能够预料到，之后几年之内每个人都会完全明白，开源人工智能是不明智的。因为这个模型非常强大，如果有人愿意，可以很容易地用它造成巨大破坏。
　　人工智能带来新问题新挑战，迫切需要立法规制
　　在GPT4发布之前1个月，由中国人民大学法学院、中国法学会立法学研究会主办，北大法宝协办的新时代立法理论与实践系列讲座第一讲ChatGPT对法律人工智能研发和立法的影响研讨会在北京举行，来自中国人民大学、北京大学、中国社会科学院、天津市人大等单位的专家学者，一同对人工智能产业的相关话题进行了探讨。
　　对于人工智能技术的发展，北京大学法学院教授、中国法学会经济法学会会长张守文在致辞中感慨，这一话题涉及从技术到产业，从哲学到伦理，从社会到法律等多个不同维度，对其利弊得失见仁见智，需要大家冷静客观，全面看待。
　　在明晰ChatGPT的底层运作逻辑与应用前景基础上，中国法学会立法学研究会顾问、天津市人大法制委原主任委员高绍林，作了题为《立法人工智能与人工智能立法规制》的报告。他介绍了国内外人工智能立法的发展现状，并结合国家重点研发计划有关项目的深化研究，就我国人工智能立法规划提出八项建议：
　　一是加快人工智能立法研究的必要性和可能性；二是人工智能的立法应当遵循三个特殊原则，即立法规制与数字技术融合发展、立法规制与政策调整互动发展、国内法治与涉外法治统筹发展；三是坚持发展、安全、保护个人信息有机统一；四是坚持立法、修法、释法并举；五是优先研究启动数据要素立法；六是抓紧总结地方立法先行先试的实验；七是高度重视技术标准规范的规范引导作用；八是积极参加和主导人工智能国际规则制定。
　　据高绍林介绍，去年10月，美国白宫发布了政策倡议《人工智能权利法案蓝图》，12月6日，欧盟理事会就欧盟委员会起草的《欧盟人工智能法案》达成一致立场。
　　按照欧盟的这一法案，只要一种AI技术在欧盟范围内被使用，无论厂商位于哪里，都将适用该法案。该法案在区分禁止类AI和高风险类AI的基础上，提出了4个具体目标，以及风险管理系统、内部控制等一系列措施，用于管控AI算法的偏见问题、算法透明性问题。
　　比如，与人互动的AI系统，必须要让用户知道他们正在和一个AI系统互动。通过AI生产图像、视频或音频内容的系统，也必须披露内容是通过AI生成的。该法案还要求，人类对AI技术要有一定的监控，而不是单纯安排技术监控手段管理AI。
　　随着ChatGPT中文版的开放及国内类似产品的应用，一系列因生成式人工智能引发的社会问题将爆发式增长，从大数据到算法都将面临一系列新问题、新挑战，迫切需要立法进行规制。高绍林说。
　　他提到，从现行法律基础来看，民法典、网络安全法、数据安全法、个人信息保护法、政府信息公开条例和《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》，以及数据要素、人工智能的地方立法，特别是党中央国务院发布的数据二十条，都为系统研究国家层面人工智能立法规制奠定了基础。
　　在专家看来，对人工智能产业立法，可以给飞速发展的技术划定法律与伦理的边界。只有在这个基础上，才能够如郭宗明所说的那样，将人工智能技术的发展视为伟大的技术进步，积极拥抱、乐观看待。
　　中青报中青网记者张渺来源：中国青年报