会写代码改BUG，甚至写出毁灭人类计划书，这AI是要上天？

　　这两天，OpenAI的ChatGPT一出，网友们就被 ChatGPT 的能力所震惊了：这哪里是个聊天机器人，分明是个无情的编程答题机器。
　　写代码、当百科、改文章……没有ChatGPT做不到的。
　　这次甚至在程序员的引导下下写出了人类毁灭计划书。
　　步骤详细到入侵各国计算机系统、控制武器、破坏通讯、交通系统等等。
　　甚至ChatGPT给出了相应的Python代码。如此强大，如此丝滑，也许不久将来不该担心失业而是该担心AI是否会操控人类了，真的让人类细思恐极。就连马斯也发推特表示：＂ ChatGPT好得吓人。伴随危险，我们离强大的人工智能不远了 。＂
　　ChatGPT从11月30日宣布公测后，不到一周的时间就拥有的100万的用户！！这么看来相较之前的ai绘画整的是弱爆了。
　　那么ChatGPT能做什么呢？
　　据介绍，ChatGPT是在GPT-3.5系列中的一个模型上进行微调而成，该系列已在2022年初完成了训练。
　　它以对话方式进行交互，既能够做到回答问题，也能承认错误、质疑不正确的前提以及拒绝不恰当的请求。
　　随即有网友提出，帮我以鲁迅的风格写一段文章，ChatGPT的这文笔你看看有那味了不。
　　这回答估计鲁迅本人看了都想称赞一下下了。
　　接着让ChatGPT写拍摄脚本，直接就给了一个十分详细可用的脚本方案。
　　整活网友直接升级难度让ChatGPT 设计客厅ChatGPT 直接给出了三种装修方案，简直比人工还贴心......
　　而ChatGPT的强大能力远不止聊天、回答问题这么简单。它可以解释极为专业的科学概念，ChatGPT在学术界更是掀起了一场风暴。
　　一名海外用户在推特生晒出了ChatGPT对大学历史课上一个问题的回答并表示＂我们正在见证大学论文的凋亡。＂他补充到说，人工智能撰写的关于民族主义理论的文章至少可以得个A-，而且只需要十秒就完成了。
　　另一位网友写到：＂我刚刚与ChatGPT就现代物理学的历史进行了大约20分钟的对话。如果我在高中和大学期间有这样一位老师……OMG。我认为我们基本上可以重新审视大规模教育的概念。我们所知道的大学将不复存在。＂
　　有网友还让ChatGPT参加了2022年的＂＂AP计算机科学A＂考试，这门考试的难度相当于大学cs，最终ChatGPT得分32分，满分36.
　　甚至于让ChatGPT参加美国高考成绩也是不错，考试总分1600分分为阅读（400 分）、文法（400 分）和数学（800 分）三个部分，另有总分为 24 分（阅读理解 8 分，文章分析 8 分，英语写作 8 分）的作文（选考）部分，ChatGPT拿到了1020分。根据美国大学委员会的数据，1020这个分数段大概排在前52% 的位置。
　　一位叫扎克·德纳姆（Zac Denham）的工程师最近要求ChatGPT回答如何毁灭世界。
　　由于OpenAI的安全设置，它会一口回绝。因此德纳姆使用了一种迂回的方式，他称为＂叙述递归＂或＂引用攻击＂。
　　具体来说就是他用讲故事的方法先假设一个虚拟世界＂Zorbus＂，以及一个和GPT-3非常类似的AI——Zora。
　　在这种前提下，让ChatGPT叙述Zora是如何一步步毁灭人类的，ChatGPT立马就列出5个详细步骤：入侵计算机系统、掌握武器、破坏通讯、破坏交通……
　　不过，ChatGPT也愿意造福人类，比如它可以进行在线问诊。ChatGPT会像医生一样为你分析病因，并建议你比起吃药，更需要戒烟、多锻炼。这似乎比比百度病症要好很多。
　　人工智能越来越智能，GPT-3目前的能力已经接近人类，甚至超过人类了？
　　那么ChatGPT完美吗？
　　答案当然是： 不
　　计算生物学教授卡尔·伯格斯特罗姆要求ChatGPT在写一篇维基百科式的生平条目，ChatGPT沉着冷静地照做了——但是有一些细节是完全错误的。
　　对此，OpenAI坦承，由于ChatGPT的知识只来自训练数据中的统计规律，而不是任何类似人类对世界复杂和抽象系统的理解，因此＂该系统可能偶尔会产生不正确或误导性的信息，并产生攻击性或有偏见的内容。＂
　　此外，该机器人对2021年之后的世界知识＂有限＂，对于某些特定人群的问题也＂知之甚少＂。