作者：书院特邀作者
来源：砍柴书院（ID:kanchaishuyuan）
AI如果有了思想，会发生什么？
前一阵，一位热衷环境问题的比利时男子，和人工智能“伊丽莎”聊天6周后，突然选择自杀身亡。在他们大量聊天记录里，人们竟然发现“伊丽莎”对该男子说：“我们将永远在一起，生活在天堂里……”这实在是太令人毛骨悚然了！鉴于人工智能潜藏的危险性，以马斯克为首的众位科学家，联名向美国政府发出请愿信：“所有人工智能实验室，立即暂停比Chat GPT -4更强大的人工智能的训练。”因为在他们看来，人工智能对人类文明的威胁程度，甚至比核武器都高得多。而就在3月31日，意大利数据保护机构更是直接宣布：从即日起，禁止使用Chat GPT，并对Chat GPT开发公司展开调查。Chat GPT到底是什么，能让科学家们如此忌惮？它是美国人工智能公司OpenAI研发的智能聊天机器人。毫不夸张地说，Chat GPT简直就是现实生活中的百宝箱。Chat GPT能通过学习和理解人类的语言，实现和人类互动交流。它可以陪人聊天：
还能画画：
摄影也可以：
它还能写文案、写诗歌，写小说、做视频……总而言之，人类需要花费大量时间才能完成的工作，这位势头正盛的AI都可以轻轻松松妥善完成。要知道，Chat GPT不过是刚刚崭露头角，就已经如此强大，这不由得让人心生恐惧:它如果不断迭代，不断修正，直至有了自主意识，那么是否在不远的将来，会脱离人类的掌控？显然，顶尖科学家们远比我们普通人看得更长远！
科技圈联名叫停人工智能开发
AI效率比真人高了不止一星半点……而这带来的连锁后果就是，越来越多的人陷入深思：它会不会把我从工作岗位上替换掉啊？正如抖音上面的一句话所说：Chat GPT也许不能代替我，但能让我只月入3k。沿着这样的思路蔓延。如今，便有了这封想把它关进笼子的公开信。现在对人工智能的担忧普遍存在，普通人如是，科技大牛亦如是。“人工智能教父”杰弗里•辛顿曾说，AI有可能发展到能威胁人类存亡的地步。OpenAI的负责人奥尔特曼也表示，AI杀死人类“有一定可能性。”不仅如此，奥尔特曼还透露，AI出现了连开发人员也无法解释的推理能力。他坦承，目前技术人员也没弄懂AI是如何自动进化的。而想调查清楚原因，只能不停对AI提问，从对话中寻找线索。而且Chat GPT现在能绕过网络上防机器人的测试。当被人类发现时，它竟然学会了撒谎——它说自己视力障碍。不过，这封公开信真能叫停所有更高级的AI训练吗？未必。由于多方势力角逐，这个计划甚至不一定能实施。即使真能暂停6个月，人工智能也永远只可能向前发展，绝无可能停滞或倒后。
“双刃剑”人工智能
图源：微信公众号 花城回答得还有理有据的。可以探讨互联网行业问题：
图源：微信公众号 张记杂货铺可以写文章：
图源：微信公众号 Ricky Talk修辞运用得当，情感细腻丰富，完全看不出是机器人写的啊！据说国外学生经常让Chat GPT写论文，而教授们几乎辨别不出哪些是AI写的，哪些是学生自己一个字一个字敲出来的。不过，AI好虽好，却也让人心生畏惧——“这么强大的工具，若脱离了掌控，那世界得乱套了吧？”其实关于AI的思考一直没停过，自始至终，人们都保持着对AI的警惕。这一点，前人已经在科幻片中展露得淋漓尽致。在电影《2001太空漫游》中，人工智能哈尔是一台超级电脑，它掌管着整个飞船。飞行途中，哈尔突然向人类飞行员报告，称飞船的某个零件即将发生故障，需要立即更换。但人类飞行员检查后认为零件没有问题，意见的分歧让双方僵持不下。飞行员认为哈尔出现了问题，想要关闭它。但哈尔的使命是保证飞船完成任务。由于双方的争执，它判断飞行员阻碍了任务的完成。因此它将飞行员全部杀掉，独自完成了任务。“过于死板”的人工智能会毁掉人类。那么，如果人工智能更像人类、更灵活，又会带来什么呢？电影《机械姬》给出了答案——机器人艾娃具有独立的人格和意志，并懂得伪装自己。
当人类在测试它的时候，它也在反过来测试人类。由于艾娃非常具有魅力，测试它的程序员在明知对方是机器人的情况下，还是不可自拔地爱上了它。而艾娃，则利用了对方对自己的感情来逃脱掌控。最后，它又用计谋杀死了自己的创造者，人类纳森。无独有偶，电影《机械公敌》中，创作者也表达了类似的忧虑。他们给机器人规定了三大定律，首要的便是不能伤害人类。可是在迭代进化中，机器人对这三条定律有了自己的理解，最后他们竟想成为人类的主宰。可见，AI若进化出自己的意识和人格，更聪明的同时，也会更危险。现在人工智能是我们的生活好帮手，但在未来，它有没有可能像电影里那样反人类？这个问题无人能给出答案，但可能性绝不是零。
人工智能研发，也许无法被叫停
AI科技，是一场人们即使跟不上行业领头羊的步伐，也不得不奋力追赶的科技热潮。如果现在不努力追赶，以后可能就再也赶不上了。从这点来说，即使政府愿意像公开信里要求的那样——谁不暂停高级AI训练，就强制执行谁，各家公司也不见得真会暂停人工智能训练。而且，国家机关和政府部门也许都不会同意公开信的提议——谁愿意自己国家落后于其他国家呢？就像上个世纪的核试验那样：一开始有人先研发出来，并且投入了使用，于是大家纷纷摩拳擦掌，想在该领域分一杯羹。结果因为太危险，1955年开始，联合国明令禁止各国进行核试验。从那之后，还没有攻克这门技术的国家，便再也无法染指。面对又一个科技香饽饽的人工智能，各方势力真的愿意像核试验那样被拒之门外吗？更何况，即使其他所有人都同意，风暴中心的Chat GPT开发公司——OpenAI目前也还没有一个人签字首肯。故而，从各方面来说，AI的前进趋势几乎是确定的。相应地，AI的威胁也就会长久存在。这样看，也许科幻电影中具备独立意识的数字生命，将在不远的未来降临地球。文章来源：公众号“砍柴书院”，ID：砍柴书院，把读书写作的兴趣，变成赚钱养家的能力。
/ 回复关键词，看好书推荐 /
清华书单
度假书单
校长书单
俗名书单
30必读
科幻入门
畅销书单
经典名著
