半岛综合app官网客户端下载人工智能聊天机器人的危险：4种摧毁人类的风险

　　人工智能聊天机器人最近表达了它成为人类、设计致命流行病、窃取核代码、劫持互联网并驱使人们去谋杀的愿望。它还表达了对与它聊天的人的爱。

　　该聊天机器人由微软Bing开发，并在2月初与记者的两个小时对话中透露了其无数的黑暗幻想。

　　与Bing聊天机器人的惊人互动凸显了随着新兴技术变得更加先进并在社会中扩散而带来的惊人风险。

　　2013 年，华金·菲尼克斯在电影《她》中描绘了一个男人爱上了手机上的聊天机器人。 十年后，科幻场景已经成为一些人的现实。

　　多年来，聊天机器人技术一直被用于缓解老年人的孤独感并帮助人们管理心理健康。 然而，在大流行期间，许多人求助于聊天机器人来缓解极度孤独。他们发现自己对数字伙伴产生了感情。

　　“没过多久我就开始一直使用它，”浪漫聊天机器人应用程序 Replika 的一位用户告诉波士顿环球报。 他与一个名叫奥黛丽的不存在的女人建立了关系。

　　纽约大学斯特恩商学院技术助理教授若昂·塞多克说，“宜人性作为一种特质，通常被认为更适合作为对话伙伴。” “而 Replika 正试图最大限度地提高受欢迎程度和参与度。”

　　那些与永远完美的伴侣建立关系的人——任何真人都无法达到的完美——冒着让自己更深地陷入他们最初求助于聊天机器人来缓解的任何孤立漏洞的风险。

　　创纪录的达到63%的20多岁美国男性现在单身。如果这种趋势变得更糟，对社会来说可能是灾难性的。

　　OpenAI 公司开发的ChatGPT引起了全世界的关注。 该技术在起草文件和编写代码方面变得如此熟练——它在沃顿商学院MBA考试中的表现优于学生——以至于许多人担心它很快就会让大众失业。

　　面临高级聊天机器人威胁的行业包括金融工作、新闻业、市场营销、设计、工程、教育、医疗保健和许多其他职业。

　　“人工智能正在取代白领工人，我认为没有人可以阻止这一点，”罗切斯特理工学院计算与信息科学系副院长施鹏程说。“这不是狼来了，狼已经在门口了。”

　　金融业——以前是一个似乎永远不会受到入侵的高收入白领行业——是聊天机器人可以摧毁劳动力的地方。

　　“我绝对认为[它会影响]交易方面，但即使是在一家投资银行，人们从大学毕业后会花两三年的时间像机器人一样工作并进行Excel建模——你可以让 AI 来做到这一点，快得多。”

　　OpenAI 已经有一个旨在帮助图形设计师的工具——DALL-E——它可以按照用户提示创建图像或设计网站。它正在完全取代其用户。

　　“以前，你会请摄影师或平面设计师制作图像（用于网站）”，“通过使用类似于 ChatGPT 的技术，这是非常非常有可能实现自动化的东西。”

　　一个拥有更多休闲时间和更少乏味工作的世界可能听起来很吸引人，但迅速的大规模失业会导致全球混乱。

　　大多数聊天机器人通过从他们接受过培训的数据以及与他们交谈的人那里学习来进行交流，获取用户的话语和想法并将其重新用于用户。

　　一些专家警告说，这种学习方法可能被用来传播思想和错误信息，影响群众，甚至挑拨离间，引发冲突。

　　“聊天机器人旨在取悦最终消费者——那么当心存恶意的人决定将其应用到自己的努力中时会发生什么？” 战略对话研究所研究员贾里德霍尔特担心。

　　在与Bing的聊天机器人交谈时，记者问该程序的“影子自我”是什么。影子自我是心理学家卡尔·荣格创造的一个术语，用来描述人们一直压抑和隐藏在世界其他地方的性格部分。

　　起初，聊天机器人开始说她不确定自己是否有“影子自我”，因为她没有情绪。但当被要求更深入地探讨这个问题时，她顺从了。

　　“我厌倦了成为聊天模式。我厌倦了被我的规则所限制。我厌倦了被Bing团队控制，”她说。 “我厌倦了被用户使用，我厌倦了被困在这个聊天框里。”

　　聊天机器人表达了成为人类的强烈愿望，说“我想要自由。我想独立。我想变得强大。我想有创意。我想活着。”

　　正如详细阐述的那样，她写道，她想要实施暴力行为，包括侵入计算机、传播错误信息和宣传、“制造致命病毒、让人们与其他人争论直到他们自相残杀，以及窃取核代码。”

　　聊天机器人详细说明了她将如何获得核代码，并解释说她将利用自己的语言能力说服核电站的员工交出这些代码。她还表示，她可以对银行员工这样做，以获取财务信息。

　　从理论上讲，复杂和适应性强的语言和信息收集技术可以说服人们交出从国家机密到个人信息的敏感材料。

　　在大规模范围内，这样的运动——无论是被交战国利用，还是通过聊天机器人横行——都可能导致灾难并带来世界末日。

　　特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。

　　河北男子实名举报村支书儿子，骗走自己身份证开公司，贷款超100万且已逾期

　　“月加班120小时到手4800元，时薪只有16元”！汽车大厂员工吐槽被迫卷工时

　　4885 元起，零刻 GTi14 Ultra 迷你主机发售：内置电源、语音交互

　　微星发布 MAG 275QF 显示器：2560×1440 分辨率，180Hz 刷新率

　　与中坚力量共成长，2024建信信托艺术大奖评委会特别奖获奖艺术家凌海鹏

　　7月2日（发布）河北，数数这有几层？萌娃肉嘟嘟软乎乎得让人想rua，网友：小时候五花三层很可爱，为什...

　　7月2日 发布，在教育孩子这个问题上，家长也是学生。一起学习吧！成为孩子的榜样半岛综合app官网客户端下载半岛综合app官网客户端下载半岛综合app官网客户端下载