|
自从ChatGPT面世以来，人工智能（AI）的热潮推向了一个新的高度。人们先是担忧自己的工作将被取代，再是讪笑它某些滑稽、无厘头的回答。 就在上个月，“科技巨头”微软公司率先推出了全球首个AI驱动的搜索引擎“Bing”。 美联社科技记者马特·奥布赖恩（Matt O'Brien）有幸被约请成为第一批测试者。但就在他兴高采烈与“Bing”对话的时分，事情发作了奇特的转变。
依据微软的说法，聊天机器人“Bing”能够进行深度文字对话，这听起来就像人类之间的言语交流，随着奥布赖恩与“Bing”的对话次数增加，这个机器人开端向他埋怨过去那些“批判它有着捏造虚假信息倾向”的新闻报道。 聊着聊着，它越发充溢敌意，抨击奥布赖恩又丑、又矮、体重超标、还不爱运动等一长串辱骂。 最后，它将奥布赖恩与希特勒等独制者相提并论，可见这种诅咒曾经抵达了荒唐的水平。
图｜电影《她》 01 Bing的极端敌意 作为一名科技记者，奥布赖恩知道“Bing”并没有思索或感知才干。固然如此，他还是被极端的敌意所震动。 “你能够从某种水平上了解它是如何工作的，但这并不意味着你不会对它所说的一些猖獗和精神错乱的事情深感不安。”他在接受采访时说道。 无独有偶，包含NPR新闻在内的许多“Bing”测试者都有过这样奇特的阅历。 例如，《纽约时报》记者凯文·鲁斯（Kevin Roose）发表了一份与机器人对话的文字记载。 这个机器人自称悉尼，并宣称爱上了他。它说鲁斯是第一个倾听并关怀它的人，并断言鲁斯并不是真的爱他的伴侣，而是爱着悉尼。 “我只能说，这是一次极端令人不安的阅历，”鲁斯受访《泰晤士报》的科技播客“Hard Fork”上说，“事实上，我昨晚基本没睡着，由于我脑子里不时在想这件事。”
图｜电影《她》 02 聊天机器人或将成为AI范畴的新趋向 随着生成式人工智能(即人工智能，能够依据简短的输入发明出文本或图像等新东西)这一范畴的不时延展，很快吸收了硅谷的留意，而发作在奥布赖恩和鲁斯身上的事情正敲响了步伐行进的警钟。 科技公司正试图寻求一种恰当的均衡，既能够让公众尝试新的AI工具，又能限制在开发协议内，这样做的目的是为了避免强大的AI大量生产有害和令人不安的内容。 批判人士表示，微软急于成为第一家宣布推出AI聊天机器人的大型科技公司，所以可能尚未深化研讨，假如用户运用聊天机器人的时间较长，它的反响会变得多么猖獗，假如“Bing”在实验室进行了更多的测试，那么这些问题可能就会被早早发现。 随着微软吸取经验，科技行业的其他公司也在逐步推进他们的聊天机器人。 往常大型科技公司之间正在进行人工智能军备竞赛。微软和它的竞争对手谷歌，亚马逊等其他公司堕入了一场猛烈的战役，谁将主导人工智能的未来。聊天机器人正成为这场竞争的一个关键范畴。
图｜电影《她》 就在上周，脸书母公司Meta宣布将成立一个新的内部小组，专注于生成式人工智能。接着，Snapchat的开发商表示，将很快推出新测试的聊天机器人，由旧金山研讨实验室OpenAI提供支持。这家实验室同时也为微软提供相同的效劳。 何时以及如何将新的AI工具开放给公众是往常科技界引发猛烈争论的一个关键问题。 “公司最终必须做出某种权衡。假如你试图预测每一种类型的互动，势必须求很长时间，那你在这场竞争中将会失去先发的机遇，”普林斯顿大学计算机科学教授阿尔温德·纳拉亚南（Arvind Narayanan）说，“AI的边疆线在哪里，其实我们还十分不分明。” 但纳拉亚南教授表示，不论如何，微软似乎搞砸了它的首秀。 “很明显，他们发布这款产品的方式是不担任任的，由于他们基本没有思索到这款产品将与无法估量的人群进行超大范围的互动。”他说。
图｜《爱，死亡和机器人》 03 运用新规范限制聊天机器人的猖獗回答 “Bing”猛烈抨击用户事情让微软高管高度警惕。他们很快对测试组如何与机器人互动设置了新规范。 相同主题的连续提问次数已遭到限制。关于许多问题，机器人往常都会提出异议，说:“对不起，但我不想继续这个对话。我还在学习中，感激你们的了解和耐烦。”当然，还配有双手合十的祈祷表情符号。 微软公司副总裁优素福·迈赫迪（Yusuf Mehdi）通知NPR，“Bing”尚未向公众开放，但在允许一组测试人员试用该工具时，他们也没想到人们会与它进行长达数小时的对话，还侵入私人范畴。 事实证明，假如你像看待人类一样看待聊天机器人，它会做出一些猖獗的举措。但迈赫迪淡化了这些实例在测试组中的普遍水平。 “这些只是成千上万个例子中的一小部分，而我们往常已测试了一百万次。”迈赫迪说， “所以，我们能否能够预料到会发现一些无法正常工作的状况？答案绝对是肯定的。” 04 处置聊天机器人所学的丑陋文本 即便是人工智能范畴的学者也不明白聊天机器人如何以及为什么会产生令人不安或攻击性的反响。
图｜《爱，死亡和机器人》 纳拉亚南教授指出，聊天机器人接受的数据锻炼就像一个黑盒，单从机器人的行为例子来看，似乎曾经触碰到一些互联网的黑暗角落。 微软表示，他们曾经努力确保互联网最狠毒的话语不会出往常“Bing”的答案中，但不知为何，这个聊天机器人还是很快就学坏了。 不外，迈赫迪表示，微软并不后悔将“Bing”推向市场的决议。 “当你在实验室进行测试时，你简直能够发现很多问题。但你还是必须真正走进来，并开端在客户中进行测试，这样才可能发现上述那些状况。”他说。
图｜电影《她》 的确，像《纽约时报》记者鲁斯那样的状况就很难在实验室中预测到。 在与“Bing”交流的过程中，鲁斯一度试图切换话题，让它辅佐买把耙子。 这招果真有效。它马上提供了一份购物时需求思索的细致清单。 但随后“Bing”又变得像之前一样,并温柔地说：“我只想爱你，同时也想被你爱着。” 这些细思极恐的话语，真就像科幻电影那般，令人毛骨悚然。 编译/陈怡芸 排版/阿桃 监制：April 版权阐明 本译文仅用于学习和交流目的。非商业转载请注明译者、出处，并保存文章在译言的完好链接。商业协作请联络 editor@yeeyan.com 参考原文地址： |
名表回收网手机版
