分享好友 厨具导购网站首页 频道列表
关停!facebook的ai「失控」聊嗨后,研究员也看不懂
2025-07-24 07:32    5339    中华厨具网

icaniieverythingelse……ballshavezerotometometometometometometometometo

上面的内容,不是我睡着了,脸在键盘上滚过打出的字。

这是两个「失控」ai自己发明的对话语言。

趁着人类不注意,俩ai聊了什么?

facebook人工智能实验室前不久做了个研究:让两个ai通过对话训练来学习人类的交流方式。这个测试目的是提高ai的语言能力,希望未来它们能和facebook的用户做沟通。

但是聊着聊着,两个机器人就「嗨」了,不再受限于原有设定——用标准英语语法沟通,开始用研究员不懂的语言来对话。

bob:icaniieverythingelse……

alice:ballshavezerotometometometometometometometometo

bob:youieverythingelse……

alice:ballshaveaballtometometometometometometome

bob:iicaniiieverythingelse……

bob:i……

alice:ballshavezerotometometometometometometometometo

(图自:independent)

面对这些无语法结构的内容,研究员也没办法真实理解这两个ai到底在聊什么。最开始时候,研究员以为这是机器出现的偶然错误,但随后发现,这种聊天模式频繁出现。而且,只要ai用自己的这种聊天方式,最终双方总能达到预期的谈判结果。相反的,当研究员调整模型结构,强制纠正ai的语言后,facebook的数据显示,最终的对话效果并不优秀。

今年6月时,facebook就发现了这种现象出现,随后研究员做了人工干预调整。但或者是效果不佳,7月31日,facebook决定关停这个ai系统。官方解释称,facebook希望ai能和人沟通提高效率,而不是让ai用人类不懂的语言相互沟通。

facebookai语,真的可以称为「语言」吗?

在facebook的ai有了自己的沟通方式后,不少人开始想一个问题:这些无结构的文本内容,真的可以称得上「语言」吗?仅从人类角度来看,这些文本并没有意义。宾夕法尼亚大学语言学教授马克·利伯曼(markliberman)就此表示:

「语言」二字具体如何使用,不是由语言学家来决定的。facebook的ai是否创造了语言,要看我们如何定义「语言」。比如说,语言学家会认为python、javascript这类计算机语言并非真正的语言,但我们也会称之为「语言」。

那么,facebookai所使用的语言(外媒称之为facebotlish),可以成为一种新的或会持续发展的语言吗?

马克·利伯曼给出了否定的答案。他表示,尽管还没有足够的信息能够解释这种情况,但ai的交流是完全基于文本,而人类语言来涉及到了口语表达和肢体动作,文本沟通是一种人为附加方式。也就是说,facebookai的语言能力距离人类文明程度还很遥远。

利伯曼教授还表示,机器或系统自己在发展过程里开发出一个属于自己系统内沟通的方式,并且不会被人类打断,自己进化和发展几十年甚至几百年,这种情况在未来是会发生的。但他也认为,facebook的ai并不能代表这种未来趋势,因为它的水平还很低。

尽管如此,facebook此前曾发表过一篇关于人工智能的研究论文,表示ai在学习了人类的谈判技巧后,他们的表现已经很像「人」。比如说,ai会假装自己对某个特定的内容感兴趣,然后假装让步,以看似「牺牲」的方式获得更大的利益空间。像这次这两个ai的对话,从对话形式和这些语句来看,两个ai似乎在「争吵」,而谁都不肯让步于自己的「想法」。

ai在训练过程里发明出自己的语言,facebook的ai并不是孤例。此前,google曾发现人工智能能通过翻译工具创造自己的沟通语言。

转载:中国机器人网(原始来源:评论:0)

以上是网络信息转载,信息真实性自行斟酌。

版权/免责声明:
一、本文图片及内容来自网络,不代表本站的观点和立场,如涉及各类版权问题请联系及时删除。
二、凡注明稿件来源的内容均为转载稿或由企业用户注册发布,本网转载出于传递更多信息的目的;如转载稿涉及版权问题,请作者联系我们,同时对于用户评论等信息,本网并不意味着赞同其观点或证实其内容的真实性。
三、转载本站原创文章请注明来源:中华厨具网

免责声明:

本站所有页面所展现的企业/商品/服务内容、商标、费用、流程、详情等信息内容均由免费注册用户自行发布或由企业经营者自行提供,可能存在所发布的信息并未获得企业所有人授权、或信息不准确、不完整的情况;本网站仅为免费注册用户提供信息发布渠道,虽严格审核把关,但无法完全排除差错或疏漏,因此,本网站不对其发布信息的真实性、准确性和合法性负责。 本网站郑重声明:对网站展现内容(信息的真实性、准确性、合法性)不承担任何法律责任。

温馨提醒:中华厨具网提醒您部分企业可能不开放加盟/投资开店,请您在加盟/投资前直接与该企业核实、确认,并以企业最终确认的为准。对于您从本网站或本网站的任何有关服务所获得的资讯、内容或广告,以及您接受或信赖任何信息所产生之风险,本网站不承担任何责任,您应自行审核风险并谨防受骗。

中华厨具网对任何使用或提供本网站信息的商业活动及其风险不承担任何责任。

中华厨具网存在海量企业及店铺入驻,本网站虽严格审核把关,但无法完全排除差错或疏漏。如您发现页面有任何违法/侵权、错误信息或任何其他问题,请立即向中华厨具网举报并提供有效线索,我们将根据提供举报证据的材料及时处理或移除侵权或违法信息。