百科

用人工“造假”?Meta被曝内测新机制:你用的AI可能不是真AI?

时间:2010-12-5 17:23:32  作者:时尚   来源:焦点  查看:  评论:0
内容摘要:电子发烧友网综合报道 不知道你有没有想过,当你让AI助手帮你订外卖或预约服务时,对面执行这些任务的,可能是外包的人类员工。近日,Meta被曝光该公司正在为其新款个人AI助手Muse测试一项“人工管

电子发烧友网综合报道 不知道你有没有想过,造假当你让AI助手帮你订外卖或预约服务时,用人用对面执行这些任务的曝内,可能是测新外包的人类员工。

近日,机制Meta被曝光该公司正在为其新款个人AI助手Muse测试一项“人工管家”机制:Muse可能会在用户不知情的造假情况下,把电话任务交给人工外包,用人用由呼叫中心人员代替AI完成通话。曝内

此举不仅引发了用户对个人隐私的测新担忧,更引起了市场对Meta的机制AI产品是否“保真”的广泛质疑。而Meta的造假再次“翻车”,也进一步说明了当前的用人用AI行业,可能远不如用户想象那般“智能”。曝内

用人工“假装”AI,测新任务成功率可提升至95%–98%

没想到过了十年,机制Meta再一次在AI助手上“翻了车”。就在上周,Meta向员工通报了一项“人工管家”的内部测试:当Muse的通话功能遭遇复杂场景时,可能会在用户不知情的情况下将通话转接给公司承包商,由呼叫中心人员来完成通话。

Meta超级智能实验室一名副总裁表示,部分测试表明,由人工拨打电话,成功率可以提升至95%–98%,高于纯AI通话的成功率。但公司内部帖子也显示,已有部分员工对人工介入通话提出隐私担忧,警示该模式可能导致敏感信息无意中被AI泄露给呼叫中心外包人员。

一名员工在内部帖子中写道:“我很难理解,为什么我们认为这项功能值得冒这样的风险。只要出现一个程序漏洞,就会造成不必要的信息泄露给人工接线员。”

另一名员工还特别提到了一起种族歧视事件:他曾让Muse致电网络有线电视运营商协商账单,而通话记录显示,外包人员在通话过程中发表了带有种族歧视的言论。对此,Meta超级智能实验室副总裁承认,在未做出充分告知的情况下启动外包人员代打电话测试,属于“失误”,并称公司已暂时回滚该功能。

隐私问题固然不容忽视,但更为严重的其实是Meta试图利用人工来掩盖自身AI助手能力不足的问题,这无疑是对用户的一种“欺诈”。毕竟Meta在宣传上一贯以“超级AI助手”来吸引关注,但实际运行上却采用“AI+人工”的模式,这与十年前其在Messenger里测试一款名为M的数字助手但被曝光70%任务由人工完成的“丑闻”如出一辙。

用人工服务兑现“AI承诺”背后,AI公司正集体陷入焦虑?

根据市场情报机构Sensor Tower的数据显示,自发布以来,Meta的Muse上线至今下载量已超250万次。即便在当下这个遍地都是AI大模型的时代,Meta依然会采用这种“人工服务”来糊弄用户,充分暴露了Muse产品不够智能的缺陷。

当然,Meta并非第一家采用人工来替代AI执行任务的公司。2016年,《彭博商业周刊》便揭露了有些公司雇人每天花12个小时假装聊天机器人或者智能助手,为客户进行日程安排等服务。这是一份令人麻木而疲惫的工作,员工们纷纷表示他们真的期待有机器人顶替自己的位置。

2017年,企业费用管理程序提供商Expensify公司也承认,它此前声称的使用“SmartScan”技术的收据处理工作,至少有一部分是人工完成的。这些收据的扫描结果被发给了亚马逊的MechanicalTurk公司,在这家公司的众包劳动工具上,这些收据其实是由低薪酬雇来的员工们处理并誊写的。

2018年,谷歌被曝光允许数百名第三方应用开发者访问用户的邮箱,以此来完善“智能回复”的功能。

2019年,《华尔街日报》曾报道一家名为 Engineer.ai 的印度创业公司声称用 AI 技术来编写代码,使每个人都能够构建和运行定制软件。但据华尔街日报引述该公司多位高管和员工的说法,这家公司实际上并没有使用人工智能来构建应用,而是利用 AI 技术作为幌子,都是“印度码农”在做技术工作,用造假来“骗取”融资。借着 AI 的名头,该公司还拿到了以日本软银为首近 3000 万美元(约 2.1 亿人民币)的融资。

由此可见,即便庞大如Meta这种公司如今都还在采取人工的方式提升AI产品的“智能化”程度。那么,是否也有千千万万家中小型AI公司也在遵循这种行业“潜规则”,这也进一步说明当前全球AI产业发展远未达到人们所预期的智能化水平,或许在你让AI执行的某个复杂任务背后,就有一名外包员工在矜矜业业的为你工作。

小结

如今这个AI技术大爆发的年代,越来越多的AI企业为了能够融资、上市甚至急于让股东看到回报,或多或少都会借助外包人类员工的方式来提升AI产品的智能化水平。从资本的角度来看,这或许并不是什么大问题,只要能够做高估值甚至做大回报,些许铤而走险也理所应当。但从商业化甚至用户的角度来看,这也为很多AI公司的未来发展埋下了一颗“深水炸弹”,即便短期内用户难以发现问题,但长期下去任何一家AI公司都难保不出纰漏,毕竟一旦这一“丑闻”被曝光,对于任一家AI公司来说都将会是“灭顶之灾”。
copyright © 2026 powered by 网站收录亲子出游_热门内容合集   sitemap