Facebook在用AI模拟用户的不良行为
分类:新闻资讯
时间:2020-07-28 08:13:15
据报道,Facebook的工程师们开发了一种新方法,帮助他们识别和防止有害行为,比如用户传播垃圾邮件、诈骗他人或买卖武器和毒品。他们现在可以使用人工智能驱动的机器人来模拟不良行为者的行为,让它们在平行版本的Facebook上自由活动。然后,研究职员可以在模拟中研究机器人的行为,并试验阻止它们的新方法。
这个模拟器被称为WW,发音为"DubDub",是基于Facebook的真实代码库。该公司在今年早些时候发表了一篇关于WW的论文(之所以这么叫,是由于这个模拟器是WWW(万维网)的删减版),但在最近的一次圆桌会议上分享了更多关于这项工作的信息。
这项研究由Facebook工程师MarkHarman和该公司位于伦敦的人工智能部分研究职员领导。Harman对记者说,WW是一个非常灵活的工具,可以用来限制网站上的各种有害行为,他还举了一个例子,即利用模拟开发新的防御措施来对付骗子。
在现实生活中,骗子通常会从徘徊在用户的好友群中寻找潜伏的目标开始工作。为了在WW中模拟这种行为,Facebook的工程师们创建了一组"无辜"的机器人作为目标,并练习了一些"坏"机器人,这些机器人在网络中探索,试图找到他们。然后,工程师们尝试了不同的方法来阻止"坏"机器人,引进了各种限制条件,比如限制机器人每分钟可以发送的私信和帖子数目,看看这对它们的行为有什么影响。
Harman将这项工作与城市规划者试图减少繁忙道路上超速行驶的工作进行了比较。在这种情况下,工程师在模拟器中模拟交通流量,然后试验在某些街道上引进减速带等东西,看看它们有什么效果。WW模拟让Facebook可以做同样的事情,但对象是Facebook用户。
“我们将‘减速带’应用于我们的机器人所能执行的动作和观察,并如此快速地探索我们可能对产品做出的改变,以抑制有害行为,而不伤害正常行为,”Harman说。“我们可以将这个规模扩大到数万或数十万个机器人,因此,并行地搜索很多很多不同的可能...约束向量。”
模拟想要研究的行为是机器学习中足够常见的做法,但WW项目之所以引人注目,是由于该模拟是基于真实版本的Facebook。Facebook将其方法称为“基于网络的模拟”。“与传统的模拟中所有的东西都是模拟出来的不同,在基于网络的模拟中,行动和观察实际上是通过真实的基础设施发生的,因此它们更加真实。”Harman说。
不过他夸大,尽管使用了这种真实的基础设施,但机器人无法与用户进行任何方式的互动。他说:“它们实际上无法通过结构,与其他机器人以外的任何东西进行互动。”
值得留意的是,这个模拟并不是Facebook的视觉拷贝。不要想象科学家们研究机器人的行为,就像你在Facebook群里看人与人之间的互动一样。WW并没有通过Facebook的GUI产生结果,而是将所有的互动记录为数字数据。
现在,WWW还处于研究阶段,该公司用机器人进行的模拟试验都没有给Facebook带来现实生活中的变化。Harman表示,他的小组仍在进行测试,以检查模拟与现实生活中的行为是否有足够高的保真度来证实现实生活中的变化。但他以为这项工作将在今年年底前对Facebook的代码进行修改。
当然,模拟器也有局限性。例如,WW无法模拟用户意图,也无法模拟复杂的行为。Facebook表示,机器人会搜索、提出好友请求、留下评论、发帖和发送信息,但这些行为的实际内收留(比如,对话内收留)并没有被模拟出来。
不过Harman表示,WW的强大之处在于它能够进行大规模的操纵。它可以让Facebook运行数千次模拟来检查网站的各种细微变化,而不影响用户,并从中发现新的行为模式。他表示:“我以为,大数据带来的统计能力仍未被充分熟悉。”
这项工作比较激动人心的一个方面是,WW有可能通过机器人的行动发现Facebook架构中的新弱点。机器人可以通过各种方式进行练习。有时会给它们明确的指令,告诉它们如何行动;有时会要求它们模仿现实生活中的行为;有时只是给它们一定的目标,让它们自己决定行动。正是在后一种情况下(一种被称为无监视机器学习的方法),可能会出现意想不到的行为,由于机器人找到了工程师没有猜测到的达到目标的方法。
“目前,主要关注的是练习机器人模仿我们知道的平台上发生的事情。但无论在理论上还是在实践中,机器人都可以做一些我们以前没有见过的事情。”Harman说。“这实在是我们想要的东西,由于我们终极是想走在不良行为的前面,而不是不中断地追赶。”
哈曼表示,该团队已经看到了机器人的一些意想不到的行为,但拒尽分享任何细节。他表示,他不想给诈骗者提供任何线索。
相关应用
相关文章推荐
-
海豚模拟器如何设置分辨率(一个设置即可)
很多玩家在用海豚模拟器玩游戏的会发现游戏的分辨率的太低了,那么怎么设置呢,其实非常的简单,下面就来教教大家操作方法。...[详情]
-
2021 高考查分开始,支付宝上线查分AI志愿模拟
全国各地将陆续公布高考成绩, 查分时间主要集中在 23 至 26 日 。内蒙古、上海、安徽、江西、广西、四川、云南、甘肃、宁夏等 9 省份明起可查高考成绩。...[详情]
- Facebook:超5亿用户数据泄露事件与数据窃取有关!
- 快手打击宣扬拜金类不良内收留 今年处置违规帐号10010个
- Facebook指责苹果:利用隐私题目进行反竞争行为!
- Facebook在用AI模拟用户的不良行为
- 围棋世界冠军柯洁:AI进步速度超人类 无穷缩短走弯路时间
- 众生游营养不良怎么办?众生游营养不良解决方法
- Facebook Messenger的新安全功能保护用户免受欺骗
- Facebook将更多隐私知情权交还用户:能下载被搜集的数据
同类排行
最新新闻资讯
- 有哪些永久免费观看视频的app推荐_不用付费在线观看高清版视频的软件
- 成为直播人的app有哪些软件推荐_免费的做直播APP平台下载安装
- 无广告免费小说app推荐哪个好用_全网最全小说免费阅读app排行榜
- 听歌免费的音乐app有哪些比较好用_不用付费的应用软件app可以听歌
- 可以免费追剧的app有哪些无广告推荐_永久免费不用VIP的追剧软件app排行榜
- 现在比较火的直播平台有哪些软件_2023新推出的排名前十的直播平台
- 手机上听歌免费的音乐软件哪个好2023_十大真正免费听歌的app软件不用充会员
- 网约车打车哪个平台最便宜最快_首单免费的打车软件app服务好
- 听音乐免费的软件哪个好不用登录推荐_不用VIP的手机音乐软件2023年排行榜
- 手机哪个平台直播好看点没那么严_最好看的免费观看直播平台排行榜