Facebook的新AI系统如何停用数十亿个虚假帐美晨集团股份有限公司户

Facebook的假账户存在一个大问题-该公司知道这一点。在短短三个月内，Facebook或许会删去简直与该站上实在账户相同多的假账户。

该交际络今日提醒了其最新发现的假造品的办法：一种称为深度实体分类(DEC)的新机器学习模型。 Facebook标明，该体系现已检测到数亿个违规帐户。

DEC旨在战胜传统的检测假造帐户办法的局限性，该办法一般侧重于用户个人资料。当帐户显现高度可疑的行为(例如发布数百张Rayban太阳镜的图片)时，这能够很好地作业。可是，老到的攻击者能够经过奇妙地调整其行为来诈骗这些类型的体系，例如调整其朋友数量和坚持帐户活动的时刻。

新体系经过检查更深层次的功能来处理此问题。它经过将可疑帐户衔接到与之交互的一切朋友，组和页面来找到这些内容。

然后它将查询一切这些衔接的实体。朋友将依据他们的年纪，参加的集体以及他们具有的朋友数量宣布信号。能够依据他们招引的成员和他们具有的办理员来评价组。页面能够经过其办理员人数进行评价。

它经过检查数以万计的功能来辨认虚伪帐户

经过剖析一切这些实体的行为和特点，该模型对帐户是否为假造有了一个很强的知道。

可是，假如的确使他们错了，则帐户会进入上诉程序，使被告有时机在被制止之前做出回应。

Facebook社区诚信产品司理Brad Shuttleworth说：“这是纵深防护。” “正是这两套体系严密协作，弥补了互相的缺点。”

假朋友

监管Facebook或许是一项艰巨的使命。单凭人类剖析人员就无法办理如此巨大的规划，而机器将在虚伪账户和实在账户的行为细微处挣扎。

并非一切看起来假造的帐户都有歹意目的。

Facebook“社区诚信”部分的数据科学司理Bochra Gharbaoui说：“人们说假话时，一般是可疑的。”

“他们不确认帐户的目的，也或许是他们在Facebook上看到的行为与他们希望人们在平台上的行为不一致。”

这些希望能够反映出文明差异。例如，在国际某些当地，“朋友”仅在您遇到的人中很遍及，而在其他地区，用户常常增加从未见过的朋友。

为防止轻视不同文明，Facebook的社区规范团队仅重视遍及价值观。

另一个问题是，假帐户并不总是歹意的。它们或许仅仅企业，安排或“非人类实体”，例如宠物猫，扮演亚伯拉罕·林肯的人物或外星人，大约被过错地分类为帐户而不是页面。

他们要禁用的违规帐户是那些计划形成危害的帐户。这些一般是由骗子和垃圾邮件发送者企图获取现金而创立的。有时他们会在一个季度中找到数十亿美元。

Facebook最新的社区规范履行陈述标明，他们的办法正在见效。在曩昔的两年中，在用户告发之前发现了他们采纳举动的违规帐户中超越99.5%。

不过，依然很难知道他们或许遗漏了多少个假帐户。 Facebook估量大约有5%的每月活泼帐户是假造的，但供认无法确认数字。

尽管如此，Facebook有决心其新体系运转杰出，并热衷于向批评家确保，人类依然处于循环之中。

沙特尔沃思说：“在这里，咱们看到机器学习和人工检查永久协同作业。”

该体系还难以确认政治动机。 Facebook成立了专门的团队来查询这些类型的攻击者，例如专心于民族国家行为者的信息运营部分。可是DEC的经验能够支撑他们的剖析。

他们很快就对这项作业的发展进行了严重检测：美国总统大选间隔咱们只要九个月的时刻。