网络盟友为何在打击骚扰中举足轻重

2015年夏天,格雷格、拉希德和一些同龄人开始在Twitter上反对种族主义。他们发现使用n字的人,并温和地告诫他们,提醒他们他们骚扰和伤害真实的人。具有讽刺意味的是,格雷格和拉希德都不是真正的人。他们是机器人。

它们是纽约大学政治学学生凯文·芒格创造的。通过对各种Twitter僵尸程序编程,以应对针对黑人用户的种族主义虐待,他表明,简单的一条Twitter谴责实际上可以减少在线种族主义。他说:「我喜欢以乐观的态度看待这件事。」“改变人们的行为是可能的,而不仅仅是短期的。“

但有一个问题:只有来自白人(或拥有白人个人资料图片的机器人)和大量粉丝的斥责才有效。普林斯顿大学心理学家贝琪·莱维·帕鲁克说:“这些社区中地位较高的成员对公开反对种族主义或偏执言论负有更大责任,这是有原因的。”。“这不仅仅是道德判断,而是许多研究项目中的经验规律:地位较高的人在影响规范,随之而来的是责任。如果有人说,我不是榜样,那是愿望,不是事实。“

Mungers的研究是在Twitters日益认识到骚扰的严重问题之际进行的。今年早些时候,喜剧演员莱斯莉·琼斯,一个最近重拍的《捉鬼敢死队》的明星,被可怕的种族主义推特淹没了。她是多年来最突出的大规模虐待受害者,但远远不是唯一的受害者。正如Charlie Warzel在Buzzfeed上所写的,“今天,Twitter是众所周知的女性和有色人种的猎场,这些女性和有色人种常常只是为了露面而成为新纳粹、种族主义者、厌恶女性者和巨魔的目标。“这个问题已经得到Twitters CEO的认可,公司今天推出了新的工具来解决这个问题,包括静音某些对话和过滤我们选择的单词或短语的能力。

芒格试图通过创建几个机器人来实现这一点。他给他们提供了所有相同的个人资料和男性卡通形象,但他改变了他们的肤色和名字,使他们可以辨认出是白色还是黑色。他还给了他们追随者——要么不到10人,要么在500到550人之间,他“从粗略的网站上买的”。“他从他们的账户上写了假推特,这样没人会怀疑它们不是真的。

接下来,他在Twitter上整理了一份白人男性的名单,他们定期和无礼地向其他用户发n字。然后,他用各种机器人中的一个来攻击这些人,这些机器人警告他们诽谤。他小心翼翼地选择了一些没有攻击性但强调普通人性的词语:“嘿,伙计,记住当你用那种语言骚扰他们时,真的有人受伤了。“

在接下来的几个月里,芒格发现,如果白人bot允许他们使用种族主义语言,而且有很多追随者——而且只有那个bot。这也不仅仅是一种驾车效应:它随着时间的推移而减少,但至少持续了一个月。

「它与先前的研究保持一致,」电影制作人和未来学家大卫迪伦托马斯说。例如,2014年,14岁的Trisha Prabhu创建了一个名为“反思”的反网络欺凌应用程序,该应用程序检测人们何时写了伤人的评论,并询问他们是否确定要发布这些评论;大部分人后退。正如托马斯所说,“如果你能让别人意识到他们的所作所为会产生影响,扰乱“我有这种情绪”的过程,我只是想发布它,在某些情况下,它会影响发布可恶评论的频率。“

这种方法显然是可扩展的。你可以想象一群机器人,在Twitter和Facebook上爬行,大声反对仇恨言论。肯尼索州立大学研究未来主义和人工智能的哲学家达米安·威廉姆斯说:“提倡使用机器人来控制行为似乎很奇怪,但它不一定是机器人。”。“像威廉·吉布森这样的人,有成千上万的追随者抽出时间说,‘嘿,这是不可接受的,你伤害了真正的人,这会对许多人产生重大影响,他们认为他是他们团队中的重要人物。“

更令人惊讶的是,芒格还发现,这种方法仅对匿名用户有效。骚扰者在使用自己的名字和照片时,并没有受到有影响力的白人机器人的影响,面对追随者少的黑人机器人时,更是尖酸刻薄。这一结果违背了一般的直觉,即匿名用户更有可能相互之间产生可怕的影响。但芒格有一个解释。

当PEople选择匿名,他们淡化自己的个人身份,让自己的群体身份接管。这可能会使他们对群体之外的人更有敌意,但也会对群体内部人的社会压力做出更大的反应。但是,当人们用自己的名字来表达他们的仇恨时,指责可能会证实他们的偏见。

这种影响比以往任何时候都重要。在美国大选后的一周内,南部贫困法律中心已经在全国各地收集了315多起可恶的骚扰和恐吓事件——这大概是他们在半年时间里预料到的。在各机构准备通过立法和宣传进行大规模斗争的同时,消除偏见的负担也是每天的负担。

这一切都不能免除Twitter和Facebook等公司在自己的平台上打击骚扰的责任。但如果没有这些措施,用户显然可以做很多事情——尤其是大多数群体中有影响力的成员。现在是盟国的时候了。用Palucks的话来说,“是时候在对话和时刻成为一个积极分子了。”

或者,正如Crunk女权主义者团体的一名作家简单地说的那样,“带上你的人。“