您如何将人们从导致暴力极端主义的兔子孔中拉出，或者阻止他们陷入困境？如果阴谋仇恨是在线超级传播者推动的另一种大流行，我们可以建立诸如治愈或疫苗之类的东西吗？
1月6日致命的国会大厦骚乱引发了一个新的争夺来回答这些问题，并促使像Vidhya Ramalingam这样的专家寻找新的方法来吸引极端主义者，例如搜索正念的搜索广告。
“It’s so counterintuitive, you would just think that those audiences would be turned off by that messaging,” says Ramalingam, cofounder and CEO of Moonshot CVE, a digital counter-extremism company that counts governments like the U.S. and Canada and groups like the Anti-Defamation League (ADL) and Life After Hate among its clients. But Moonshot’s researchers recently found that Americans searching for information about armed groups online were more likely than typical audiences to click on messages that encourage calmness and mindful thinking.
拉马灵姆说：“我们的团队尝试了它，而且似乎正在起作用。”这一发现与以前的证据相呼应，表明一些暴力极端主义者往往会更接受提供心理健康支持的信息。“这是与他们对话的开放。”
暴力风险是由阴谋论拉马林加姆说的极端主义兴趣与巴西，斯里兰卡，印度和缅甸等其他“高风险”国家的水平相当。就美国极端主义的指标而言，“数量飞涨”。
如何接触人并重定向他们
为了获得这些数字，月光下的毒性趋于传播的地方，暴力极右翼团体在其中进行大部分招募：Twitter，Twitter，YouTube，Instagram和Facebook，以及Mymilitia，Zello和Gab等利基平台。但是，其战略的核心是我们许多人开始寻求答案的地方，这是所有人最多的网站。拉马灵姆说：“我们都通过搜索引擎过着生活。”
Vidhya Ramalingam我们转向Google，问我们不会问我们的家人，伴侣或兄弟姐妹的事情。”
搜索还可以通过社交媒体没有的方式向用户传达一种虚幻的客观性和权威感。“It’s important that we keep our eye on search engines as much, if not more than we do social media,” Safiya Noble, associate professor at the University of California, Los Angeles, and cofounder and codirector of the UCLA Center for Critical Internet Inquiry, recently写在Twitter上。“社交媒体的主观性质更为明显。通过搜索，人们真正相信他们正在经历可靠的审查信息。Google是一个广告平台，结束。”
Moonshot始于2015年，采用了一种简单的叛乱策略：使用Google的广告平台以及收集的个人数据，将人们重定向到极端主义运动和更具建设性的内容。这个想法称为重定向方法，是与Google合作开发的，并被广泛吹捧为吸引人们寻找圣战者内容的人，针对刚开始ISIS宣传的年轻人，或者更激进的人可能正在搜索信息，这些人可能正在搜索信息。关于如何在边界进入叙利亚的关于。这个想法是将潜在的极端分子转移到反激化- 或帮助深处的兔子洞的人找到自己的出路deadicalization。这可能意味着将他们与导师或辅导员（可能是前极端主义者）联系起来。
首先关注圣战和欧洲白人至高无上的目的是现在努力追踪极端主义，阴谋理论和虚假信息（从Qanon到儿童剥削内容）的努力的一部分，从加拿大到斯里兰卡。但是对于Moonshot来说，美国是一个新的优先事项。上个月，在美国长大的拉马林加姆（Ramalingam）返回在华盛顿特区开设了该公司的第二个办公室，在那里它可以更接近政策制定者和从业人员。该公司还从其姓氏CVE中删除了首字母缩写：“反暴力极端主义”几乎成为误导的代名词过分强调在穆斯林社区，拉马灵姆指出，无论如何，旧战术还不够。随着极端主义的想法已经延伸到主流，Moonshot曾经的小小的目标受众现在数百万。
她说：“我们不能依靠我们所知道的工作，当时我们与数十个真正的边缘人打交道。”“我们需要测试各种新的消息传递。”
了解数据
如果您是成千上万的美国人，他们在选举周围的几个月中搜索了某些与极端主义相关的关键字，例如“加入誓言守护者民兵”，“我想拍摄Ron Wyden”和“如何制作C4” - 您 -可能是通过重定向方法对准的。在您的搜索结果的顶部，这可能是一个模糊的，无判断的信息，例如“不要做一些您会后悔的事情”。点击，您最终可能会在带有暴力预防内容的YouTube视频播放列表中，例如可能成为学校射击者的TED演讲或证词来自前新纳粹。或者，您可能会遇到促进平静的视频，或者将您引向心理健康资源的页面。仅1月6日左右，拉马林加姆说，超过270,000名美国人点击了Moonshot的危机广告。
为此，Google已获得Moonshot的特殊许可，以针对通常被禁止的极端主义关键字的广告。但是，尽管Moonshot在Google的帮助下启动了重定向方法，但如今，它通常会像其他任何广告客户一样，为开展广告系列付费。而现在，鉴于观众月球量在美国达到的巨大规模，“成本不在图表上，”拉马灵姆说。她说，关于其最近支持的ADL支持的运动，“我们从未每月为任何一个国家 /地区的广告付出很多代价。”
此广告数据带有警告。例如，在查看极端主义搜索词时，Moonshot不能确定它正在测量个人或同一个人搜索多次。它也不知道它是针对极端主义的极端主义者还是仅仅写极端主义的记者。
“在人们被锁在家里并消耗虚假信息的时候，家庭暴力，焦虑，抑郁，滥用药物的创纪录水平，解毒剂是什么？人们购买了枪支和弹药记录数字。因此，他们感到焦虑，生气，孤立，并且装备精良。”他说。“这是一场完美的风暴。”
科林·克拉克他们很着急，生气，孤立，装备精良。这是一场完美的风暴。”
在最近的分析中，与ADL合作进行，并在一份名为“从粪便到煽动，” Moonshot在选举日的三个月内追踪了数以万计的50个州的美国人的极端主义Google搜索。它看到搜索围绕重大政治事件的搜索，但也沿着地理和政治界限。在大流行居住命令持续9天或更少的情况下，与白人相关的搜索仅增长了1％。在全家订单为10天或更长时间的州中，增长率为21％。
大流行的政治激起了国内极端主义的利益，但也有助于团结不同的边缘运动，从民兵到气候否认主义者再到反对面具和反vaxxers。Ramalingam说：“我们开始看到美国所有这些不同意识形态的令人担忧的融合和转移 - 右翼群体融合并跨越了过道，以与反vax运动合作。”她指出，在危机时期，“当我们看到这些演员抓住社会中的恐惧和焦虑为他们成长的机会时。”
但是，拉马灵姆不仅关心最顽固的武装信徒。在选举和1月6日的事件之后，她现在担心碎裂的极右翼团体和不满意的阴谋理论家，他们努力争取意义。这使他们有进一步的激进化的风险。
她说：“有很多人基本上只是感到误导，他们觉得自己损失了很多，因为他们遵循了这些阴谋论。”QAnon channels filled up with anxiety, self-harm, and talk of suicide, “like a father saying, ‘My son won’t speak to me,’ people who have lost their jobs, people who said, ‘I lost my family because of this,’ ” Ramalingam says. “And so there’s a real moment now where we need to be thinking about the mental health needs of people who, at scale, bought into these conspiracy theories and lies.”
说什么
为了达到暴力激进主义者或阴谋理论家，拉马林加姆敦促意识形态论点谨慎。羞辱，嘲笑和基于事实的争论可能会适得其反。在某些情况下，使用不直接威胁人们的信念或品味，但试图在哪里遇到的非判断性和非意识形态信息可能会更有效。例如，正如弗雷尼特（Frenett）所暗示的那样，如果有人正在寻找纳粹死亡金属，请不要向他们展示演讲。取而代之的是，向他们展示一个具有死亡金属分数的视频，但没有种族主义。
简单的提醒是要注意，并考虑一个人的行为如何影响他人可能会有所帮助。In its recent campaign, some of Moonshot’s most effective messaging asked people to “reflect and think on their neighbors, their loved ones, the people in their immediate community around them, and just to reflect on how their actions might be harmful to their loved ones,” Ramalingam says.
对武装团体感兴趣的人最能接受“冷静”提供正念练习的信息。对于所有观众来说，Moonshot发现广告特别高的牵引力，上面写着：“愤怒和悲伤可能是孤立的。”当人们点击冥想内容或心理健康资源时，拉马灵姆指出：“他们似乎在看，听或听它，或者很长一段时间。”
为了吸引Qanon的支持者，Moonshot通过信息获得了最大的成功，这些信息试图同情他们对心理和社会支持的需求。“你很生气吗？一位针对Qanon关键字的Moonshot广告说，了解如何逃避愤怒并前进，该广告的点击率约为6％，是其他类型的重定向消息的两倍。单击这需要一些用户r/qult_headquarters，包括前拥护者帖子的子雷迪特。
防止暴力极端主义思想的传播涉及一系列更广泛的策略。为了加强信任和公众之间的共同现实 - 尚未落下兔子洞的人 - 研究人员正在探索其他对策，例如“态度接种，”提醒人们新兴的阴谋论和警告极端主义团体操纵的尝试。
专家还敦促通过教育和事实检查系统提高公共媒体素养。政府本身可能不会是可信赖的使者，但他们可以通过其他方式提供帮助公共卫生反对暴力极端主义的模型。这可能意味着为可以使人们参与的当地社区活动以及心理健康和社会计划的资金，这是当时的总统乔·拜登（Joe Biden）的想法认可在2015年白宫峰会上有关反暴力极端主义的峰会。
Vidhya Ramalingam对这些意识形态的羞辱的言论可能是从权力的人身上真正重要而有力的。”
说到白宫，拉马灵姆强调，极端主义意识形态值得对公众人物的严厉谴责。公司应列出种族主义和虚假信息的超级宣传，政治，文化和宗教领袖应强烈谴责他们。
拉马灵姆说：“对这些意识形态的羞辱的修辞可能确实是在权力的人身上确实很重要和有力的。”这是针对已经持怀疑态度的观众“需要听到它得到加强的声音，但也是中间的观众，并不真正知道或不在乎。而且听众确实需要听到，‘这是不好的。这是不可接受的。这不是社会规范。’”
但是，当针对更具极端主义的个人时，拉马林加姆建议一种更温和的方法。她说：“如果有人袭击了你，你有点将自己拉回到角落，站在地面上并捍卫它。”“因此，如果这是我们与社会最极端的方法，那实际上会使问题恶化。”
这个工作吗？
面对家庭恐怖威胁，正念和同情可能听起来像是用水手枪或拥抱参加太空激光战。
但是对布拉德·加洛韦（Brad Galloway）帮助人们退出右翼极端主义团体，Moonshot的消息传递很有意义。在前世，他使用聊天室和留言板将人们招募到新纳粹组织。在他加入（主要是由Camaraderie和Music）加入之后，这是一个仅美国的组织，最终发展到12个国家，这在很大程度上要归功于互联网。现在，盖洛韦（Galloway）是安大略理工大学的仇恨，偏见和极端主义中心的协调员，在那里他经常敦促他的受训者更加注意，尤其是在线。
“我要求人们思考，我真的需要观看学校射击的视频吗？”相反，他鼓励“积极的内容”取代可以加速甚至激发激进化的东西。
加洛韦（Galloway），曾与Moonshot合作仇恨之后的生活， 这预防暴力组织和其他团体说，同样的正面内容原则也适用于现实生活：与老朋友建立联系并找到有趣的新活动可以帮助人们离开腐蚀性的极端主义社区。“什么对那个用户有利，我们如何使他们更加突出？”
2018年兰德公司报告关于数字化的策略，以重定向为目标的极端主义受众“以与行业标准相当的速度点击这些广告”。不过，他们无法说出它最终对他们的行为产生了什么影响。随着新的资金流入，专家们提出了反激进想法的武器库，仍然有很少的证据表明有效的是什么。
Moonshot表示，其数据表明，其一些目标受众对极端主义的内容较少，并指出了成千上万的人与退出咨询和心理健康资源有关。尽管如此，拉马林加姆表示，该公司认为“对我们评估我们的数字运动是否可以导致与用户的长期参与以及长期变化的潜力更大。”
以前关于恐怖的数字战争的失误困扰着月亮的作品。
还有其他严重的问题。以前关于恐怖的数字战争的失误困扰着月亮的作品：秘密和外部监视系统，大数据政治战争军事反激进承包商- 持续的竞争者，无数侵犯隐私和其他公民权利。如果Moonshot正在跟踪哪些消息影响哪些消息，它收集了关于“处于危险”用户的数据，最终到底到了哪里，为什么？谁开始有风险？
拉马灵姆担心隐私问题；她承认，多亏了广告平台和经纪人，Moonshot可以利用“实际上有很多数据”。但是，她强调的是，Moonshot无法访问人们的私人信息，其工作是边界通过更严格的GDPR欧洲个人数据保护以及有助于评估影响的伦理小组。她认为，无论如何，Moonshot只是利用驱动大部分互联网的数十亿美元数字平台，更不用说市场了。
“As long as Nike and Coca-Cola are able to use personal data to understand how best to sell us Coke and sneakers, I’m quite comfortable using personal data to make sure that I can try and convince people not to do violent things,” Ramalingam says. Should that system of influence exist at all? “I’m totally up for that debate,” she says. “But while we’re in a context where that’s happening, I think it’s perfectly reasonable for us to use that sort of data for public safety purposes.”
那平台呢？
科技巨头已经开展了自己的重定向和反语音计划，这是持续努力阻止毒性的一部分在他们的平台上蓬勃发展。Google吹捧其工作带有月球与ISIS作斗争，其对极端主义的研究及其努力去掉令人反感的内容和减少建议在YouTube上“边界”内容。12月，其权利集团拼图发布它的发现关于暴力白人至上的数字传播。
Facebook在澳大利亚的2019年一名飞行员中测试了重定向方法，旨在将极端主义用户推向教育资源和外部平台支持，该系统呼应其自杀预防工作的系统，该系统使用弹出式弹出式弹出式弹出式弹出式危险用户将高风险用户重定向到预防热线。在评估去年由Facebook委托，Moonshot称该计划为“广泛成功”，并建议对未来的迭代进行更改。Facebook还测试了印度尼西亚和德国的计划。
拉马林加姆（Ramalingam）赞扬技术平台的努力，并支持他们的决定，即使这使大量的极右翼和Qanon相关的帐户枯竭，即使这使在线极端主义更加困难。她说，尽管如此，Big Tech的工作还不够。
极端主义内容继续通过平台的适度过滤器滑落，然后被算法奖励。Facebook自己的研究人员反复显示其以增长为中心的算法如何有利于极端主义内容。尽管YouTube进行了节制，政治学家Brendan Nyhan最近报道说，该网站的设计仍然可以“增强曝光模式”在极端神奇的人中。
“科技公司有义务利用其极大的特权。。。作为信息的渠道，为可能被困在暴力运动中的人们获得信息和有用的资源。” Ramalingam说。
在1月6日事件发生后，随着公司，立法者和执法部门为解决方案争夺解决方案时，拉马林加姆也警告不反对轻率的决定和短期思考。她说：“现在必须采取行动，我已经看到过去的错误是由政府和技术公司犯下的膝盖回应。”“然后，一旦谈话消失了，他们就回到了事物的本质上。”
鉴于1月6日的震惊或落在兔子洞中的家庭成员的震惊，情绪反应是可以理解的，但它们往往会适得其反。拉马灵姆说，在个人，一对一的层面上与暴力极端主义作斗争的方法也可以帮助以全国范围的规模与之抗争：避免假设，注意并考虑实际证据。
她说：“辅导员和社会工作者的工作方式是，他们从提出问题开始，试图理解。”“这是关于提出问题，以便这些人可以反思自己。”