法制建设•多方联合打击网络恐怖主义

 2017-08-18 13:49   陈彦均

  欧盟理事会首次立法监管网络视频内容;美国科技业巨头脸书、微软、推特与YouTube宣布组成反恐伙伴联盟,以阻遏极端主义内容在互联网上传播。

  科技业巨头组反恐联盟

  6月29日,美国科技业巨头脸书、微软、推特与youtube在推特的政策博客发表联合声明,宣布成立“全球互联网反恐论坛” (global internet forum to counter terrorism),组成反恐伙伴联盟,目的是通过共享技术、研究成果与信息知识,“让我们的消费者服务平台继续对恐怖分子与暴力极端分子不友善”,以阻遏极端主义内容在互联网上传播。联合国安理会反恐委员会对此表示欢迎,并表示“此举提高了联合国与互联网公司现有的公私合作伙伴关系”。

  该联合声明中指出:“恐怖主义与暴力极端主义的散播是一个迫切的全球性问题,也是大家面对的一大挑战……我们相信通过携手合作,分享我们各自最佳的技术与运营要素,就可以对网上恐怖主义内容的威胁产生更大的冲击。” 全球互联网反恐论坛的成立是欧洲多场讨论会以及日前七国集团(G7)峰会与欧洲理事会会议的综合成果。

  论坛创立初期的重点是改进将极端内容移除的技术、委托机构进行相关研究以及共享知识。该论坛也将与其他小型的科技企业、民间组织、学者以及政府机构展开合作。四家创始企业在声明中说到:“我们的工作范围随着时间的变化,必须要能应对不断蜕变的恐怖主义与极端主义伎俩。”

  欧洲近年频频遭受恐怖袭击,各大社交网站被舆论指责未采取足够措施以阻止恐怖分子利用这些平台传播恐怖主义、招募新成员。例如,今年5月23日,英国曼彻斯特体育场发生爆炸袭击。这是英国自2005年伦敦地铁爆炸案以来遭受的最严重的恐怖袭击案。而在案发前几小时,社交网络上就出现了扬言要在曼彻斯特体育馆“复仇”的威胁信息,并警告称这场爆炸案只是一个开端。

  欧盟理事会首次立法监管网络视频中的恐怖主义言论

  欧盟的立法人员曾多次呼吁科技企业应当控制恐怖主义和仇恨言论的扩撒。5月24日,英国曼彻斯特体育场发生爆炸袭击的后一天,欧盟理事会就通过一项提案,强制要求包括脸书、推特、YouTube等互联网平台封杀含有仇恨言论和煽动恐怖主义内容的视频。目前这项提案只是针对存储在平台上的视频,不包括视频直播。这项提案将成为管制社交媒体的正式法律,是一个欧洲整体层面上管制社交媒体公司的法律。欧盟委员会表示,虽然我们的社交媒体以言论自由而自豪,但在网络上散布非法的仇恨言论不仅会对牵涉的个人或组织带来负面影响,同时会反过来影响在开放社会中拥戴言论自由、秉持宽容与非歧视原则的人们,并让网络平台上的民主交流产生寒蝉效应。

  该提案要求 Netflix和 Amazon Prime这样的视频内容提供商,在自己的内容库当中必须要有30%的欧洲电影和电视节目,欧盟委员会此前的要求是20%。Netflix这样的服务商也被要求制作属于欧盟成员国的电影和电视节目。“制定一个全欧普适的视听内容管理法规,避免国家不同、法律不同而出现问题是很重要的,我们要考虑到新的视频观看方式,找到一个合适的平衡点,既能鼓励创新,促进欧洲电影业的发展,也能保护孩子,遏制仇恨言论。” 欧盟委员会副主席 Andrus Ansip在一份声明中表示。

  究竟哪些内容被定义为涉及仇恨言论呢?根据脸书的定义,仇恨言论即因实际或假想的种族、族群、国籍、宗教、性别、性取向、残疾或疾病等原因而针对任何人发布的攻击性内容。但是,明显是幽默或讽刺性的内容是允许发布的,不过这些内容很可能被认为具有威胁性或攻击性。这包括很多人认为低俗的内容(例如:玩笑、脱口秀、流行歌词等)。

  网络空间已成反恐重地

  互联网时代,社交媒体被“武器化”的趋势日益凸显,一种全新的军事战略战术正在被塑造。新兴网络社交平台以高开放度吸引了大量全球网民入驻,各类信息和言论呈现指数级增长。而别有用心的个人或群体也乘机利用网络社交平台信息的互动性强、传播速度快,以及用户基数大、年轻化等特点,将极端民族仇恨、种族仇恨、政治仇恨和个体仇恨言论在此进行“病毒性传播”,并产生“蝴蝶效应”,通过群体矛盾、暴力攻击、排外思潮等形式在现实生活中反映出来。

  近年来,欧盟已经成为网络仇恨言论的重灾区。其境内先后爆发的债务危机、难民危机、恐袭危机和脱欧危机等相互交织,导致政府应接不暇,社会不堪重负,“网络仇恨”在欧盟地区逐渐发酵——各成员国民众怨声载道,在社交平台上相互谩骂,种族主义言论层出不穷、“伊斯兰国”等组织的极端思想也趁机渗透,不断吸引“独狼”发动恐怖袭击。

  有学者研究表示,网络空间已经成为恐怖组织蛊惑人心、招兵买马、密谋策动的重要平台,网络恐怖主义甚嚣尘上,严重危及国家与社会安全。“伊斯兰国”等恐怖组织即可通过网络传播其极端理论。进入新媒体时代,信息的传播更加多元化、这些恐怖和极端组织正是利用脸书、推特等社交媒体平台建立“网络圣战”阵地,收集情报、招募成员、筹措资金、进行意识形态宣传等。“伊斯兰国”组织不但有负责网络攻击的成员,还有专门负责新媒体宣传的人员,通过技术推送和新媒体形式达到“1+1>2”的攻击效果。在社交媒体上,“伊斯兰国”通过至少24种语言传递信息,具有很明确的社交媒体策略,在社交网络上和追随者的“互动”无微不至。在新兴的“独狼”式恐怖袭击中,极端思想人士通过社交媒体被发展为恐怖分子单独行动,这更增加了情报部门对其行踪追查与预防恐怖袭击的难度。极端组织通过社交推送各种极端思想、“圣战”教义等,更通过视频、音像制品等进行更直观地输送,对追随者和支持者进行洗脑,潜移默化地在全世界培养出数量众多的恐怖分子,造成防不胜防的后果。

  英国《卫报》称,新媒体技术不仅简化了宣传机器的启动,更是大大提高了影片与图片的传播速度。“伊斯兰国”在网络上发布的影片中,包括处死西方援助工作者、记者、士兵、间谍、工人等等。他们或是被斩首,或是被射杀,而你只需要在手机上轻轻地点击几下,这些未经审查的镜头就会出现在你的眼前。而这只是这个恐怖组织巨大宣传攻势的一部分。当然类似这样的视频影片主要有两个功能:在煽动一部分人的同时,让另外一部分人心生恐惧。“伊斯兰国”这样的“新生”恐怖组织已经证明他们对新媒体的运用与那些“老牌”恐怖组织——比如“基地”组织——完全不同。而要与这些信息时代的恐怖组织作战,显然也需要新的手段。

  为何社交网络上的仇恨言论难以清除

  早在2016年年底,欧盟委员会已经和脸书、推特、谷歌和微软达成了打击网络仇恨言论的行为准则,这些社交网络平台同意在24小时内复查并去除被标记的仇恨言论,同时承诺将加强与一些民间组织合作,后者将协助标示出网络平台上煽动暴力和仇恨行为的言论。此外,这些公司还将加强与其他互联网公司、平台等分享相关经验。不过一份来自欧盟委员会在2016年12月份的调查表明,这些公司基本没有遵守这项协议。

  硅谷向来推崇自由和进步思想

  所有社交平台均表示,它们是基于自由言论建立起来的,而自由言论往往与监管部门对互联网内容的监督甚至是审查相冲突。谷歌、脸书和推特都试图在允许用户发声和内容监督之间达到一种平衡。社交媒体公司表示,之所以对删除仇恨内容反应迟缓,主要原因是他们不想被看作是听命于不自由或专制政府的傀儡。

  推特首席执行官杰克·多西(Jack Dorsey)在去年的财报电话会议上表示:“如果我们因为担心平台秩序陷入混乱而不允许用户发声,那么言论表达自由也就没有什么意义了。任何人都不应该成为网上谩骂的目标,推特不会为这种行为提供土壤。”

  对于人类来说,这个问题带来的挑战太大了。由于社交媒体网络的规模和影响力,人类不可能随时保持对各类内容的关注。例如,每分钟上传至YouTube的视频总长达400个小时,每天推特上面发表了5亿条有标签的推文。在脸书上面,用户每天上传的照片达到3.5亿张。

  脸书首席执行官马克·扎克伯格(Mark Zuckerberg)在一封公开信中表示:“每天我们网站上的帖子、评论和消息达数十亿条,由于审核所有这些信息是不可能完成的任务,所以我们只审核用户报告给我们的内容。”

  社交媒体公司管理这一问题的方法取决于用户,在用户报告了令其不适的内容后,社交媒体公司会运用技术和人力去审核,然后删掉相关帖子。YouTube等公司表示,他们会在24小时内对用户报告的98%的内容进行审核。

  算法同样无法胜任这项工作

  自动删除仇恨言论的问题在于,机器在辨别真正攻击性的帖子和嘲讽性或批评性言论的区别上不如人力。不过,由于机器可以立即识别图像,所以它们在识别有版权内容或是儿童色情内容等被禁内容上更轻松。但是,极端主义内容远比普通内容更难以解读。

  社交媒体分析研究中心主任杰米·巴特莱特(Jamie Bartlett)说:“这种东西很微妙,比如分享右翼传教士的视频,或是需要学者帮忙界定的宗教视频。极端内容的语言杂乱无章,甚至连人都无法认定,所以计算机能做到这一点的想法很幼稚。”

  社交媒体公司正在开发人工智能技术,帮助梳理内容并发现存在问题的东西。例如,扎克伯格表示脸书开发的人工智能“可以分辨有关恐怖主义的新闻报道和真正恐怖主义宣传之间的区别,这样,我们就能迅速封杀试图利用我们的服务,为恐怖组织招募人员的危险分子。”但扎克伯格同时表示,从技术上讲,“这种事情还有一定的难度,因为需要我们开发能阅读和理解新闻的人工智能”。

  美国法律并不强制科技企业监控内容

  作为美国互联网立法的一个重要篇章,《传播净化法案》(Communications Decency Act)是保护言论表达自由和互联网创新的重要工具,它提出了应由社交媒体用户而非平台对内容负责的一般原则。该法案表示,平台运营方不应承担法律责任,除非他们没按法律要求删除某些内容。

  巴特莱特说:“如果没有‘社交媒体用户对内容负责’这一项重要原则,他们的律师必须先对一切内容进行审核,然后才能发布。想象一下,如果律师不得不检查各类内容,以寻找违反版权的内容或是极端言论,那么这显然是不可能做到的事情;这些平台将会消失。人们应该知道,保持这一重要原则的确很重要。”

  欧洲政府的决定难以对美国科技公司带来影响

  英国内务部曾多次要求科技公司必须同意加强与执法部门的合作。但是,谷歌、脸书和推特等公司的总部都在美国,并且自认为只对全世界的用户负责,所以他们不像英国公司那样担心在议员们当中的形象。

  在英国议会外发生恐怖袭击后不久,伦敦警察局代理局长克雷格·马基(Craig Mackey)即表示:“当你与业务覆盖全球的公司打交道时,这的确是一个挑战,因为他们并不总是按照与英国企业所遵守的相同法律框架来行事。”

  欧盟或立法强制科技公司为网络恐怖主义负责

  欧洲近年频频遭受恐怖袭击,各大社交网站则被指未采取足够措施以阻止恐怖分子利用这些平台招募新血与宣传激进思想。今年早些时候,G7领导人曾敦促脸书、谷歌等科技领导公司加大力度打击极端主义内容。在多方舆论的压力下,脸书于6月份公开了打击恐怖主义内容的措施细节,包括使用人工智能(AI)技术来侦测涉恐图像、视频与文字。 随后其宣布在英国启动“线上公民勇气倡议”(online civil courage initiative,occi),以协助当地慈善机构与其他非营利组织辨识与应对仇恨言论。这项倡议此前已在法国与德国推出。

  YouTube母公司谷歌6月也宣布采取四项新的反恐措施,包括:投入更多资源开发能更有效辨识与移除极端视频的人工智能软件;扩大举报不当内容的独立专家团队;对未明确违反YouTube规范的视频添加警告信息、禁止用户对这些视频发表评论等,以使它们更难被搜索到;与前身为谷歌智库google ideas的科技孵化器jigsaw合作,向可能加入国际恐怖组织“伊斯兰国”的用户推介反恐视频,以打消他们参与“圣战”的念头。

  据推特今年3月发布的《透明度报告》显示,该网站去年下半年总共关闭了37万6890个涉嫌宣传恐怖主义的账户。推特将在今年下半年发布的报告中,公布打击极端主义内容的进展。

  随着各社交网站在监控内容上面对更大的政治压力,欧盟立法强制科技公司为其平台上的激进言论负责的可能性也越来越大。目前,只有德国提出了相关法律。预料德国下议院将针对一份相关草案进行表决,以决定是否要对未及时删除仇恨言论的社交网站施以最高可达5000万欧元(约3.8亿元人民币)的罚款。

(作者单位:北京市互联网信息办公室网络新闻监管中心,编辑李楠)