极端主义内容在网络上的传播及其对澳大利亚人的影响与日俱增，澳大利亚独立网络安全监管机构决心采取措施以遏制其发展。
朱莉·因曼·格兰特（Julie Inman Grant）是一名电子安全专员。
“不幸的是，这是一个日益严重的问题。我们所看到的是，由于关注和冲突带来的商业利益，许多这样的平台正使自己成为暴力极端分子的武器。它们的商业模式是保持粘性，让算法继续引发越来越多的冲突，让人们参与进来。而现在，内容的危害程度各有不同，这显然会对每个人和全社会都产生负面影响。”
电子安全委员会记录了更多关于有害内容在社交媒体平台上重新传播的报告，包括2019年的克赖斯特彻奇恐怖袭击事件。
它还持续收到关于网络仇恨事件的报告。那些来自不同文化和语言背景的人群在网上的仇恨言论水平为18%，高于澳大利亚的全国平均水平14%。
在截至2019年8月的12个月内，大约每7名澳大利亚成年人中就有1人成为网络仇恨言论的目标。这一群体总人数达200万人，占总人口的14%。
因曼·格兰特女士表示，在网络危害问题方面，自我监管的时代已经结束。
监管机构行使《网络安全法》赋予的权力，向六家社交媒体公司发出了法律通知：谷歌、Meta、X——前身为推特、WhatsApp、Telegram和Reddit。
“我们需要知道，他们正在为他们的创新、信任和安全基础设施投入资金；他们正在提供前端保护，从而防止他们的平台被当作武器，防止恐怖和暴力极端主义内容被发布、共享，然后被放大。”
他们有49天的时间响应法律通知，否则将面临数千万美元的罚款。
本月早些时候，联合国支持下的反恐技术组织表示已锁定一个伊斯兰国论坛的用户群，该论坛正在讨论如何使用生成式人工智能来进一步传播他们的信息。
因曼·格兰特女士表示，透明度和问责制是制止网络危害的关键所在。
“激进主义可能进展得非常缓慢、非常微妙，也可能引起强烈的恐惧并迅速产生。但我们真正关心的是那些实在极端的内容：斩首、绑架、我们的图片，我们的年轻人所看到的，他们没法视而不见的真正暴力的枪击事件。非常有害。但随着时间的推移，一些意象、一些意识形态所产生的腐蚀性影响，会真正撕裂由民主性和社会凝聚力所组成的社会结构。”
经合组织近期发布的一项报告对恐怖和暴力极端主义信息流行率最高的社交媒体平台进行了排名。
Telegram位列第一，YouTube紧随其后，接着是X平台。
Meta旗下的Facebook和Instagram分别排名第四和第五。
迪肯大学全球伊斯兰政治教授格雷格·巴顿（Greg Barton）的研究领域涉及暴力极端主义和恐怖主义的打击措施。
他表示，生成式人工智能只会加剧网络危害带来的挑战。
“真正的挑战之一是，我们将看到生成的、无法辨别真伪的东西。其中一部分危害是，我们将不再相信任何事情和任何人；我们会对真实的东西失去信心。在新冠肺炎大流行期间，社交媒体加重了假新闻和反科学阴谋论的阴影，我们已经看到了这一点。无论是文本还是图像和视频，生成式的人工智都能产出更大数量的、更有说服力的材料，这将使我们目前面临的挑战与即将到来的挑战相比显得微不足道。”
巴顿教授表示，极端主义和恐怖主义内容在网上的存在使人们更难参与安全的网络空间，这也造成了更多的分裂；并可能成为激进主义的温床。
他说，极端分子和恐怖分子利用了人类的脆弱性，而我们需要通过建立更积极的群体联系来与之对抗。
“需要理解的是，这在很大程度上是由社会和心理需求驱动的。因此，当存在弱点、存在漏洞、当有人需要什么东西时，不关心他们最大利益的人就有可能介入并提供这些东西。我们很容易觉得，如果他们的想法让我们觉得极端，我们可以通过与他们争论来解决这个问题，只要试图反驳这些想法就行。这并不是什么好的开始，甚至不应该继续下去。最重要的是保持联系，保持沟通渠道的畅通，尽最大努力表示我们不会妄下断语。我们只是关心你，我们想聊聊。告诉我发生了什么。如果你能保持这些联系，那么有可能这将成为对抗他们听到的其他声音的平衡力量。随着时间的推移，如果他们对其他声音感到失望（通常会这样），他们就很容易回归到家人、朋友和社会中。如果我们把他们关起来，他们无处可去，他们就会更加脆弱，也更难回头。"
澳大利亚的恐怖主义威胁水平目前仍处于POSSIBLE水平（即五级系统中第二低的水平），但在过去的18个月里，澳大利亚安全情报局（ASIO）关注到极端分子传播暴力和仇恨的活动有所增加。
ASIO安全总干事迈克·伯吉斯（Mike Burgess）于上个月[2024年2月28日]发布了最新的年度威胁评估报告，他表示当局正在密切留意这一情况。
因曼·格兰特女士表示，在应对日渐泛滥的网络仇恨方面，每个人都可以发挥作用。
她说，应对这一问题是一项全球性挑战，国际上越来越多的机构正在共同努力寻找解决方案。
“电子安全委员会成立于2015年，是世界上首个在线安全监管机构。在最初的七年里，我们基本上是这个领域的独苗。谢天谢地，情况正在发生变化。昨天，我们刚刚让来自欧盟委员会的内政专员在办公室介绍了他们的恐怖主义立法，而他们的遵守率为100%。所以，与欧盟合作将使我们更加强大。欧盟是一个非常强大的区域性集团，在监管方面拥有丰富的专业知识。我们单枪匹马也许会走得更快，但携手同行能走得更远。"
欢迎下载应用程序SBS Audio，关注Mandarin。您也可以通过苹果播客、Spotify等播客平台随时收听和下载SBS普通话音频故事。
