抖音自杀视频:是时候平台合作限制令人不安的内容了

据报道，一段据称显示自杀的令人不安的视频正在流行的短视频应用抖音上流传，重新引发了关于社交媒体平台正在采取什么措施限制令人不安的材料传播的辩论。

据媒体报道报告在美国，这段视频于8月底首次出现在Facebook上，但后来又被重新上传并在Instagram和TikTok上分享——据说有时会被分享剪掉看似无害的内容比如猫咪视频。

抖音用户警告另一些人则会在看到一个长头发和胡子的男人的视频弹出时迅速刷走。

TikTok的声明引用News.com.au评论道:

我们的系统已经自动检测并标记这些片段，因为它们违反了我们针对展示、赞扬、美化或宣扬自杀内容的政策。

我们正在禁止那些反复尝试上传视频片段的账号，出于对个人及其家人的尊重，我们感谢那些举报内容并警告其他人不要在任何平台上观看、参与或分享此类视频的社区成员。

学校和儿童安全倡导者警告家长，如果他们的孩子是TikTok或Instagram用户，他们可能会看到或已经看到这段视频。

可悲的现实是，用户将继续发布令人不安的内容，而平台在发布之前不可能进行调整。一旦视频上线，内容很快就会迁移到其他平台上。

将矛头指向抖音等单个平台并不能解决问题。现在需要的是一种协调的方法，让大型社交媒体巨头一起合作。

逃避适度

后审核意味着即使是最糟糕的内容也可以发布。要么是平台用机器学习系统识别，要么是用户报告给人工审核员处理。但它可以直播五分钟，一个小时或更长时间。

视频一旦上传，就会被不良分子下载，经过调整以降低被内容审核机器学习系统发现的几率，并在多个平台上分享——Reddit、Instagram、Facebook等。

抖音在年轻人中特别受欢迎。在上面

这些不良行为者可以对视频进行略微不同的剪辑，在无害的材料中编辑，在视频上添加过滤器或扭曲音频，使内容审核程序难以自动识别令人不安的视频。带有视觉内容的机器学习正在进步，但并不完美。

克赖斯特彻奇大屠杀的视频大致就是这样，从枪手的Facebook直播中截取的内容被下载，然后在各个平台上分享。

当Facebook撤下原始视频时，人们已经有了它的副本，并上传到Facebook、Reddit、YouTube等网站上。这很快就变成了一个跨平台的问题。这些坏人还可以添加标签(有些听起来很无辜)来针对特定的社区。

TikTok作为一个社交媒体平台的关键吸引力之一是它的“可传播性”;基于用户刚刚观看的视频，它可以非常方便地创建和分享新的视频。

只需轻按几下，用户就可以创建一个“二重唱”视频，展示自己对这些令人不安的内容的反应。不良行为者也可以轻易地重新上传被删除的视频。现在这个所谓的自杀视频已经在野外传播，TikTok将很难控制它的传播。

版权下架呢?

一些人指出，社交媒体平台似乎非常擅长迅速从其服务中删除受版权保护的材料(从而避免巨额罚款)，但在涉及令人不安的内容时，似乎会更加迟缓。

然而，在很多方面，有版权的视频更容易被机器学习审核系统检测到。用于限制受版权保护的材料传播的现有系统是专门为版权执法而建立的。

例如，TikTok使用一个系统来检测受版权保护的材料(特别是由主要唱片公司授权的音乐)自动识别歌曲的指纹。

即便如此，TikTok也面临着一系列问题与版权执法有关。在该平台上检测仇恨言论或图形视频要困难得多。

改进的空间

当然，还有改进的空间。这是一个全平台、全社会的问题——我们不能说抖音做得不好，这是所有平台需要共同解决的问题。

但要求市场竞争对手拿出一个协调一致的方法并不容易;平台通常不会共享资源，也不会在全球范围内协同工作来处理内容审核。但也许他们应该这么做。

TikTok除了算法驱动的自动内容审核外，还雇佣了大量的人工审核员团队。这些人工内容审核员在许多地区和语言中工作，以监控可能违反使用条款的内容。

最近的事件表明必威可以一次提200万吗，TikTok意识到对改进内容审核做法的需求日益增长。2020年3月，为了回应国家安全担忧，TikTok的母公司字节跳动承诺停止使用中国的审核团队调节国际内容。它还在2020年3月建立了一个“透明中心”，允许外部观察员和专家审查该平台的审核做法。

这些平台拥有巨大的力量，随之而来的是责任。我们知道内容审核是困难的，没有人说它需要一夜之间解决。越来越多的用户知道如何利用系统，而且没有单一的解决方案可以解决这个问题。这是一个不断发展的问题，解决方案也需要不断发展。

提高数字公民技能

公民也有自己的角色。每当这些令人不安的视频流传开来，就会有更多的人上网寻找这些视频——他们与朋友谈论它，并为它的传播做出贡献。

更复杂的是，在TikTok上报道视频不像在Facebook或Instagram等其他平台上那么简单。最近的一次研究我(Bondy Kaye)参与了TikTok与中国抖音的功能比较。我们发现报告功能位于从两个平台的主屏幕访问的“分享”菜单中——这不是一个很多人会想到的地方。

所以，如果你是抖音用户，看到了这段视频，不要到处分享——即使是为了谴责它。您可以通过单击共享图标并选择适当的报告选项来报告视频。

任何寻求自杀方面的支持和信息的人都可以致电131 114生命线或1300 224 636 Beyond Blue。

Ariadna Matamoros-Fernandez传媒学院数字媒体讲师，昆士兰科技大学和Bondy Valdovinos Kaye，博士生/编辑助理，昆士兰科技大学

本文转载自谈话在创作共用许可下读了原文。