抖音将上线“评论发文警示”等功能预防网暴

发布网友发布时间：2022-08-14 17:55

共1个回答

热心网友时间：2023-01-21 11:52

抖音将上线“评论发文警示”等功能预防网暴，抖音“闭环”型的打通预防网暴的前中后期，推出国内首个为用户提供各个场景预防网暴功能的服务。抖音将上线“评论发文警示”等功能预防网暴。

抖音将上线“评论发文警示”等功能预防网暴1

针对频发的网络暴力现象，日前，抖音宣布全面升级平台预防网暴能力，为用户提供了8项功能，全方位管理评论和私信。其中，针对不当私信，新上线“风险提醒”和“负向内容过滤”等功能；针对已发送的不当评论，即将上线国内首个“发文警示”功能，进行拦截。至此，抖音已成为国内首个为用户提供多场景下预防网暴能力的平台。

据了解，在互联网平台中，发布评论、私信是公众对社会热点事件和人物表达意见最主要的方式和场景。但因其发布成本较低、传播效率较高，也容易产生*扰、人身攻击、侮辱谩骂甚至诽谤造谣等行为。数据显示，抖音每天产生8亿条评论，其中，被投诉、举报并最终处理的不当评论中，“谩骂，人身攻击”占比32.79%。

对此，抖音从管理评论和私信两个维度入手，为用户提供一揽子服务能力。首先，针对评论，抖音即将上线国内首个“发文警示”功能，引导用户友善评论。该功能下，若系统模型判定已经发送的评论存在问题，则会推送弹窗提醒，建议发送者重新编辑，去除不当言论。如果发送者坚持发送，则该条评论不会在评论区出现。据悉，该功能在近期的小范围测试中，已经日均减少约3万条不当评论。

除此之外，在评论端，抖音还先后上线了“评论权限分层管理”、“关键词屏蔽”、“评论精选”三项功能。其中，用户在使用“评论权限分层”时，可以通过“权限设置-高级设置-谁可以评论”设置评论权限，根据自身需求从“所有人”、“仅粉丝”、“仅互关朋友”、“仅自己”四个选项中，自主选取谁可以对自己发布的内容进行评论。

其次，在私信渠道，抖音新增“用户风险提醒”和“负向内容过滤”两大功能。在“用户风险提醒”功能下，当系统模型识别发现，用户刚接收的陌生人私信存在风险时，会对用户推送弹窗，提示其“是否认识该用户”。如果用户选择“不认识”，系统会再次弹窗，提示用户可进行“拉黑、举报、移除粉丝”等操作，确保自身安全。目前，该功能日均会对25万次会话发出风险提示，引导用户自主管理社交对象。在“负向内容过滤”功能下，当模型判定用户收到的私信消息为“谩骂或*扰”，该消息会被直接放入“陌生人盒子—垃圾信息”中。该功能已日均为7万用户服务，减少他们接收的负向信息。

此外，抖音还推出了“心情暖宝宝”助手，以根据用户内容情绪倾向，通过消息对话的交互方式，缓解用户负向情绪。

抖音安全治理相关负责人表示，抖音上线的这一系列预防网暴的功能，提供了从私信到评论，从主动管理发送者到接收者自我管理的多场景的服务能力，“努力实现从人到文（内容），人文并举的管理”。

抖音将上线“评论发文警示”等功能预防网暴2

互联网时代下，人们获取信息的途径越来越便捷，这也令喜欢对他人之事“品头论足”的人越来越多，其中更是不乏一些“看热闹不嫌事大”的“键盘侠”利用网络评论颠倒黑白，制造话题。他们不分青红皂白的质疑、诽谤、恶意侮辱、谩骂和歪曲事实，给当事人造成了巨大的心理压力和内心创伤，甚至陷入孤立无援的地步，“刀没扎在你身上，你根本不知道疼”，那种痛苦的经历只有当事人自己知道。心理脆弱的人往往无法忍受网络暴力所带来的伤害，采取自杀的方式来抗争者更是不在少数。

2018年，南京发生“泰迪狗事件”后，网友对当事人童先生进行了人肉搜索、言语威胁，其妻子不堪重压选择自杀。其他著名的案例还有“《魔道祖师》粉丝人肉网友致其自杀”、“德阳女医生自杀事件”等。今年年初寻亲男孩刘学州自杀的悲剧，再一次印证了网络暴力的可怕。

评论、私信作为一个公域表达的场景，由于其门槛低、私密性弱的特性，部分恶意*扰、人身攻击、侮辱谩骂甚至诽谤造谣的信息，以较低的发布成本、较高的传播效率给部分创作者带来了较为负向的反馈体验。

以抖音为例，2021年4月以来，据抖音安全中心统计，平台每天产生8亿条评论，其中，被投诉、举报并最终处理的评论中，“谩骂，人身攻击”占比32.79%。

针对这一网络社会现状，抖音不断“人文”化升级产品，“闭环”型的'打通预防网暴的前中后期，从主动管理发送者到接收者自我管理，推出国内首个，为用户提供各个场景预防网暴功能的服务。

据了解，抖音推出的预防网暴功能服务共有8大功能。这些功能既有平台根据模型识别主动进行警示与人文关怀，也有用户根据自身需要，对与其交流的“人”与“文”进行自主管理。在让用户充分表达的同时又保护了创作者的情绪，给予了用户自主权与自主能力，在因人而异的评论区，让用户在“个性化”和“人性化”之间取得平衡。

警示风险评论营造良好*氛围

抖音此次将在国内推出首个“风险评论发文警示”功能，当用户评论内容存在一些不当言论时，抖音平台会及时弹出“风险评论发文警示”，作为一个提醒机制，为人们提供了一个反思内容的按键，让用户在把言论发表出去前仔细斟酌自己想表达的内容。同时，抖音在原有“谁可以评论”功能（所有人、仅粉丝、仅互关好友、仅自己）的基础上，新增了关键词屏蔽、评论精选两大功能。用户可以在权限设置中自主选择评论权限功能，并对评论中自己不想收到的关键词进行屏蔽。

用户风险提示贴心提供人文关怀

此外，抖音在私信功能上也做了进一步建设。抖音推出了接受私信设置（所有人、互关好友、关闭）、用户风险提醒（拉黑、举报、移除粉丝）、负向内容过滤三大功能，用户可以对与其交流的“人”进行自主管理。

用户如在私信中遇到发送者存在发送不良言信息，言语*扰行为等，抖音会进行用户风险提醒并对负向内容进行过滤，用户可以自主选择对私信用户进行拉黑、举报、移除粉丝等操作。同时，抖音上线平台小助手“心情暖宝宝”，为用户提供人文关怀，通过消息对话的交互方式，缓解用户的抑郁情绪。

抖音一直致力于为广大用户提供一个记录和分享美好生活的互联网平台。抖音此举让科技的发展充满了人文气息的关怀，让用户更感受到关怀引领责任，责任体现担当的平台使命。

评论自由诚可贵，网络和谐价更高。我们也呼吁更多的网络平台向抖音此次技术升级学习，根治网络暴力这个顽疾，还网络评论区一片净土！

抖音将上线“评论发文警示”等功能预防网暴3

**“清朗2022 年春节网络环境整治”专项行动启动以来，抖音针对人肉搜索、曝光隐私、欺辱谩骂等不良内容，专门成立了网络暴力专项治理团队，重点整治借疫情、社会热点事件等挑动网民对立，进行人肉搜索、辱骂攻击等网络暴力行为。

施害者治理

抖音表示，通过升级治理模型，加强巡查力度，集中整治通过评论区或私信，对新冠疫情当事人、热点事件当事人等群体进行人肉搜索、泄露他人隐私、谩骂攻击等违规行为，对相关违规账号进行处理，严重的予以封禁。

受害者保护

综合短视频、评论、私信等各个环节数据分析，当系统识别到用户被网暴的风险明显增大时，平台将通过电话外呼、客服警示等手段，提醒用户使用产品功能屏蔽网暴、*扰信息，切实保护用户的人身安全。

同时，抖音也提醒广大用户，如果在用户使用抖音过程中，遭遇到人身攻击，可以通过关闭私信功能、设置视频权限、拉黑举报发布攻击言论的账号等方式，保护自身不受*扰。

私信场景

1、关闭私信功能：设置-隐私设置-谁可以私信我-关闭。

2、目前实名为青少年用户，将默认开启“仅相互关注好友才能私信”。

3、当用户收到陌生人或单关人消息时，如果对方的消息存在违规导流行为，会有提示内容，提醒用户是否认识该用户。点击不认识后，会有弹窗提示用户进行拉黑 / 举报 / 移除粉丝操作。

4、当陌生人或单关人给用户发来*扰、谩骂消息时，会被干预处理，有效帮用户隔离网络暴力等负向内容。

评论场景

1、设置视频权限：右下角权限设置-高级设置-谁可以评论，进入后用户可以选择：所有人 / 仅粉丝 / 仅互关朋友 / 仅自己。

2、评论拉黑举报：长按不良评论-设置评论权限 / 举报。