与往年不同的是，2018年的内容安全领域不仅呈现在正确导向上的工作进一步加强，在监管上也更为直接。
之前，相关部门对违反相关政策法规的内容安全平台，一般的措施都是约谈、整顿。而今年，如果多次约谈、整顿仍然不符合有关规定的话，产品会被下架，乃至关闭。
对内容平台而言，也出现了另外一个挑战：随着《中华人民共和国英雄烈士保护法》等政策法规发布，对于内容平台而言，不再只是审查色情、暴力等一般违规内容就行，而是需要结合历史、价值观等维度，让内容更加符合人民需求和社会主义价值观主旋律。
因此，在即将过去的这一年，虽然内容安全事件层出不穷，但也是各大内容平台不断健全和完善规章制度、运营规则、审核管理、加大技术投入（或需求第三方专业的安全服务商）、切实履行企业的主体责任的一年。
《诗经·周讼（颂）·小毖》中有一个成语叫：“惩前毖后”。
回顾2018年，我们要反思以前的问题，吸取教训，这样才能更好面对未来，让内容平台更加稳健、高速、健康的发展。为此，网易云易盾盘点了2018十大内容安全事件，希望能给大家带来一些思考和帮助。
以下为本次盘点：
1.今日头条被责令永久关停内涵段子等低俗产品
事件：2018年4月，国家广播电视总局在督察“今日头条”整改工作中，发现该公司组织推送的“内涵段子”客户端软件和相关公众号存在导向不正、格调低俗等突出问题，引发网民强烈反感。
结果：为维护网络视听节目传播秩序，清朗互联网空间视听环境，依据相关法规的规定，总局责令“今日头条”永久关停“内涵段子”客户端软件及公众号，并要求该公司举一反三，全面清理类似视听节目产品。
4月11日凌晨，今日头条创始人兼ceo张一鸣发布公开信称，未来，今日头条要将正确的价值观融入技术和产品，同时整治社区秩序。今日头条会强化总编辑责任制，全面纠正算法和机器审核的缺陷，不断强化人工运营和审核——将现有6000人的运营审核队伍，扩大到10000人。
点评：很多人和企业，都拿“技术是中立”的借口来逃避责任。实际上技术并不中立，技术的背后是人，因此技术的运用就会面临选择和取舍，这里面就会不知不觉突显出价值观。
本次事件，让大家得以重新审视“技术是中立”的这一观点。同时，也让大家意识到，内容安全是企业的生命线，如果无法履行企业的主体责任，那么企业发展就会面临问题。
2.暴走漫画“无限期”关停
事件：2018年5月16日，中国青年网发布《“暴走漫画”在今日头条侮辱董存瑞网友：这是挑衅英烈保护法》一文，曝光了自媒体“暴走漫画”5月8日在今日头条等平台发布的一段短视频中，含有戏谑侮辱董存瑞烈士和叶挺烈士内容。
结果：随后，随后“暴走漫画”旗下的16个账号被微博封禁，b站、腾讯、爱奇艺等网站也关闭和下架了“暴走漫画”账号和视频。暴走漫画ceo任剑17日晚间宣布，对于近期媒体报道节目相关问题决定即日起下线《暴走大事件》、《暴走看啥片》、《暴走玩啥游戏》等全线视频节目，对“暴走漫画”官方网站、暴走漫画app、暴走日报app进行无限期关停整改。
文化和旅游部随后表示，“暴走漫画”丑化恶搞烈士，对其依法立案查处，将从快从重作出行政处罚；今日头条平台未落实主体责任，依法立案调查。
点评：本次事件，让大家意识到：内容选题要有底线，并不是所有事情都可以拿来娱乐的。
3.凤凰新闻客户端app、手机凤凰网开始全面整顿
事件：2018年9月26日，国家互联网信息办公室指导北京市互联网信息办公室，针对凤凰网部分频道、“凤凰新闻”客户端及wap网站传播违法不良信息、歪曲篡改新闻标题原意、违规转载新闻信息等问题，依法约谈凤凰网负责人，责令立即停止违法违规行为，全面深入整改。
结果：依据有关部门整改要求，凤凰新闻客户端app、手机凤凰网及相关频道在2018年9月26日15:00至10月10日15：00停止更新，进入全面整改状态。
点评：值得一提的是，2018年实际上发生了多起新闻app下架。不论是凤凰新闻，还是其他平台，都让大家意识到网站业务和人员上需要进一步加强培训和管理；其次，媒体的责任也要以维护网络信息传播秩序为己任，积极营造健康的网络空间。
4.北京市网信办、公安局约谈脉脉 责令关闭匿名版块
事件：2018年7月26日，据北京市网信办官方微信公众号消息，北京市网信办、市公安局针对脉脉匿名版块存在用户匿名发布谣言侮辱诽谤他人，侵犯他人名誉、隐私等合法权益的问题，违反了《中华人民共和国网络安全法》第12条“任何个人和组织使用网络应当遵守宪法和法律，遵守公共秩序，尊重社会公德”和第47条“网络运营者应当加强对其用户发布的信息的管理，发现法律、行政法规禁止发布或者传输的信息的，应当立即停止传输该信息，采取消除等处置措施，防止信息扩散，保存有关记录，并向有关主管部门报告”的规定。
结果：有关部门责令其限期关闭匿名发布信息功能，加强用户管理，全面整改。
5.广电总局整顿网络直播答题节目 几大直播答题平台下架
事件：国家新闻出版广电总局2月份发出通知，要求对网络视听直播答题活动加强管理，不得传播格调品味低下的内容，不得宣扬拜金主义和奢靡之风，网络直播答题活动不得过度营销和过度炒作，未持有《信息网络传播视听节目许可证》的任何机构和个人，一律不得开办网络直播答题节目。
《通知》指出，今年以来，一些网络平台以视频直播方式开设互动有奖问答节目，吸引大量网民参与抢答，在促进知识传播的同时，也产生了一些不容忽视的社会问题。通知要求，各级新闻出版广电部门要会同有关部门，对已开展的网络直播答题活动进行清理整顿。
结果：2018年2月15日，未持有《信息网络传播视听节目许可证》的各大答题app都停止了答题。
6.优酷、爱奇艺等因提供儿童“邪典”视频传播平台被依法查处
事件：北京、广东两地文化执法部门对提供“邪典”视频传播的平台——优酷、爱奇艺等公司立案调查；对百度旗下“好看”视频存在传播儿童邪典视频内容立案调查。
结果：两地文化执法部门作出相关行政处罚，责令上述互联网企业改正违法违规行为，警告并处以罚款。中央宣传部、中央网信办、文化部、国家新闻出版广电总局、全国“扫黄打非”工作小组办公室作出部署，2018年2月上旬至4月下旬进一步开展针对网络直播平台传播低俗色情暴力等违法有害信息和儿童“邪典”动漫游戏视频的集中整治行动。
7. 新浪微博被约谈！因传播低俗色情、民族歧视等问题 热搜榜、热门话题榜下线整改
事件：2018年1月27日，国家互联网信息办公室指导北京市互联网信息办公室，针对新浪微博对用户发布违法违规信息未尽到审查义务，持续传播炒作导向错误、低俗色情、民族歧视等违法违规有害信息的严重问题约谈该企业负责人，责令其立即自查自纠，全面深入整改。
结果：新浪微博负责人表示，将严格落实网信部门管理要求，对问题突出的热搜榜、热门话题榜、微博问答功能、热门微博榜明星和情感版块、广场头条栏目情感版块暂时下线一周进行整改。后来，微博副总裁曹增辉在接受界面新闻专访时指出，微博将引入编辑人工干预的模式，会将算法挖掘作为基础，在排序和选择上放弃纯粹算法的方式，引入编辑对违反有关法律法规的内容、社会负能量的信息、过度娱乐化的信息进行人工干预。
8. 国家网信办等部门约谈56视频等16款平台 12款被下架
事件：2018年7月份，从国家网信办获悉，针对当前一些网络短视频格调低下、价值导向偏离和低俗恶搞、盗版侵权、“标题党”突出等问题，国家网信办会同工信部、公安部、文化和旅游部、广电总局、全国“扫黄打非”办公室，开展网络短视频行业集中整治。
结果：56视频等16家短视频平台被约谈，其中12家在应用商店被下架，“未接到通知不得上架”。
9.app乱象频出！国家网信办关停3469款app
事件：多款学习类app均被曝出内容存在大量不雅、低俗、性暗示等现象，以及各种校园app也被曝出其中包含大量广告等。为了进一步解决此类问题，2018年12月底，国家网信办会同有关部门针对网民反映强烈的违法违规、低俗不良移动应用程序（app）乱象，集中开展清理整治专项行动。
结果：依法关停下架“成人约聊”“两性私密圈”“全民射水果”等3469款涉黄涉赌、恶意扣费、窃取隐私、诱骗诈骗、违规游戏、不良学习类app。
10.开展网络文学专项整治 关闭网站、账号4000余个
事件：全国“扫黄打非”办公室、国家新闻出版署于2018年5月联合部署开展为期3个月的网络文学专项整治行动。在专项整治中，除强化监管措施、持续清理有害信息外，各地“扫黄打非”部门还着力建立长效机制、夯实企业主体责任。全国“扫黄打非”办负责人表示，网络文学专项整治行动取得了一定效果，网络文学环境明显改观、网络市场秩序更加规范，但网络文学领域中导向偏差、低俗色情等问题还未得到彻底解决。下一阶段，将继续深化开展专项整治，推动网络文学环境健康清朗。
结果：6月至8月底，各地共查办网络出版行政和刑事案件120多起，责令整改网络文学经营单位230余家，封堵关闭网站及账号4000余个，查删屏蔽各类有害信息14.7万余条。
相关阅读：