可能你会很难以想象，全球最大的视频网站 YouTube 一年拥有超过 800 万条违规视频上传，其中有近 670 万个视频是被机器标记的，76% 的内容在被人观看到之前就被删除了。 YouTube 披露了该视频网站的社区准则，比如不允许 " 色情、煽动暴力、骚扰或仇恨言论 " 等相关内容。

YouTube 一年清理超过 800 万违规视频

自 2017 年 6 月引入机器学习的新技术以来，算法帮助其大幅提升了消除违规内容的响应时间。下方柱状图展示了被标记为 " 暴力极端 " 的的观看量数据：

与此同时，人工也帮助标记了 930 万个视频，其中大多数内容涉性、垃圾、仇恨和暴力元素。

" 暴力极端 " 视频的观看数量

大约有 95% 的人工标记是由普通用户贡献的，剩余大部分归功于 YouTube 上一个名叫 " 可信标记者 "（Trusted Flaggers）的群组。最后，YouTube 推出了一款新工具 —— " 报告历史 " 仪表盘以便用户根据该公司对社区的指导方针，追踪被其标记的视频的状态。