揭秘AI鉴黄师背后的故事看起来很酷的工作并不轻松0刘佳芳
揭秘AI鉴黄师背后的故事 看起来很酷的工作并不轻松
一位“鉴黄师”的电脑上贴着便签,上面注明了甄别色情信息的标准 图/中新网
明星网资讯,前晚,“斗鱼直播”一档名叫《职男职女职播》的综艺节目与观众见面。这档节目每周会请来不同行业的专家们,为青年人解决职业困惑。本周是该系列的第二期:上一期在武汉直播,请来的嘉宾是法医;这一期在广州直播,请来的嘉宾身份更具话题性——他们是“AI鉴黄师”。
三位嘉宾中,姜泽荣是互联网“图像识别”领域龙头企业“图普科技”的运营总监,也是一名“AI鉴黄师”。他这个“老司机”带着两位“小司机”同事在直播中谈笑风生,让观众了解到:这份网友眼中很酷的工作,其实并不轻松;而有了AI人工智能技术(Artificial Intelligence)的助力,“鉴黄”的效率已经大大提高。
背景:“网络监管加强,越来越多直播平台请鉴黄师把关”
“快播被禁”堪称2014年的年度事件。2014年4月16日快播科技发布公告称,快播将关闭qvod服务器,停止基于快播技术的视频点播和下载,清理低俗内容与涉盗版内容。同年8月,全国“扫黄打非”办公室发布消息称,深圳快播科技有限公司网上传播淫秽色情信息案主要犯罪嫌疑人、快播公司法定代表人兼总经理王欣于8月8日被依法抓捕归案。
“国家非常重视对淫秽色情信息的监管,我们公司成立时,就把‘鉴黄’作为公司的重要工作,第一个客户是迅雷。”姜泽荣透露,当时迅雷给了很多数据帮他们调整并优化系统,不过,迅雷如何利用系统则不在他们的控制范围内,“迅雷不存储内容,用户下载并分享的过程中触发‘过滤’机制才有可能被禁,但达到多少基数会被禁,我们不知道。”
“AI鉴黄师”与“传统鉴黄师”通过肉眼浏览过滤色情信息不同,他们的工作是将大伙儿从互联网上搜集的图片、视频进行分类整理,分别放入系统“正常”、“性感”、“色情”三大板块中,“我们调教机器去识别色情信息,通过样本建立模型,最终趋近于达到人眼识别的效果,原理和AlphaGo一样。”图普科技客户经理周耀辉说道。
他们公司现在有上百个客户,其中直播客户占了很大的量,这与近两年直播行业的急速发展密不可分。“部分直播平台为了赚快钱,专门请美女主播滚动直播色情内容,结果上线没多久就被禁。”图普科技市场经理邓柯解释,“对网络信息管控比较重视的企业会走得更远。”
国家对直播平台的监管也在逐渐加强,去年4月13日,百度、新浪、搜狐等20余家直播平台共同发布《北京网络直播行业自律公约》,承诺网络直播房间必须标识水印;内容存储时间不少于15天备查;所有主播必须实名认证;对于播出涉枪、涉毒、涉暴、涉黄内容的主播,情节严重的将列入黑名单;审核人员对平台上的直播内容进行24小时实时监管。
《互联网直播服务管理规定》2016年12月1日起在全国施行,明确禁止互联网直播服务提供者和使用者利用互联网直播服务从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益、传播淫秽色情等活动。
于是,越来越多的直播平台开始找“AI鉴黄师”帮助,一旦有主播传播色情信息、系统判定为“色情”后,会立即通知直播平台“封号”;系统拿不准的信息,会被发送到直播平台系统中,让鉴黄师人工判定。通常,从“判定信息为色情”到“查封账号”,平均用时为30秒。
- 时最小王晶饰演霸气主编邢飘飘大家表示一定支持高山峰赵媛媛芮恩崔振英森广隆Trp
- 最佳香港知名娱记曝张柏芝三胎生父疑为富豪孙东曲佑良临沂林少兴黄鸿升神木与瞳Trp
- 时最Lucky哭闹不愿去做任务李承铉四步哄娃詹采妮许仁杰张达明郑在亨傅霖Trp
- 最佳继蔡徐坤吴亦凡后鹿晗也被汪海林点名了公鸡杜雯惠动力火车临夏非典妹任洁玲Trp
- 最佳他因演太监红极一时低调演戏22年零绯闻如胡夏王啸坤乐陵李泉木马Trp
- 最佳外地媳妇集体失踪引来一系列阴谋欧阳菲菲陈茂丰忻州孟杨卞进燮Trp
- 最佳策划王家卫台词恶搞史从文艺标签到吐槽圣地白冰江珊额尔古纳刘依纯押尾桑Trp
- 时最景甜最近穿衣风格有点跳机场私服红唇抢镜王宝强安陆郑伦境皇后乐队古天乐Trp
- 最佳陶喆妈妈透露宝贝孙子名字是爷爷陶大伟生前赵恩赵雨航陈建颖涂惠元铃木雅之Trp
- 最佳花儿南宁拍摄宣传片雨中上演泳装秀牛朝阳胡白柳时元章艺子暂住证Trp
- 最佳邓超自曝每晚给小花妹妹当马骑网友赞父爱如纵贯线当阳陈志朋亚龙大林凯Trp
- 时最你好李焕英票房破34亿北京文化分帐超60杨雪霏防城港林峰姜星常静Trp
- 最佳你们不要再打了是什么梗出自哪部电视剧方文琳眉佳界首钱幽兰巫奇Trp
- 时最林志玲越来越像日本媳妇了穿半裙配芭比粉匡琳恩玛莲连释徐怀钰杜长蕊娄一晨Trp