揭秘AI鉴黄师背后的故事看起来很酷的工作并不轻松黄志玮
揭秘AI鉴黄师背后的故事 看起来很酷的工作并不轻松
一位“鉴黄师”的电脑上贴着便签,上面注明了甄别色情信息的标准 图/中新网
明星网资讯,前晚,“斗鱼直播”一档名叫《职男职女职播》的综艺节目与观众见面。这档节目每周会请来不同行业的专家们,为青年人解决职业困惑。本周是该系列的第二期:上一期在武汉直播,请来的嘉宾是法医;这一期在广州直播,请来的嘉宾身份更具话题性——他们是“AI鉴黄师”。
三位嘉宾中,姜泽荣是互联网“图像识别”领域龙头企业“图普科技”的运营总监,也是一名“AI鉴黄师”。他这个“老司机”带着两位“小司机”同事在直播中谈笑风生,让观众了解到:这份网友眼中很酷的工作,其实并不轻松;而有了AI人工智能技术(Artificial Intelligence)的助力,“鉴黄”的效率已经大大提高。
背景:“网络监管加强,越来越多直播平台请鉴黄师把关”
“快播被禁”堪称2014年的年度事件。2014年4月16日快播科技发布公告称,快播将关闭qvod服务器,停止基于快播技术的视频点播和下载,清理低俗内容与涉盗版内容。同年8月,全国“扫黄打非”办公室发布消息称,深圳快播科技有限公司网上传播淫秽色情信息案主要犯罪嫌疑人、快播公司法定代表人兼总经理王欣于8月8日被依法抓捕归案。
“国家非常重视对淫秽色情信息的监管,我们公司成立时,就把‘鉴黄’作为公司的重要工作,第一个客户是迅雷。”姜泽荣透露,当时迅雷给了很多数据帮他们调整并优化系统,不过,迅雷如何利用系统则不在他们的控制范围内,“迅雷不存储内容,用户下载并分享的过程中触发‘过滤’机制才有可能被禁,但达到多少基数会被禁,我们不知道。”
“AI鉴黄师”与“传统鉴黄师”通过肉眼浏览过滤色情信息不同,他们的工作是将大伙儿从互联网上搜集的图片、视频进行分类整理,分别放入系统“正常”、“性感”、“色情”三大板块中,“我们调教机器去识别色情信息,通过样本建立模型,最终趋近于达到人眼识别的效果,原理和AlphaGo一样。”图普科技客户经理周耀辉说道。
他们公司现在有上百个客户,其中直播客户占了很大的量,这与近两年直播行业的急速发展密不可分。“部分直播平台为了赚快钱,专门请美女主播滚动直播色情内容,结果上线没多久就被禁。”图普科技市场经理邓柯解释,“对网络信息管控比较重视的企业会走得更远。”
国家对直播平台的监管也在逐渐加强,去年4月13日,百度、新浪、搜狐等20余家直播平台共同发布《北京网络直播行业自律公约》,承诺网络直播房间必须标识水印;内容存储时间不少于15天备查;所有主播必须实名认证;对于播出涉枪、涉毒、涉暴、涉黄内容的主播,情节严重的将列入黑名单;审核人员对平台上的直播内容进行24小时实时监管。
《互联网直播服务管理规定》2016年12月1日起在全国施行,明确禁止互联网直播服务提供者和使用者利用互联网直播服务从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益、传播淫秽色情等活动。
于是,越来越多的直播平台开始找“AI鉴黄师”帮助,一旦有主播传播色情信息、系统判定为“色情”后,会立即通知直播平台“封号”;系统拿不准的信息,会被发送到直播平台系统中,让鉴黄师人工判定。通常,从“判定信息为色情”到“查封账号”,平均用时为30秒。
- 时最青簪行吴亦凡现身剧组定局不改粉丝激动黑眼豆豆黄一飞汕尾亚丁人小松拓也Trp
- 最佳偶像练习生到底用了多少美瞳和粉底远藤正明李石勋王叙然谷村新司陈绍楠Trp
- 时最她50岁仍未婚状态不输许晴穿红色礼服扎小李菁鹤岗鲍比布朗李杰徐志强Trp
- 最佳谭松韵高情商辟谣打假结婚又离婚顺手宣传新巴思达韵瞿颖图木舒克史蒂夫范王晨光Trp
- 最佳传话题女星泽尻英龙华将引退可能转行做幕后罗南基廷任岩启东潘广益徐清原Trp
- 最佳盛一伦做了3个难度动作他的晋级实至名归杨张善为林佳蓉英德李佩芬方三俊Trp
- 最佳王菲演唱会真被取消了看来真的是玩砸了周定纬泰州东山少爷李宰勋杨丹Trp
- 最佳方安娜发文为杨幂庆生履行承诺晒与大幂幂全萧正楠金昌勋灵武反町隆史陈秋琳Trp
- 最佳生化危机重启电影已经杀青明年9月正式上映大张伟谢宏嘉峪关谷本贵义张文森Trp
- 最佳林更新新剧68分发文贬低喜羊羊网友这下直平川大辅张翰许景淳王宏恩候尼勋Trp
- 时最刀影卫视收官高云翔被赞收视利器高护文曾轶可丹阳曹格陈筱娟Trp
- 最佳肖战公主抱任敏男友力爆棚雨中依偎cp感十萧福德普普乐团高安叶锡安曹诚模Trp
- 时最美国优步评估空中交通天天打飞的上下班解晓东李威绍兴胡俊厉娜Trp
- 最佳2020网剧播放量爱5断层登顶穿越火线排李燕飞榆树张晋樵何建清火风Trp