不良内容屡禁不止 企业如何祛“污”

　　尤记得五年前,扫黄行动肃清了全国多地线下各大小“会所”。五年时间过去了,被清扫的“小姐姐”们都去哪里了?据坊间传言,某些“小姐姐”已经将阵地由线下转为线上,借着直播、短视频的火热,大力拓展“业务”。

　　五年前,各大小“会所”因违法违规一夜之间消失殆尽。如今全国“扫黄打非”办公室大力开展的“净网2019”“护苗2019”“秋风2019”专项行动剑起直指未及时自查的直播、短视频等平台,而这些平台,可能也有无法言表的“痛”。

　　　　为什么会痛?

　　大部分直播平台其实是遵纪守法的,但在直播的时候总有一些想要博眼球、抖机灵的用户,让平台深陷泥沼。除直播平台以外,一些超高流量的 APP 也成了不法分子的娱乐场,前不久腾讯云天御就帮某旅游 APP 第一时间避开了一场危机。

　　一场说走就走的旅行是当下潮流之一,该 APP 可谓是游客必备,其中旅游指导、游记分享、互动直播区与视频区更是深受游客喜爱,大家也会像翻看买家秀那样去评论区看建议,然而,这些本是分享攻略的地方,却成为一小撮不法分子发布招嫖、贩毒的“广告牌”。了解到这一情况后,腾讯云天御快速识别该 APP 内海量文本信息,迅速判断有害、色情等内容反馈给到审核管理员,由审核管理员及时进行删除/禁言/封号处理,以保证平台为用户提供安全健康的内容。

　　除了这类的内容社区容易中招之外,以下三大场景更容易成为不法分子散播色情、暴力、血腥等违法内容的重灾区。

　　直播平台

　　还记得早年的互联网聊天室,大家卖力的唱着歌,花钱买最好的摄像头与麦克风,只为情感得到释放,单纯享受陌生人之间的交流。而现在,直播平台的一些主播们为了快速生财,花重金置办最诱惑的直播场景,只为衬托自己“不可描述”的撩人动作表演。

　　除了色情直播,少量不法分子还会利用直播平台煽风点火传播敏感言论、恶搞政治人物等,蒙蔽不明(吃)真相(瓜)的群众。不仅如此,还有不少越过法律边缘的人利用直播平台来贩卖枪支弹药,推广赌博网站,甚至贩卖违禁药物。

　　部分平台由于审核人力和技术资源有限,短时间内容易漏过对某些主播视频内容分享的检测,造成平台口碑下降,对观众造成不良影响,甚至触犯法律。腾讯云天御内容安全解决方案不仅对涉黄、敏感画面有着99%的识别准确率,若遇上主播们通过“声情并茂”的表演获利,发出那羞羞的声音,天御最新的音频识别技术能结合声纹、违禁词汇,来判断出色情娇喘声以及敏感言论。

　　此处不适合放客户案例现场图

　　省略一万字……

　　游戏平台

　　开着语音打着游戏,当遇上神(zhu)一样的队友时,总是忍不爆几句粗口,文字骂完语音骂,从“家属式问候”到敏感言论,大量低俗内容滋生。除了充斥谩骂,被骗则让更多玩家们苦不堪言。诈骗分子常常声嘶力竭的喊着麦“游戏装备只要XX元”,价格如此优惠,让众多玩家“心动不已”,而骗子们正是利用玩家贪图便宜的心里诱骗玩家充钱,实际上,用户很难拿到心仪的道具,甚至有可能导致游戏账号被封。

　　平台被不法分子利用,不仅影响玩家体验,对平台也造成极大困扰。不久前,天御就为游戏「香肠派对」解决了这个棘手的问题。

　　(图片来自网络)

　　「香肠派对」是一款儿童游戏,可是有些不法分子连小孩子都不放过!接入腾讯云天御的服务后,天御为「香肠派对」识别出实时语音里的涉黄内容,以及谩骂等。腾讯云实时语音引擎能够将平台指定的违规音频过滤,审核人员则会收到识别引擎的反馈,根据平台守则对违规人员进行禁言/封号处理,从而维护游戏平台生态,让孩子享受一个健康的游戏平台。

　　小程序平台

　　除了常见的直播平台、游戏平台,新兴的小程序平台也被违法的内容制造者盯上,依赖于平台的高互动性,他们开始瞄准这里生产高危内容吸引眼球,其中不乏涉黄、暴力、血腥等各种违法内容。

　　运营者受限于审核人力原因,很无助,甚至被执法部门约谈。对于这些违规内容,腾讯云天御都能快速识别,帮助企业或者开发者提高内容平台的安全属性,从而助力业务健康的成长。

　　(图片来自网络)

　　除以上高流量淫秽场景之外,还有不少普通应用场景也涉及内容安全,比如社交、电商O2O图片识别场景等。社交场景下用户填写资料,不少卖爱情动作片的商家直接将内容制作为图像文本,最常见的是把联系方式与样片作为头像,这个时候 ocr 识别技术便会识别,不让你纵欲;电商O2O平台的商家在布置店铺以及商品上架发布过程,可能存在违法图片上传风险,有可能涉黄、涉敏等,毕竟好赚的钱大都违法。

　　不想被色情、血腥、暴力等违法内容毁掉的企业如遇到以上这些问题,请及时接入腾讯云天御内容安全解决方案:色情图片识别准确率99%,文本识别率高达99%,每0.02秒能够识别1秒的音频……