内容风控 | 不谈安全,便谈不上发展

内容风控 | 不谈安全,便谈不上发展“道路千万条,安全第一条”这句话,用在如今的互联网运营上,也很适用。如今的互联网时代,无时无刻都在不断产生海量的文字、图片、视频等内容,内容一方

大家好,欢迎来到IT知识分享网。

“道路千万条,安全第一条”这句话,用在如今的互联网运营上,也很适用。

如今的互联网时代,无时无刻都在不断产生海量的文字、图片、视频等内容,内容一方面代表着更多的流量和商机,另一方面也暗藏着巨大的安全风险。

内容风控 | 不谈安全,便谈不上发展

暴力、血腥、色情、恐怖等涉黄、涉暴、涉政治敏感等内容危害着互联网平台的内容生态,国家也一直在进行着严格的治理。2017年6月,《中华人民共和国网络安全法》正式实施,其中指出“平台中不得存在涉政、涉暴、虚假、色情等信息”。2020 年3月国家正式施行《网络信息内容生态治理规定》,《规定》中要求所有信息发布平台的管理者必须承担起主体的责任,其平台中不得存在任何涉黄、涉暴、涉政、虚假造谣等违法违规内容。

内容安全的发展经历了“鉴黄师”到“内容安全”再到“内容合规”的三个阶段,因此网络传播格局和舆论生态也发生了新的变化与挑战,以采编权为中心的媒体管理模式也发生了颠覆性的变化。

内容治理除了要考虑内容安全阶段的审核范畴外,还需充分兼顾媒体传播、法律合规,纳入业务合规的管理范畴

内容风控 | 不谈安全,便谈不上发展

内容合规是企业良性发展的基石

随着互联网内容的迅猛发展,监管政策趋严,内容安全事件频发,有时候内容风控的成败直接决定着互联网内容平台和企业的生死。

企业内容安全治理面临的难点和痛点主要在以下几个方面:

一是在业务系统的迭代上。“知其然不知其所以然”,对政策理解不够细致、不到位、监测工作不全面,很难全面而清晰地考虑内容风险。风险点的持续监测、垃圾内容形式的千变万化、审核标准的不断调整,都要做到事先预估和全面整理,很可能成为业务发展的阻碍因素。

二是资源投入及回报不对等。海量内容的人工审核成本较高,短期内只能看到成本投入,不能看到明显的收益和效果,导致前期请求资源得不到管理层的有效支持。

三是内容风控安全与业务目标不一致。产品和业务的目标是快速提升经营的数据指标,然而,内容风控安全的介入则会在一定程度上减缓业务达到指标的速度,所以找到内容风控安全与业务目标的平衡点,亦是需要长期探索的问题。

内容风控 | 不谈安全,便谈不上发展

AI赋能,“白泽”为企业内容安全护航

“白泽”,是人民日报社传播内容认知全国重点实验室与人民中科,共同发布的跨模态智能搜索引擎,可实现跨平台跨模态的内容搜索。

内容风控 | 不谈安全,便谈不上发展

“白泽”搜索引擎主页面

面对数字世界的海量内容,需要新技术手段来解决非结构化数据的理解和关联。首先人工智能出现后解决了部分问题,可是传统厂家通过多模态、多模型进行内容理解,却无法应对未来海量增长的数据。

而“白泽”则选择了跨模态的技术手段,通过中小模型就解决以前需要上百个模型才能解决的问题,大幅减少算力消耗。实现了文本搜图片、文本搜视频、图片搜视频、视频搜视频、图片搜文字、视频搜文字等多元搜索需求,能够解决海量非结构化内容人工无力处理、机器难以理解的难题。

内容风控 | 不谈安全,便谈不上发展

同时,通过智能化的理解和检索,“白泽”可实现对互联网内容的日常巡查、对可预判的重要事件的提前预警、对舆情热点的监测分析、对行业风险案例的解读分析等,广泛运用于新零售、传媒、互联网金融、在线教育、政府、安防、信息通信等应用场景,有效帮助各互联网主体降低内容风险,保障运营安全。

让风控领先于风险!在智能风控上,智能风控 | 风险早发现,“白泽”来预警》“白泽”通过领先的内容理解技术,可以对潜在的舆情风险进行弱信号预警,实时动态维护企业内容安全。

“白泽”企业公共服务平台已发布,向客户提供版权保护、商品监测、智能媒体、新媒体营销、内容风控等产品和服务。目前已经在各级各类机构的内容风控,媒体深度融合与发展领域,以及金融、教育等应用场景发挥出不可或缺的作用。

责编:岳青植
监制:李红梅

部分资料参考来源:《业务安全发展洞察报告(2021年)》、网信中国

免责声明:本站所有文章内容,图片,视频等均是来源于用户投稿和互联网及文摘转载整编而成,不代表本站观点,不承担相关法律责任。其著作权各归其原作者或其出版社所有。如发现本站有涉嫌抄袭侵权/违法违规的内容,侵犯到您的权益,请在线联系站长,一经查实,本站将立刻删除。 本文来自网络,若有侵权,请联系删除,如若转载,请注明出处:https://yundeesoft.com/53839.html

(0)

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注

关注微信