当前位置: 彩神app > 互联网 > 正文

重点拓展了反低俗识别类型和模型能力

  近年来,中国互联网实现了跨越式迅猛发展,不幸的是,在此过程中互联网也成了各种有害信息的集散地,大量涉及低俗、色情、虚假、血腥、暴力恐怖的信息充斥其中,不但污染了网络空间,恶化了网络生态,而且对公众特别是青少年的线下生活也造成了实际的危害。由于互联网既是有害信息的滋生地,同时也是有害信息的受害者,互联网企业对遏制有害信息负有重大责任,应当充分发挥自身技术优势和信息优势,主动向有害信息宣战。此次今日头条推出反低俗助手“灵犬”,是互联网企业为整治网络有害信息做出切实努力的一个样本。

  互联网企业推出的“灵犬”,不但向自己的用户开放,也向其他企业、机构包括政府职能部门、监管部门开放,一方面可以动员更多用户、企业、机构参与到整治互联网低俗低质有害信息的行动中来,另一方面可以与政府职能部门、监管部门实现技术共享、信息共享。职能部门、监管部门应当在与互联网企业共享“灵犬”的基础上,整合更广泛的技术力量和支持力量,推出更综合、更高层级的“灵犬”,为互联网发展提供更完善的公共服务,为整治互联网有害信息更好地履行监管职责。

  互联网企业推出的“灵犬”,不但向自己的用户开放,也向其他企业、机构包括政府职能部门、监管部门开放,一方面可以动员更多用户、企业、机构参与到整治互联网低俗低质有害信息的行动中来,另一方面可以与政府职能部门、监管部门实现技术共享、信息共享。职能部门、监管部门应当在与互联网企业共享“灵犬”的基础上,整合更广泛的技术力量和支持力量,推出更综合、更高层级的“灵犬”,为互联网发展提供更完善的公共服务,为整治互联网有害信息更好地履行监管职责。

  八部门专项整治行动主要有三项重点任务:一是严格督促互联网企业落实内容把关责任,相关运营企业必须强化内容安全管理,深入开展自查自纠,有效提升对低俗色情等有害信息的识别和处置能力;二是严厉打击含有低俗内容的违法互联网广告;三是大力清查低俗网络游戏,严禁内容低俗的游戏网上传播。由此可见,整治互联网低俗色情等有害信息,互联网企业是第一责任主体,必须加大科技研发投入,开发出能够迅速、全面、精准识别有害信息的技术产品,不断提升对有害信息的检测和处置实效。这些由互联网企业开发的“灵犬”,不但可以运用于上述第一项重点任务,也可以运用于上述第二、第三项重点任务,是整治互联网低俗色情信息不可或缺的助手。

  近年来,中国互联网实现了跨越式迅猛发展,不幸的是,在此过程中互联网也成了各种有害信息的集散地,大量涉及低俗、色情、虚假、血腥、暴力恐怖的信息充斥其中,不但污染了网络空间,恶化了网络生态,而且对公众特别是青少年的线下生活也造成了实际的危害。由于互联网既是有害信息的滋生地,同时也是有害信息的受害者,互联网企业对遏制有害信息负有重大责任,应当充分发挥自身技术优势和信息优势,主动向有害信息宣战。此次今日头条推出反低俗助手“灵犬”,是互联网企业为整治网络有害信息做出切实努力的一个样本。

  互联网技术发展无止境,互联网企业研发反有害信息的技术产品也无止境。如今日头条的“灵犬”已经过三次迭代,目前可以对图片和文本进行低俗低质内容检测,后续还将研发更新技术,实现对语音和视频低俗低质内容的检测。以不断创新的技术手段助力检测、处置低俗低质有害信息,应当成为互联网企业追求技术创新、更好履行社会责任的重要方式。

  近日,今日头条宣布正式推出反低俗内容小程序——灵犬反低俗助手3.0版本,应用“Bert”和半监督技术,重点拓展了反低俗识别类型和模型能力,同时支持对图片和文本的低俗低质内容检测,综合准确率超过85%。用户可以通过“灵犬”检测文本、图片等类型的内容健康指数,共同参与打击低俗低质内容,净化网络空间。

  从低俗、色情等有害信息在互联网上滋生蔓延之日起,职能部门、监管部门针对互联网有害信息的打击整治工作就一刻也未停息。早在2009年1月,国务院新闻办、工信部、公安部、文化部等七部门就联合部署,在全国范围内开展整治互联网低俗之风专项行动,旨在强化网络信息服务单位的社会责任,对在网上传播淫秽色情信息和低俗信息的不法分子予以严厉打击。2017年8月,全国“扫黄打非”办公室会同宣传、网信、工信、公安、文化、工商、新闻出版广电等八部门,在全国范围内开展互联网低俗色情信息专项整治行动,掀起了一场互联网反低俗色情信息风暴。

  从低俗、色情等有害信息在互联网上滋生蔓延之日起,职能部门、监管部门针对互联网有害信息的打击整治工作就一刻也未停息。早在2009年1月,国务院新闻办、工信部、公安部、文化部等七部门就联合部署,在全国范围内开展整治互联网低俗之风专项行动,旨在强化网络信息服务单位的社会责任,对在网上传播淫秽色情信息和低俗信息的不法分子予以严厉打击。2017年8月,全国“扫黄打非”办公室会同宣传、网信、工信、公安、文化、工商、新闻出版广电等八部门,在全国范围内开展互联网低俗色情信息专项整治行动,掀起了一场互联网反低俗色情信息风暴。

  八部门专项整治行动主要有三项重点任务:一是严格督促互联网企业落实内容把关责任,相关运营企业必须强化内容安全管理,深入开展自查自纠,有效提升对低俗色情等有害信息的识别和处置能力;二是严厉打击含有低俗内容的违法互联网广告;三是大力清查低俗网络游戏,严禁内容低俗的游戏网上传播。由此可见,整治互联网低俗色情等有害信息,互联网企业是第一责任主体,必须加大科技研发投入,开发出能够迅速、全面、精准识别有害信息的技术产品,不断提升对有害信息的检测和处置实效。这些由互联网企业开发的“灵犬”,不但可以运用于上述第一项重点任务,也可以运用于上述第二、第三项重点任务,是整治互联网低俗色情信息不可或缺的助手。

  近日,今日头条宣布正式推出反低俗内容小程序——灵犬反低俗助手3.0版本,应用“Bert”和半监督技术,重点拓展了反低俗识别类型和模型能力,同时支持对图片和文本的低俗低质内容检测,综合准确率超过85%。用户可以通过“灵犬”检测文本、图片等类型的内容健康指数,共同参与打击低俗低质内容,净化网络空间。

  互联网企业研发反有害信息的技术产品也无止境。目前可以对图片和文本进行低俗低质内容检测,应当成为互联网企业追求技术创新、更好履行社会责任的重要方式。后续还将研发更新技术,互联网技术发展无止境,实现对语音和视频低俗低质内容的检测。如今日头条的“灵犬”已经过三次迭代,以不断创新的技术手段助力检测、处置低俗低质有害信息,

相关文章