一、概述

网络安全为人民、网络安全靠人民。维护网络安全，必须充分发动各企事业单位和人民群众广泛参与，建立综合治理体系。这是“枫桥经验”在网络时代的新内涵。

2020年，人民网在人机协作型“内容风控大脑”智能审核平台的基础上，和济南网安合作建立了集巡查、监控、分析等为一体的智能网络安全防护平台——“枫桥式智慧社区平台”。该平台是“内容风控+AI智能技术”结合发展的新型模式，联动了公安部门、企业和风控平台，对济南辖区网络平台进行问题巡查，根据巡查结果制定相应的专项整治工作方案，在警企合作、群防群治方面取得了良好的实践效果。

二、主要做法

“枫桥式智慧社区平台”以人工智能技术为基础，通过建立大数据分析和人工智能识别系统，对网络有害信息进行系统巡查。其中既包含了传统的关键词、用户行为等识别模式，也结合了自然语言处理、AI人工智能等多种识别模式，对文本、图片、音频、视频等内容中的有害信息进行识别判断。

“枫桥式智慧社区平台”系统巡查流程

“枫桥式智慧社区平台”发挥强大的数据采集能力，对海量数据进行分析、发现有害内容。

对于文本内容，尤其是涉政内容，系统大量使用关键词识别模式，通过建立关键词词库，设置主、副关键词。文本内容命中单一关键词或主、副关键词，即可进行判断。系统采用自然语言处理技术对文本进行预处理，包含大小写转换处理、拆分字处理、特殊符号处理等，能有效去除干扰字符，提高准确度。

对于图片内容，系统基于专门的深度神经网络模型来实现识别判断，能精准鉴别色情、暴恐等场景。对于音频、视频内容，系统通过将音频转换为文本、将视频转换为图片，然后再进行识别。系统还通过用户、消息、IP等维度组合识别用户行为，鉴别刷屏、定期发布广告等机器行为。为了尽可能提高系统识别率，由人工根据不同网络领域特点，不断调整优化关键词词库、案例库、知识库，对系统进行训练，纠正系统识别错误，提升学习效果。

“枫桥式智慧社区平台”检测的文本、图片、音频、视频等内容，经过系统识别后，由专家对机器识别的内容进行全量复审，通过人机结合，形成最终的巡查报告。在与济南网安的合作过程中，“枫桥式智慧社区平台”巡查范围包括济南辖区近百家网站、自媒体、互联网小程序、APP等网络平台，重点为用户自主创作内容较多的平台。通过平台系统初步判别有害信息，再由专家进行复审，完成取证，交由济南网安进行处置。

三、主要成效

人民网和济南网安合作建立“枫桥式智慧社区平台”，为济南网安提升应对网络内容安全的处置能力、培育网络安全技术专业型人才、深化以大数据智慧化应用为核心的新警务建设等方面注入新的动力。

“枫桥式智慧社区平台”具备人工智能技术优势、高价值数据优势及风控经验优势，将风控专家的经验知识有效融入到智能技术当中。人民网与济南网安的合作，充分利用了技术优势和人才优势，成功将企业纳入整个防控体系中，加强彼此间协调配合，取得到很好的效果。

“枫桥式智慧社区平台”巡查发现济南辖区部分网站、论坛在价值导向、内容安全等方面存在严重问题，济南网安根据巡查结果，制定专项整治工作方案，通过约谈、要求平台自查自纠、对网络平台内容安全负责人进行培训等方式，整治辖区平台存在的乱象，净化了该地区网络环境。

四、社会评价

2020年10月，全国网络与信息安全管理职业技能大赛决赛在上海举行。人民网和济南网安合作建立的“枫桥式智慧社区平台”，作为典型案例在开幕式上进行了推介，得到公安部领导及参会学者、专家的一致好评。

五、结语

“枫桥式智慧社区平台”充分调动各方力量、综合运用各种措施解决网络治理中的难题。该平台传承和发扬了“枫桥经验”，打造了“多方参与”“群防群治”的网络综合治理体系。“枫桥式智慧社区平台”通过警企合作，充分发挥各自的优势，共享网络安全资源，共筑网络安全防线，营造了文明和谐的网络空间。

分享让更多人看到