一、概述

網絡安全為人民、網絡安全靠人民。維護網絡安全，必須充分發動各企事業單位和人民群眾廣泛參與，建立綜合治理體系。這是“楓橋經驗”在網絡時代的新內涵。

2020年，人民網在人機協作型“內容風控大腦”智能審核平台的基礎上，和濟南網安合作建立了集巡查、監控、分析等為一體的智能網絡安全防護平台——“楓橋式智慧社區平台”。該平台是“內容風控+AI智能技術”結合發展的新型模式，聯動了公安部門、企業和風控平台，對濟南轄區網絡平台進行問題巡查，根據巡查結果制定相應的專項整治工作方案，在警企合作、群防群治方面取得了良好的實踐效果。

二、主要做法

“楓橋式智慧社區平台”以人工智能技術為基礎，通過建立大數據分析和人工智能識別系統，對網絡有害信息進行系統巡查。其中既包含了傳統的關鍵詞、用戶行為等識別模式，也結合了自然語言處理、AI人工智能等多種識別模式，對文本、圖片、音頻、視頻等內容中的有害信息進行識別判斷。

“楓橋式智慧社區平台”系統巡查流程

“楓橋式智慧社區平台”發揮強大的數據採集能力，對海量數據進行分析、發現有害內容。

對於文本內容，尤其是涉政內容，系統大量使用關鍵詞識別模式，通過建立關鍵詞詞庫，設置主、副關鍵詞。文本內容命中單一關鍵詞或主、副關鍵詞，即可進行判斷。系統採用自然語言處理技術對文本進行預處理，包含大小寫轉換處理、拆分字處理、特殊符號處理等，能有效去除干擾字符，提高准確度。

對於圖片內容，系統基於專門的深度神經網絡模型來實現識別判斷，能精准鑒別色情、暴恐等場景。對於音頻、視頻內容，系統通過將音頻轉換為文本、將視頻轉換為圖片，然后再進行識別。系統還通過用戶、消息、IP等維度組合識別用戶行為，鑒別刷屏、定期發布廣告等機器行為。為了盡可能提高系統識別率，由人工根據不同網絡領域特點，不斷調整優化關鍵詞詞庫、案例庫、知識庫，對系統進行訓練，糾正系統識別錯誤，提升學習效果。

“楓橋式智慧社區平台”檢測的文本、圖片、音頻、視頻等內容，經過系統識別后，由專家對機器識別的內容進行全量復審，通過人機結合，形成最終的巡查報告。在與濟南網安的合作過程中，“楓橋式智慧社區平台”巡查范圍包括濟南轄區近百家網站、自媒體、互聯網小程序、APP等網絡平台，重點為用戶自主創作內容較多的平台。通過平台系統初步判別有害信息，再由專家進行復審，完成取証，交由濟南網安進行處置。

三、主要成效

人民網和濟南網安合作建立“楓橋式智慧社區平台”，為濟南網安提升應對網絡內容安全的處置能力、培育網絡安全技術專業型人才、深化以大數據智慧化應用為核心的新警務建設等方面注入新的動力。

“楓橋式智慧社區平台”具備人工智能技術優勢、高價值數據優勢及風控經驗優勢，將風控專家的經驗知識有效融入到智能技術當中。人民網與濟南網安的合作，充分利用了技術優勢和人才優勢，成功將企業納入整個防控體系中，加強彼此間協調配合，取得到很好的效果。

“楓橋式智慧社區平台”巡查發現濟南轄區部分網站、論壇在價值導向、內容安全等方面存在嚴重問題，濟南網安根據巡查結果，制定專項整治工作方案，通過約談、要求平台自查自糾、對網絡平台內容安全負責人進行培訓等方式，整治轄區平台存在的亂象，淨化了該地區網絡環境。

四、社會評價

2020年10月，全國網絡與信息安全管理職業技能大賽決賽在上海舉行。人民網和濟南網安合作建立的“楓橋式智慧社區平台”，作為典型案例在開幕式上進行了推介，得到公安部領導及參會學者、專家的一致好評。

五、結語

“楓橋式智慧社區平台”充分調動各方力量、綜合運用各種措施解決網絡治理中的難題。該平台傳承和發揚了“楓橋經驗”，打造了“多方參與”“群防群治”的網絡綜合治理體系。“楓橋式智慧社區平台”通過警企合作，充分發揮各自的優勢，共享網絡安全資源，共筑網絡安全防線，營造了文明和諧的網絡空間。

分享讓更多人看到