5G通信觸手可及,將讓互聯(lián)網(wǎng)內(nèi)容創(chuàng)作走向更加繁榮。優(yōu)質(zhì)內(nèi)容是“流量天使”,但劣質(zhì)甚至違規(guī)內(nèi)容則是隱藏的“炸彈”,對社會和平臺本身都將帶來巨大破壞。作為被監(jiān)管內(nèi)容中主要組成部分之一,涉政敏感內(nèi)容關(guān)乎國家聲望和安全,監(jiān)管意義非同小可。為此,金山云金睛在已有政治人物圖像識別的基礎(chǔ)上,進(jìn)行AI技術(shù)升級和應(yīng)用場景延伸,率先在業(yè)界推出涉政專項圖像識別服務(wù),對漫畫、政治人物、游行等敏感性政治突發(fā)事件做到及時響應(yīng)。

與傳統(tǒng)的政治人物識別不同,金山云金睛推出的涉政專項圖像識別解決方案,充分考慮了政治敏感內(nèi)容出現(xiàn)的場景復(fù)雜性,對僅通過常規(guī)人物識別技術(shù)無法命中的涉政領(lǐng)域,包括隱喻漫畫、涉政運(yùn)動、政治人物、涉政違規(guī)等四大場景進(jìn)行了全覆蓋,可以用于直播、短視頻、社交、工具類產(chǎn)品,支持圖片、離線視頻、直播流三種格式的內(nèi)容審核。

如果說內(nèi)容安全是平臺企業(yè)的生死線,那如何保證企業(yè)死守內(nèi)容監(jiān)管紅線,則是金山云的使命。為此,金山云一方面不斷融合升級新技術(shù),包括優(yōu)化AI算法模型,增加樣本訓(xùn)練量來提升自身能力。另一方面,則通過對網(wǎng)絡(luò)安全方面政策的實時深入解讀,來形成對企業(yè)內(nèi)容安全的全面守護(hù)。

比如,技術(shù)方面,金山云金睛涉政圖像審核服務(wù)充分考慮采用了政治敏感內(nèi)容具有突發(fā)性的特點,通過構(gòu)建高效的圖像檢索模型和采用多模型融合技術(shù),可對突發(fā)政治事件和客戶反饋的黑樣本,做到及時響應(yīng)和攔截,從而大幅縮短政治敏感內(nèi)容的審核時間,提高識別準(zhǔn)確度。對減少漏判,避免風(fēng)險,降低人審壓力,大幅節(jié)約成本發(fā)揮重要作用。目前,金山云金睛有專門的風(fēng)控和運(yùn)營團(tuán)隊,持續(xù)系統(tǒng)梳理政策方針,在深入解讀《網(wǎng)絡(luò)視聽節(jié)目內(nèi)容審核通則》、《網(wǎng)絡(luò)短視頻內(nèi)容審核標(biāo)準(zhǔn)細(xì)則》等審核規(guī)則的基礎(chǔ)上,不斷實時更新補(bǔ)充樣本,讓內(nèi)容真正的安全、合規(guī)。

事實上,隨著涉政專項圖像審核解決方案的上線,金山云金睛將會持續(xù)以億級圖像訓(xùn)練的深度學(xué)習(xí)算法模型為基礎(chǔ),以云計算、AI技術(shù)為核心,推動各行業(yè)對媒體內(nèi)容領(lǐng)域智能處理,讓互聯(lián)網(wǎng)內(nèi)容生態(tài)健康繁榮起來!