小程序內(nèi)容安全接口上線有什么用
小程序因?yàn)閮?nèi)容違規(guī)被下線?想審核識(shí)別違規(guī)內(nèi)容卻不知如何入手?上周,我們上線了內(nèi)容安全接口,用這個(gè)“神器”幫助大家解決困擾。今天,我們來詳細(xì)了解一下這個(gè)“神器”,幫助大家更好地解決上述的各種問題。
這個(gè)幫手幫你做內(nèi)容審核用戶通過小程序發(fā)布的內(nèi)容,數(shù)量大、種類多,逐個(gè)校驗(yàn)幾無可能。
小程序內(nèi)容安全接口能夠輔助開發(fā)者精準(zhǔn)快速地校驗(yàn)小程序的文本、圖片內(nèi)容是否含有淫穢色情、涉違法犯罪、涉政有害等內(nèi)容,抵御不良信息混入,維護(hù)小程序內(nèi)容健康。
溫馨提醒,開發(fā)者就算有了內(nèi)容安全接口這個(gè)稱心的“好幫手”,也不能對違規(guī)內(nèi)容掉以輕心。
三大能力,快速發(fā)現(xiàn)并處理違規(guī)內(nèi)容
能成為“好幫手”,當(dāng)然是有“超能力”。小程序內(nèi)容安全接口提供三大能力,從圖片到文本,精準(zhǔn)識(shí)別違規(guī)內(nèi)容。
圖片智能鑒黃
無論是用戶通過拍照上傳的內(nèi)容、自定義頭像,還是文章評論的圖片,圖片智能鑒黃接口都能夠進(jìn)行主動(dòng)識(shí)別及獲取色情量化程度信息,實(shí)現(xiàn)精準(zhǔn)快速的色情傾向判斷。
智能人臉識(shí)別
絕不“眼盲”的面部識(shí)別能力能夠提取圖中的人臉信息,進(jìn)行相似度判斷,包括重要政治人物、公眾人物等圖片人臉識(shí)別,幫助開發(fā)者避免業(yè)務(wù)的違規(guī)和侵權(quán)風(fēng)險(xiǎn)。
惡意文本檢測
文本包含著很多潛在違法元素,內(nèi)容安全接口提供了更高級智能的惡意文本檢測能力,能夠精準(zhǔn)識(shí)別文本內(nèi)容中的違規(guī)文字信息,輔助發(fā)現(xiàn)違規(guī)和惡意內(nèi)容。
這些場景已經(jīng)能實(shí)際使用了
目前,內(nèi)容安全接口已經(jīng)能夠運(yùn)用在小程序的文本、圖片等內(nèi)容校驗(yàn)中。
用戶的個(gè)人資料、媒體類用戶發(fā)表的文章及評論、游戲類用戶編輯上傳的素材等,開發(fā)者都能借助內(nèi)容安全接口進(jìn)行文字檢測。
此外,內(nèi)容安全接口還能對用戶拍照上傳、電商類商品上架圖片、用戶頭像、媒體類用戶文章配圖、社交類用戶上傳的圖片進(jìn)行檢測。
小程序內(nèi)容安全接口相關(guān)問題
了解完小程序內(nèi)容安全接口的基礎(chǔ)信息,也許你還會(huì)有一些疑問:這個(gè)接口到底適合誰?有什么效果?Q&A了解一下——
Q1: 開放內(nèi)容安全接口能為開發(fā)者帶來什么好處?
A:我們注意到,近年來,由于產(chǎn)品中存在違規(guī)內(nèi)容而被處罰,甚至關(guān)停下架的事情時(shí)有發(fā)生,開發(fā)者的內(nèi)容審核工作刻不容緩。因此,我們推出了內(nèi)容安全接口,希望幫助開發(fā)者及時(shí)發(fā)現(xiàn)并處理圖片、文本內(nèi)容里的違規(guī)信息,讓開發(fā)者能夠?qū)⒕Ω杏诟哔|(zhì)量的小程序開發(fā)當(dāng)中。
Q2: 哪些小程序可以使用內(nèi)容安全接口,有使用要求嗎?
A:目前,內(nèi)容安全接口面向所有的小程序開發(fā)者,免費(fèi)提供一定額度的接口調(diào)用量,主要為小程序內(nèi)容審核工作提供幫助,平臺(tái)不會(huì)留存小程序開發(fā)者提交的檢測數(shù)據(jù)。如果調(diào)用量需求超出上限,開發(fā)者可以通過業(yè)務(wù)邏輯優(yōu)化、自行開發(fā)內(nèi)容審核手段、調(diào)用其他第三方內(nèi)容審核接口等方式開展內(nèi)容審核。
Q3: 有了內(nèi)容安全接口,開發(fā)者是不是就能省略內(nèi)容審核工作?
A:目前,內(nèi)容安全接口只提供內(nèi)容審核的基礎(chǔ)能力,輔助開發(fā)者發(fā)現(xiàn)有害內(nèi)容,但對于內(nèi)容的檢測結(jié)果,以及其他違法違規(guī)內(nèi)容(如暴力、恐怖、血腥),開發(fā)者仍然需要履行好管理職責(zé),自行開展審核并對有害內(nèi)容進(jìn)行刪除等處理,并不能忽視內(nèi)容審核工作。
同時(shí),開發(fā)者可以通過《文本內(nèi)容安全接口》和《圖片內(nèi)容安全接口》詳細(xì)了解小程序內(nèi)容安全接口的更多信息,共同打造更加綠色健康的小程序生態(tài)。
第二部分:如何開通一個(gè)小商店