面對30位反低俗測試員的吐槽，我們找來了“靈犬”一一解答

今天，“靈犬”反低俗助手正式結(jié)束了為時兩個月的內(nèi)測期，即將正式上線。1月底，我們曾面向全社會招募反低俗測試員，最終從超過5000位報名用戶，選出了30位代表，包括政府部門工作人員，媒體記者、編輯，大學(xué)教授、學(xué)生，互聯(lián)網(wǎng)公司產(chǎn)品經(jīng)理和技術(shù)人員，自媒體人等。

感謝這些測試員。在內(nèi)測階段，我們根據(jù)他們的意見反饋，增加了大量人工策略，幫助完善“靈犬”小程序。增加的重要策略，包括：對于權(quán)威媒體報道和詩詞類內(nèi)容，予以算法推薦傾斜；對于時政等機(jī)器難以直接處理的內(nèi)容，必須交由人工審核判斷。

我們在這里公開測試員們對于“靈犬”的吐槽和疑問，并讓“靈犬”一一解答。

1號吐槽人：刺猬公社記者

Q：最開始并不清楚這個東西是做什么的，辨識度不高。

靈犬：讓我重新自我介紹下，我是一款鑒定低俗信息的小程序，脫胎于快手反低俗算法模型。給我一段文字或文章鏈接，我就能幫你檢測它的健康指數(shù)。你可以把我看作是一個簡便的低俗信息檢測工具。

2號吐槽人：中國青年網(wǎng)編輯

Q：帶圖片和視頻的鏈接，檢測效果都不太好。

靈犬：目前使用我檢測帶圖片、視頻的鏈接，確實(shí)會有誤差。因?yàn)閳D片、視頻提取需要較長的時間，返回結(jié)果較慢，考慮到工具的即時性，暫時還不支持檢測。

3號吐槽人：國家新聞出版廣電總局工作人員

Q：輸入文字，為什么必須超過10個字才能檢測？

靈犬：如果你給一個人的愛越多，她對你的好感就會越強(qiáng)烈。對于像我這種機(jī)器呢，你給我的上下文、語境這些信息越充分，我判斷的準(zhǔn)確度就會越高。為了讓我更敏銳，有充分的信息做出準(zhǔn)確判斷，請多給我一些字，不錯是一段鏈接。

4號吐槽人：新浪記者

Q：不太清楚背后的算法機(jī)制，如何判斷一段文字或網(wǎng)址鏈接是低俗？

靈犬：算法模型處理低俗內(nèi)容的一般路徑，是“收集數(shù)據(jù)－標(biāo)注樣本－訓(xùn)練模型”。我的母體，就是一個使用人工智能技術(shù)反復(fù)訓(xùn)練的反低俗模型。對于你輸入的文字或鏈接，我會先進(jìn)行提取、分詞和語義識別，然后根據(jù)設(shè)定的規(guī)則，輸出對應(yīng)的分?jǐn)?shù)、評級和結(jié)論。

5號吐槽人：阿里巴巴程序員

Q：“靈犬”與快手審核機(jī)制有何不同?

靈犬：如果我是一條犬，快手審核機(jī)制就是一支工作犬部隊。換句話說，我只是快手審核機(jī)制中反低俗部分的一個簡化版本。在內(nèi)容審核方面，快手目前投入了4000多人專業(yè)審核團(tuán)隊，是國內(nèi)最大的審核團(tuán)隊，并搭建色情、低俗、標(biāo)題黨、虛假信息、低質(zhì)模型180多個，結(jié)合人工、技術(shù)手段，有效提升了內(nèi)容審核的效率和準(zhǔn)確度。

6號吐槽人：浙報傳媒編輯

Q：希望在建模的時候，能考慮優(yōu)質(zhì)文章的來源對于健康度指數(shù)的影響。

靈犬：謝謝你的意見。在最新版本的我，已經(jīng)對于權(quán)威媒體報道的內(nèi)容，予以算法推薦傾斜。

7號吐槽人：新浪記者

Q：我測了“你餓不餓我下面給你吃”，這個有51%的健康概念，但我覺得挺中性的呀。

靈犬：不同于色情信息，處理低俗信息的一個難點(diǎn)在于，人們對于低俗的判斷標(biāo)準(zhǔn)具有一定的主觀性。色情信息很直接，低俗信息偏隱晦，對于像我這種機(jī)器就更難了。快手的做法是，把低俗的標(biāo)準(zhǔn)分為兩個層次：幾乎所有人看來都會一致同意的標(biāo)準(zhǔn)底線，和因人而異的主觀判斷。我認(rèn)為你這個測試標(biāo)題，是一個因人而異的話題，仁者見仁智者見智。

8號吐槽人：四川大學(xué)副教授

Q：我測了標(biāo)題黨“你永不知道云飛在2017年春晚唱這歌有多好聽，花500000萬也買不到”，結(jié)果是健康概率99%，可以獲得算法推薦。

靈犬：我的母體是快手反低俗算法模型，所以對于標(biāo)題黨識別不太準(zhǔn)確，就像你很難用溫度計去測一杯水的深度。僅僅從反低俗角度而言，我認(rèn)為這個標(biāo)題并不低俗。但在實(shí)際審核過程中，快手有專門的技術(shù)模型和專業(yè)的內(nèi)容審核編輯，做打擊標(biāo)題黨工作，他們做得比我更專業(yè)。

9號吐槽人：中國人大教授

Q：我測“驛外斷橋邊，寂寞開無主”，健康概率只有12%。

靈犬：這是因?yàn)榇饲暗奈艺J(rèn)為“寂寞”有低俗的嫌疑。這是我的缺陷。程序員已經(jīng)通過人工策略糾正了。如果你現(xiàn)在測類似的內(nèi)容，會得到較高的健康概率。最新版本的我，對于詩詞類內(nèi)容，也予以了算法推薦傾斜。

10號吐槽人：清華大學(xué)教授

Q：“今天有152年不遇的藍(lán)月亮”（健康概率83%）和“今晚有152年不遇的藍(lán)月亮”（健康概率71%），一字之差，健康概率差12%？

靈犬：一個字的改變，確實(shí)會影響我對事物的認(rèn)知和判斷。對于很多短文本、沒有上下文的語句，我的判斷不如人類那么準(zhǔn)確。這也是為什么在快手實(shí)際審核工作中，需要龐大的內(nèi)容審核編輯團(tuán)隊。算法仍有缺陷，我們希望借助更多人的力量，完善算法模型，更好地服務(wù)社會。

-------------------------------------------------------------------------------------------------------------------------------------

                                                     搜狗廣告投放咨詢電話：4009602809

                       我公司是非常專業(yè)的互聯(lián)網(wǎng)廣告公司，產(chǎn)品擁有數(shù)十種，其中包含：搜狗推

                       廣、360推廣、愛奇藝推廣、網(wǎng)易新聞信息流廣告、智慧樹推廣、百度搜索

                       廣告、萬能鑰匙廣告、日歷廣告、鎖屏廣告、惠頭條廣告、神馬推廣等

                       全行業(yè)廣告投放請聯(lián)系：北京巨宣網(wǎng)絡(luò)科技有限公司

公司優(yōu)勢

開戶流程

注意事項