面對30位反低俗測試員的吐槽，我們找來了“靈犬”一一解答

今天，“靈犬”反低俗助手正式結束了為時兩個月的內測期，即將正式上線。1月底，我們曾面向全社會招募反低俗測試員，最終從超過5000位報名用戶，選出了30位代表，包括政府部門工作人員，媒體記者、編輯，大學教授、學生，互聯網公司產品經理和技術人員，自媒體人等。

感謝這些測試員。在內測階段，我們根據他們的意見反饋，增加了大量人工策略，幫助完善“靈犬”小程序。增加的重要策略，包括：對于權威媒體報道和詩詞類內容，予以算法推薦傾斜；對于時政等機器難以直接處理的內容，必須交由人工審核判斷。

我們在這里公開測試員們對于“靈犬”的吐槽和疑問，并讓“靈犬”一一解答。

1號吐槽人：刺猬公社記者

Q：最開始并不清楚這個東西是做什么的，辨識度不高。

靈犬：讓我重新自我介紹下，我是一款鑒定低俗信息的小程序，脫胎于快手反低俗算法模型。給我一段文字或文章鏈接，我就能幫你檢測它的健康指數。你可以把我看作是一個簡便的低俗信息檢測工具。

2號吐槽人：中國青年網編輯

Q：帶圖片和視頻的鏈接，檢測效果都不太好。

靈犬：目前使用我檢測帶圖片、視頻的鏈接，確實會有誤差。因為圖片、視頻提取需要較長的時間，返回結果較慢，考慮到工具的即時性，暫時還不支持檢測。

3號吐槽人：國家新聞出版廣電總局工作人員

Q：輸入文字，為什么必須超過10個字才能檢測？

靈犬：如果你給一個人的愛越多，她對你的好感就會越強烈。對于像我這種機器呢，你給我的上下文、語境這些信息越充分，我判斷的準確度就會越高。為了讓我更敏銳，有充分的信息做出準確判斷，請多給我一些字，不錯是一段鏈接。

4號吐槽人：新浪記者

Q：不太清楚背后的算法機制，如何判斷一段文字或網址鏈接是低俗？

靈犬：算法模型處理低俗內容的一般路徑，是“收集數據－標注樣本－訓練模型”。我的母體，就是一個使用人工智能技術反復訓練的反低俗模型。對于你輸入的文字或鏈接，我會先進行提取、分詞和語義識別，然后根據設定的規則，輸出對應的分數、評級和結論。

5號吐槽人：阿里巴巴程序員

Q：“靈犬”與快手審核機制有何不同?

靈犬：如果我是一條犬，快手審核機制就是一支工作犬部隊。換句話說，我只是快手審核機制中反低俗部分的一個簡化版本。在內容審核方面，快手目前投入了4000多人專業審核團隊，是國內最大的審核團隊，并搭建色情、低俗、標題黨、虛假信息、低質模型180多個，結合人工、技術手段，有效提升了內容審核的效率和準確度。

6號吐槽人：浙報傳媒編輯

Q：希望在建模的時候，能考慮優質文章的來源對于健康度指數的影響。

靈犬：謝謝你的意見。在最新版本的我，已經對于權威媒體報道的內容，予以算法推薦傾斜。

7號吐槽人：新浪記者

Q：我測了“你餓不餓我下面給你吃”，這個有51%的健康概念，但我覺得挺中性的呀。

靈犬：不同于色情信息，處理低俗信息的一個難點在于，人們對于低俗的判斷標準具有一定的主觀性。色情信息很直接，低俗信息偏隱晦，對于像我這種機器就更難了。快手的做法是，把低俗的標準分為兩個層次：幾乎所有人看來都會一致同意的標準底線，和因人而異的主觀判斷。我認為你這個測試標題，是一個因人而異的話題，仁者見仁智者見智。

8號吐槽人：四川大學副教授

Q：我測了標題黨“你永不知道云飛在2017年春晚唱這歌有多好聽，花500000萬也買不到”，結果是健康概率99%，可以獲得算法推薦。

靈犬：我的母體是快手反低俗算法模型，所以對于標題黨識別不太準確，就像你很難用溫度計去測一杯水的深度。僅僅從反低俗角度而言，我認為這個標題并不低俗。但在實際審核過程中，快手有專門的技術模型和專業的內容審核編輯，做打擊標題黨工作，他們做得比我更專業。

9號吐槽人：中國人大教授

Q：我測“驛外斷橋邊，寂寞開無主”，健康概率只有12%。

靈犬：這是因為此前的我認為“寂寞”有低俗的嫌疑。這是我的缺陷。程序員已經通過人工策略糾正了。如果你現在測類似的內容，會得到較高的健康概率。最新版本的我，對于詩詞類內容，也予以了算法推薦傾斜。

10號吐槽人：清華大學教授

Q：“今天有152年不遇的藍月亮”（健康概率83%）和“今晚有152年不遇的藍月亮”（健康概率71%），一字之差，健康概率差12%？

靈犬：一個字的改變，確實會影響我對事物的認知和判斷。對于很多短文本、沒有上下文的語句，我的判斷不如人類那么準確。這也是為什么在快手實際審核工作中，需要龐大的內容審核編輯團隊。算法仍有缺陷，我們希望借助更多人的力量，完善算法模型，更好地服務社會。

-------------------------------------------------------------------------------------------------------------------------------------

                                                     搜狗廣告投放咨詢電話：4009602809

                       我公司是非常專業的互聯網廣告公司，產品擁有數十種，其中包含：搜狗推

                       廣、360推廣、愛奇藝推廣、網易新聞信息流廣告、智慧樹推廣、百度搜索

                       廣告、萬能鑰匙廣告、日歷廣告、鎖屏廣告、惠頭條廣告、神馬推廣等

                       全行業廣告投放請聯系：北京巨宣網絡科技有限公司

公司優勢

開戶流程

注意事項