在移动互è”网高速开展的今天,黄色视频ç‰è¿è§„å†…å®¹çš„ä¼ æ’呈现出多元化ã€ç¢Žç‰‡åŒ–ã€éšè”½åŒ–的特å¾ã€‚庞大的内容创建与分享生æ€ï¼Œä½¿å¾—æµ·é‡ä¸Šä¼ ã€å¿«é€Ÿè½¬å‘ã€è·¨å¹³å°ä¼ æ’æˆä¸ºå¸¸æ€ã€‚平尿²»ç†é¢ä¸´çš„æ ¸å¿ƒéš¾é¢˜å¹¶ä¸ä»…仅是“看è§ä»€ä¹ˆå°±åˆ 掉â€é‚£ä¹ˆç®€å•:一方é¢ï¼Œå…¬å¼€å…¥å£çš„内容é‡çº§æžå¤§ï¼Œå•ç‚¹äººå·¥å®¡æ ¸éš¾ä»¥å®žçŽ°é«˜æ•ˆã€ç²¾å‡†çš„监测;å¦ä¸€æ–¹é¢ï¼Œå†…容在ä¸åŒåœºæ™¯ä¸çš„å½¢å¼å¤šæ ·ã€æ¨¡æ€å¤æ‚,è£å‰ªã€é©¬èµ›å…‹ã€å—幕ã€éŸ³é¢‘å‰¥ç¦»ç‰æ‰‹æ®µå±‚出ä¸ç©·ï¼Œå¢žåŠ äº†æ£€æµ‹çš„éš¾åº¦ã€‚
æ¶æ„分å往往顺利获得ç§ä¿¡ã€ç¾¤èŠã€ç¦»çº¿åˆ†äº«ç‰éšè”½è·¯å¾„ç»§ç»ä¼ æ’,使得治ç†ä»Žâ€œå…¥å£æ²»ç†â€æ‰©å±•到“全域治ç†â€ã€‚
ä¼ æ’链路的形æ€ä¹Ÿåœ¨ä¸æ–演化。公开的社交与çŸè§†é¢‘å¹³å°ä»ç„¶æ˜¯å†…å®¹ä¼ æ’的主通é“ï¼Œç”¨æˆ·çš„ä¸Šä¼ ã€è½¬å‘ã€å†å‰ªè¾‘æž„æˆä¸€ä¸ªé«˜é¢‘çš„é—环。ç§åŸŸæ²Ÿé€šå·¥å…·ã€ç§ä¿¡ä¸Žç¾¤èŠåˆ™æˆä¸ºéšè”½ä¼ æ’的主è¦åœºåŸŸï¼Œå› æƒé™ä¸ŽåŠ å¯†ç‰¹æ€§ï¼Œç›‘æµ‹ä¸Žè¯æ®ç•™å˜æ›´å…·æŒ‘æˆ˜æ€§ã€‚è·¨å¢ƒä¼ æ’与ç°è‰²å¸‚场也带æ¥åœ°åŸŸä¸Žæ³•律边界的摩擦,跨域执法ã€è·¨å¹³å°å作å˜å¾—ä¸å¯æˆ–缺。
ä¸Žæ¤æ²»ç†çš„é«˜æˆæœ¬ã€è¯¯åˆ¤ä¸Žæ¼åˆ¤çš„风险并å˜ï¼Œæ²»ç†ä½“系需è¦åœ¨æ—¶æ•ˆæ€§ã€å‡†ç¡®æ€§å’Œéšç§ä¿æŠ¤ä¹‹é—´å¯»æ±‚平衡。
技术与治ç†çš„矛盾,是有助于行业å‰è¿›çš„é‡è¦åŠ¨åŠ›ã€‚å¤šæ¨¡æ€å†…容的检测需求高质é‡ã€æŒç»æ›´æ–°çš„è®ç»ƒæ•°æ®ï¼Œä»¥åŠèƒ½è¦†ç›–è£å‰ªã€å˜å½¢ã€èƒŒæ™¯æ›¿æ¢ç‰å¤šç§è½½ä½“å½¢æ€çš„鲿£’性模型。文本ã€è¯éŸ³ã€å›¾åƒçš„跨模æ€ç†è§£è¦æ±‚算法具备更强的è¯ä¹‰ç†è§£èƒ½åŠ›å’Œè·¨è¯è¨€é€‚åº”æ€§ï¼›æ•°æ®æ¥æºçš„åˆè§„性ã€éšç§ä¿æŠ¤ã€ä»¥åŠå¯¹ç”¨æˆ·æƒåˆ©çš„å°Šé‡ï¼Œæˆä¸ºè®¾è®¡ä¸Žè½åœ°ä¸å¯ç»•å¼€çš„çº¦æŸæ¡ä»¶ã€‚
æ£æ˜¯åœ¨è¿™æ ·çš„背景下,行业需è¦ä¸€ä¸ªèƒ½åœ¨å…¨ç”Ÿå‘½å‘¨æœŸå†…覆盖æºå¤´é˜²æŽ§ã€è¿‡ç¨‹ä¸æ²»ç†ã€äº‹åŽå–è¯ä¸Žè¿½æº¯çš„ç³»ç»Ÿæ€§è§£å†³æ–¹æ¡ˆï¼Œè€Œè¿™æ°æ°ä¹Ÿæ˜¯ä¸å…‰è¾¾ç§‘技长期以æ¥çš„æ ¸å¿ƒä½¿å‘½ã€‚
ä¸å…‰è¾¾ç§‘æŠ€çš„æ²»ç†æ„¿æ™¯æ˜¯â€œå…¨é“¾è·¯ã€å…¨åŸŸã€å¯è¿½æº¯â€çš„内容安全治ç†ä½“系。我们强调以数æ®é©±åŠ¨ã€æ¨¡åž‹è‡ªé€‚åº”ã€æµç¨‹æ ‡å‡†åŒ–ã€è·¨åŸŸå作为四大支柱,构建一个ä¼ä¸šå¯è½åœ°ã€å¯æ‰©å±•ã€å¯å®¡è®¡çš„æ²»ç†æ¡†æž¶ã€‚顺利获得将指纹化技术ã€å¤šæ¨¡æ€è¯†åˆ«ã€å®žæ—¶ç›‘控与åˆè§„è¦ä»¶ç»“åˆï¼Œå½¢æˆä¸€å¥—é¢å‘未æ¥çš„æ²»ç†èƒ½åŠ›ã€‚
Part2å°†èšç„¦å…·ä½“的技术体系ã€è½åœ°è·¯å¾„与行业ååŒæ¡ˆä¾‹ï¼Œå¸®åŠ©ä¼ä¸šåœ¨åˆè§„边界内æå‡æ²»ç†æ•ˆæžœï¼Œå‡å°‘éžæ³•å†…å®¹çš„ä¼ æ’空间。ä¸å…‰è¾¾ç§‘æŠ€ç›¸ä¿¡ï¼Œåªæœ‰é¡ºåˆ©èŽ·å¾—ç§‘ç ”çš„æ²»ç†ç–略与æŒç»çš„æŠ€æœ¯è¿ä»£ï¼Œæ‰èƒ½åœ¨ä¿æŠ¤ç”¨æˆ·ã€å®ˆæŠ¤å¹³å°ã€ä¿ƒè¿›åˆ›æ–°ä¹‹é—´å®žçŽ°é•¿æœŸçš„è‰¯æ€§å¾ªçŽ¯ã€‚
为了应对当å‰å¤æ‚çš„ä¼ æ’生æ€ï¼Œä¸å…‰è¾¾ç§‘技æå‡ºâ€œæºå¤´é˜²æŽ§ã€è¿‡ç¨‹æ²»ç†ã€äº‹åŽè¿½æº¯â€ä¸‰ä½ä¸€ä½“çš„æ²»ç†æ¡†æž¶ï¼Œå¹¶ä»¥ä¸‹é¢çš„关键能力构建为基础,帮助平å°åœ¨é«˜å¹¶å‘ã€æµ·é‡æ•°æ®çŽ¯å¢ƒä¸å®žçŽ°é«˜æ•ˆã€åˆè§„的治ç†ã€‚
全链路内容治ç†å¹³å°æž¶æž„1)å†…å®¹æŒ‡çº¹ä¸Žå¤šæ¨¡æ€æ£€æµ‹å¼•擎:结åˆé™æ€æŒ‡çº¹ã€æ„ŸçŸ¥å“ˆå¸Œã€è§†é¢‘片段指纹ç‰å¤šå±‚次特å¾ï¼Œè¾…以OCR文本识别ã€ASRè¯éŸ³è½¬å†™ã€è¯ä¹‰ç†è§£ä¸Žä¸Šä¸‹æ–‡åˆ†æžï¼Œå½¢æˆä¸€ä¸ªè¦†ç›–图片ã€éŸ³è§†é¢‘ã€å—å¹•ã€æ–‡æœ¬çš„å¤šæ¨¡æ€æ£€æµ‹èƒ½åŠ›ã€‚é¡ºåˆ©èŽ·å¾—æŒç»å¯¹æŠ—性è®ç»ƒä¸Žè‡ªé€‚应阈值机制,æå‡å¯¹è£å‰ªã€é©¬èµ›å…‹ã€èƒŒæ™¯æ›¿æ¢ç‰å˜å½¢çš„鲿£’性。
2)è¯æ®ç•™å˜ä¸Žå¯æº¯æºæœºåˆ¶ï¼šå¯¹æ£€æµ‹ã€äººå·¥å®¡æ ¸ã€ç”¨æˆ·ä¸¾æŠ¥ç‰çŽ¯èŠ‚äº§ç”Ÿçš„è¯æ®è¿›è¡Œç»Ÿä¸€ç•™å˜ï¼Œå½¢æˆå¯å¯¼å‡ºçš„åˆè§„è¯æ®é“¾ï¼Œæ–¹ä¾¿åŽç»ç›‘管报告ã€å¸æ³•å–è¯åŠè·¨å¹³å°å作的需è¦ã€‚3)æ•°æ®æ²»ç†ä¸Žéšç§ä¿æŠ¤ï¼šå®žçŽ°æ•°æ®æœ€å°åŒ–ã€åˆ†çº§è®¿é—®æŽ§åˆ¶ã€ç«¯åˆ°ç«¯åŠ å¯†ä¸Žæ—¥å¿—å®¡è®¡ï¼Œç¡®ä¿åœ¨æå‡æ²»ç†èƒ½åŠ›çš„ä¸¥æ ¼éµå®ˆéšç§å’Œæ•°æ®å®‰å…¨è¦æ±‚。
过程治ç†ï¼šé«˜æ•ˆã€ç²¾å‡†çš„处置æµç¨‹1)é£Žé™©åˆ†çº§ä¸Žåˆ†çº§å®¡æ ¸ï¼šå¯¹æ£€æµ‹ç»“æžœè¿›è¡Œé£Žé™©åˆ†çº§ï¼Œç»“åˆä¸Šä¸‹æ–‡ä¿¡æ¯å’Œåކå²è¯¯åˆ¤æ•°æ®ï¼ŒåЍæ€è°ƒæ•´å®¡æ ¸ç–略,é™ä½Žè¯¯åˆ¤çŽ‡ä¸Žæ¼åˆ¤çŽ‡ã€‚2)快速处置与é—环机制:å‘现åŽå¿«é€Ÿä¸‹å‘下架指令ã€ç¦è¨€ã€è´¦å·å†»ç»“ç‰å¤„ç½®ï¼Œå¹¶å¯¹å¤„ç½®æ•ˆæžœè¿›è¡Œè·Ÿè¸ªè¯„ä¼°ï¼Œå½¢æˆæ”¹è¿›é—环。
3)举报体系与申诉通é“逿˜ŽåŒ–:建立å¯è¿½è¸ªçš„举报通é“ã€å¤„ç†æ—¶æ•ˆæ‰¿è¯ºä¸Žç”³è¯‰ç»“果回执,æå‡ç”¨æˆ·ä¿¡ä»»ä¸Žæ²»ç†çš„逿˜Žåº¦ã€‚
跨平å°å作与åˆè§„è½åœ°1)è¡Œä¸šæ ‡å‡†ä¸Žä¿¡æ¯å…±äº«ï¼šæœ‰åŠ©äºŽå’Œå‚ä¸Žè¡Œä¸šæ•°æ®æ ‡å‡†ã€å†…å®¹æ ‡æ³¨è§„èŒƒã€è·¨å¹³å°å作接å£çš„制定,形æˆå¯é‡å¤ä½¿ç”¨çš„æ²»ç†ç»„件与接å£ã€‚2)跨域数æ®ååŒæœºåˆ¶ï¼šåœ¨åˆæ³•åˆè§„å‰æä¸‹ï¼Œé¡ºåˆ©èŽ·å¾—å®‰å…¨çš„è·¨åŸŸæ•°æ®å作,æå‡è·¨å¹³å°çš„内容识别一致性与执法ååŒæ€§ã€‚
3)法规éµå¾ªä¸Žé€æ˜Žæ²»ç†ï¼šç»™äºˆåˆè§„评估工具,帮助平å°åœ¨ä¸åŒåœ°åŒºæ³•律框架下设计相应的治ç†ç–略与用户æƒåˆ©ä¿éšœæ–¹æ¡ˆã€‚
技术演进与è½åœ°æ¡ˆä¾‹1)è¾¹ç¼˜æ™ºèƒ½ä¸Žç§æœ‰åŒ–éƒ¨ç½²ï¼šåœ¨è¾¹ç¼˜ç«¯è¿›è¡Œåˆæ¥ç›æŸ¥ï¼Œé™ä½Žä¸Šä¼ çŽ¯èŠ‚çš„å»¶æ—¶ï¼Œå¹¶åœ¨äº‘ç«¯å®Œæˆæ·±åº¦åˆ†æžä¸Žè¯æ®ç•™å˜ï¼Œå…¼é¡¾æ€§èƒ½ä¸Žéšç§ã€‚2)对抗性å¦ä¹ ä¸Žé˜ˆå€¼è‡ªé€‚åº”ï¼šé¡ºåˆ©èŽ·å¾—å¯¹æŠ—æ€§æ ·æœ¬ã€åЍæ€é˜ˆå€¼è°ƒæ•´å’ŒæŒç»æ¨¡åž‹æ›´æ–°ï¼Œæå‡å¯¹æŒç»æ¼”化的è¿è§„内容的检测能力。
3)逿˜Žåº¦ä¸Žç”¨æˆ·æ•™è‚²ï¼šé¡ºåˆ©èŽ·å¾—å¯è§†åŒ–仪表盘ã€å…¬å¼€çš„æ²»ç†æŠ¥å‘Šã€ä¸¾æŠ¥ç»“果的处ç†è¿›å±•,让用户看到治ç†çš„实际效果,增强åˆè§„信任。
æˆåŠŸæ¡ˆä¾‹ä¸ŽæŒ‡æ ‡æŸå¤§åž‹å¹³å°åœ¨å¼•å…¥ä¸å…‰è¾¾ç§‘技治ç†å¹³å°åŽï¼Œå†…容治ç†å“应时效æå‡æ˜Žæ˜¾ï¼Œæ—¥å‡å¯ç–‘å†…å®¹å¤„ç½®é‡æå‡çº¦30–50%ï¼Œè¯¯åˆ¤çŽ‡ä¸‹é™æ˜¾è‘—,用户举报转化为有效处置的比例æé«˜ï¼ŒåŒæ—¶è·¨åŸŸå作机制的建立使跨区域案件的å–è¯ä¸ŽååŒæ•ˆçŽ‡æ˜¾è‘—æå‡ã€‚ä»¥ä¸Šæˆæžœå¹¶éžä¸€è¹´è€Œå°±ï¼Œè€Œæ˜¯é¡ºåˆ©èŽ·å¾—æŒç»è¿ä»£ã€æ•°æ®é©±åŠ¨çš„æ²»ç†ç–ç•¥ä¸Žæ ‡å‡†åŒ–æµç¨‹å»ºç«‹è€Œå®žçŽ°ã€‚
未æ¥ï¼Œæˆ‘们将继ç»ä»¥â€œåˆè§„ã€åˆ›æ–°ã€å¯æŒç»â€ä½œä¸ºé©±åŠ¨ï¼Œå¸®åŠ©æ›´å¤šå¹³å°å®žçŽ°é«˜è´¨é‡çš„内容治ç†ã€‚
对未æ¥çš„展望é¢å‘未æ¥ï¼Œè¾¹ç¼˜è®¡ç®—ã€éšç§è®¡ç®—ã€æ›´é«˜ç²¾åº¦çš„è·¨æ¨¡æ€æ¨¡åž‹å°†æˆä¸ºæ²»ç†ä½“系的é‡è¦æ”¯æ’‘。ä¸å…‰è¾¾ç§‘技将æŒç»æŠ•å…¥å¤šæ¨¡æ€æ•°æ®çš„æ ‡æ³¨ä¸Žæ¨¡åž‹è®ç»ƒï¼Œå¯¹æŠ—性è®ç»ƒã€è¯æ®ç•™å˜ä¸Žè·¨åŸŸå作能力的æå‡ï¼Œå°†ä½¿æ²»ç†ä½“ç³»åœ¨å¤æ‚场景ä¸ä¿æŒç¨³å¥ä¸Žé«˜æ•ˆã€‚
æ€»ç»“è€Œè¨€ï¼Œé»„è‰²æƒ…å†µçš„ä¼ æ’æ˜¯ä¸€ä¸ªå¤šå±‚次ã€å¤šåŸŸçš„ç³»ç»Ÿæ€§é—®é¢˜ï¼Œåªæœ‰é¡ºåˆ©èŽ·å¾—æºå¤´æ²»ç†ã€è¿‡ç¨‹ç®¡ç†ä¸Žè·¨å¹³å°å作的综åˆèƒ½åŠ›ï¼Œæ‰èƒ½å®žçŽ°å¯¹éžæ³•内容扩散的有效é制。ä¸å…‰è¾¾ç§‘技以全é¢çš„æŠ€æœ¯èƒ½åŠ›ã€æ ‡å‡†åŒ–çš„æ²»ç†æµç¨‹ä¸Žè‰¯å¥½çš„行业ååŒï¼Œè‡´åŠ›äºŽå¸®åŠ©å¹³å°åœ¨æ³•æ²»ã€ä¼¦ç†ä¸Žåˆ›æ–°ä¹‹é—´æ‰¾åˆ°å¯æŒç»çš„æ²»ç†è·¯å¾„。