任何技術(shù)規(guī)范在制定時(shí),都或多或少地預(yù)設(shè)了一個(gè)技術(shù)邏輯的“想象”。今天這篇文章的目的就是整理出《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定(征求意見(jiàn)稿)》背后的技術(shù)邏輯的“想象”。
以上是公號(hào)君對(duì)該規(guī)定的學(xué)習(xí)后整理出來(lái)的技術(shù)邏輯示意圖。接下來(lái),我們就分別從這算法推薦技術(shù)、信息內(nèi)容(文本、視頻、音頻等)、展示頁(yè)面、特定用戶等四個(gè)部分,來(lái)認(rèn)識(shí)規(guī)定中的具體條款。
算法推薦技術(shù)
種類
生成合成類、個(gè)性化推送類、排序精選類、檢索過(guò)濾類、調(diào)度決策類等(規(guī)定的第二條)
禁止的算法性質(zhì)
不得設(shè)置誘導(dǎo)用戶沉迷或者高額消費(fèi)等違背公序良俗的算法模型。(規(guī)定的第八條)
透明度要求
應(yīng)當(dāng)以顯著方式告知用戶其提供算法推薦服務(wù)的情況,并以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖、運(yùn)行機(jī)制等。(規(guī)定的第十四條)
權(quán)益影響
用戶認(rèn)為算法推薦服務(wù)提供者應(yīng)用算法對(duì)其權(quán)益造成重大影響的,有權(quán)要求算法推薦服務(wù)提供者予以說(shuō)明并采取相應(yīng)改進(jìn)或者補(bǔ)救措施。(規(guī)定的第十五條)
信息內(nèi)容
信息內(nèi)容特征庫(kù)
建立健全用于識(shí)別違法和不良信息的特征庫(kù),完善入庫(kù)標(biāo)準(zhǔn)、規(guī)則和程序。(規(guī)定的第九條)
合成信息的標(biāo)識(shí)
發(fā)現(xiàn)未作顯著標(biāo)識(shí)的算法生成合成信息的,應(yīng)當(dāng)作出顯著標(biāo)識(shí)后,方可繼續(xù)傳輸。(規(guī)定的第九條)
違法信息的阻斷
發(fā)現(xiàn)違法信息的,應(yīng)當(dāng)立即停止傳輸,采取消除等處置措施,防止信息擴(kuò)散,保存有關(guān)記錄,并向網(wǎng)信部門報(bào)告。發(fā)現(xiàn)不良信息的,應(yīng)當(dāng)按照網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理有關(guān)規(guī)定予以處置。(規(guī)定的第九條)
展示頁(yè)面
頁(yè)面生態(tài)管理算法推薦服務(wù)提供者應(yīng)當(dāng)加強(qiáng)算法推薦服務(wù)版面頁(yè)面生態(tài)管理,建立完善人工干預(yù)和用戶自主選擇機(jī)制,在首頁(yè)首屏、熱搜、精選、榜單類、彈窗等重點(diǎn)環(huán)節(jié)積極呈現(xiàn)符合主流價(jià)值導(dǎo)向的信息內(nèi)容。(規(guī)定第十一條)
調(diào)整頁(yè)面展示
應(yīng)當(dāng)向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng),或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)。用戶選擇關(guān)閉算法推薦服務(wù)的,算法推薦服務(wù)提供者應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)。(規(guī)定的第十五條)
推薦商品或服務(wù)
算法推薦服務(wù)提供者向消費(fèi)者銷售商品或者提供服務(wù)的,應(yīng)當(dāng)保護(hù)消費(fèi)者合法權(quán)益,不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征,利用算法在交易價(jià)格等交易條件上實(shí)行不合理的差別待遇等違法行為。
未成年人保護(hù)
算法推薦服務(wù)提供者向未成年人提供服務(wù)的,應(yīng)當(dāng)依法履行未成年人網(wǎng)絡(luò)保護(hù)義務(wù),并通過(guò)開(kāi)發(fā)適合未成年人使用的模式、提供適合未成年人特點(diǎn)的服務(wù)等方式,便利未成年人獲取有益身心健康的信息內(nèi)容。
算法推薦服務(wù)提供者不得向未成年人用戶推送可能引發(fā)未成年人模仿不安全行為和違反社會(huì)公德行為、誘導(dǎo)未成年人不良嗜好等可能影響未成年人身心健康的信息內(nèi)容,不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)。(規(guī)定的第十六條)
工作調(diào)度
算法推薦服務(wù)提供者向勞動(dòng)者提供工作調(diào)度服務(wù)的,應(yīng)當(dāng)建立完善平臺(tái)訂單分配、報(bào)酬構(gòu)成及支付、工作時(shí)間、獎(jiǎng)懲等相關(guān)算法,履行勞動(dòng)者權(quán)益保障義務(wù)。(規(guī)定的第十七條)
特定用戶的自主選擇能力
用戶模型和標(biāo)簽管理
應(yīng)當(dāng)加強(qiáng)用戶模型和用戶標(biāo)簽管理,完善記入用戶模型的興趣點(diǎn)規(guī)則,不得將違法和不良信息關(guān)鍵詞記入用戶興趣點(diǎn)或者作為用戶標(biāo)簽并據(jù)以推送信息內(nèi)容,不得設(shè)置歧視性或者偏見(jiàn)性用戶標(biāo)簽。(規(guī)定的第十條)
對(duì)用戶的影響
應(yīng)當(dāng)綜合運(yùn)用內(nèi)容去重、打散干預(yù)等策略,并優(yōu)化檢索、排序、選擇、推送、展示等規(guī)則的透明度和可解釋性,避免對(duì)用戶產(chǎn)生不良影響、引發(fā)爭(zhēng)議糾紛。(規(guī)定的第十二條)
用戶標(biāo)簽選擇
算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供選擇、修改或者刪除用于算法推薦服務(wù)的用戶標(biāo)簽的功能。(規(guī)定的第十五條)
在按照技術(shù)邏輯的四個(gè)元素進(jìn)行分別規(guī)定后,《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定(征求意見(jiàn)稿)》集中對(duì)“具有輿論屬性或者社會(huì)動(dòng)員能力”的算法推薦服務(wù)進(jìn)行了有針對(duì)性的規(guī)制。所謂的“具有輿論屬性或者社會(huì)動(dòng)員能力”的算法推薦服務(wù),本質(zhì)上是以上四個(gè)方面綜合判斷后才能確定其是否以及多大程度上“具有輿論屬性或者社會(huì)動(dòng)員能力”。
分類分級(jí)管理
國(guó)家網(wǎng)信部門建立分類分級(jí)管理制度,根據(jù)算法推薦服務(wù)的輿論屬性或者社會(huì)動(dòng)員能力、內(nèi)容類別、用戶規(guī)模、算法推薦技術(shù)處理的數(shù)據(jù)敏感程度、對(duì)用戶行為的干預(yù)程度等對(duì)算法推薦服務(wù)提供者實(shí)施分類分級(jí)管理。(規(guī)定的第十九條)
備案制度
具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個(gè)工作日內(nèi)通過(guò)互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報(bào)服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型、算法自評(píng)估報(bào)告、擬公示內(nèi)容等信息,履行備案手續(xù)。
算法推薦服務(wù)提供者的備案信息發(fā)生變更時(shí),應(yīng)當(dāng)在變更之日起五個(gè)工作日內(nèi)辦理變更手續(xù)。
算法推薦服務(wù)提供者終止服務(wù)的,應(yīng)當(dāng)在終止服務(wù)三十個(gè)工作日前辦理注銷備案手續(xù),并作出妥善安排。(規(guī)定的第二十條)
完成備案的算法推薦服務(wù)提供者應(yīng)當(dāng)在其對(duì)外提供服務(wù)的網(wǎng)站、應(yīng)用程序等顯著位置標(biāo)明其備案編號(hào)并提供公示信息鏈接。(規(guī)定的第二十二條)
強(qiáng)制的安全自評(píng)估
具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開(kāi)展安全評(píng)估。
算法推薦服務(wù)提供者應(yīng)當(dāng)完善算法推薦服務(wù)管理機(jī)制,對(duì)算法推薦服務(wù)日志等信息進(jìn)行留存,留存期限不少于六個(gè)月,并在相關(guān)執(zhí)法部門依法查詢時(shí)予以提供。(規(guī)定的第二十三條)