當(dāng)前，算法已成為數(shù)字社會(huì)發(fā)展的新引擎，但也伴生了“信息繭房”、大數(shù)據(jù)“殺熟”、傳播失真等亂象，加強(qiáng)算法治理備受各界關(guān)注——
今天，我們需要什么樣的互聯(lián)網(wǎng)算法
光明網(wǎng)記者 李政葳 雷渺鑫 周仕興
算法是網(wǎng)絡(luò)平臺生存發(fā)展的重要技術(shù)手段和基礎(chǔ)應(yīng)用支撐，也是互聯(lián)網(wǎng)及人工智能產(chǎn)業(yè)發(fā)展的關(guān)鍵因素。3月30日，在2025中國網(wǎng)絡(luò)媒體論壇期間，由中央網(wǎng)信辦網(wǎng)絡(luò)綜合治理局主辦，光明網(wǎng)、抖音承辦的“堅(jiān)持主流價(jià)值導(dǎo)向 推動(dòng)算法向上向善”主題分享會(huì)在廣西南寧舉辦。
當(dāng)天，來自中央和國家機(jī)關(guān)有關(guān)部門，中央新聞單位，中央和地方新聞網(wǎng)站，各地網(wǎng)信辦，主要商業(yè)網(wǎng)站、互聯(lián)網(wǎng)企業(yè)負(fù)責(zé)人等300余位嘉賓參會(huì)。他們一致認(rèn)為，要不斷凝聚眾智、攜手共治，讓技術(shù)既“聰明”又“善良”，共同守護(hù)清朗的網(wǎng)絡(luò)空間。
強(qiáng)化主流價(jià)值，打造良性內(nèi)容生態(tài)
“2024年下半年微博熱搜前十位的話題里，由媒體主持的熱點(diǎn)話題數(shù)量環(huán)比增長90%”“在2024年全年微博熱搜中，社會(huì)時(shí)事熱點(diǎn)96%來源于媒體”……會(huì)上，微博首席執(zhí)行官王高飛分享了這樣一組數(shù)據(jù)。他表示，媒體在微博獲得大流量的同時(shí)，傳播力也得到了充分提升，平臺的輿論引導(dǎo)價(jià)值不斷顯現(xiàn)。從2024年開始，微博創(chuàng)建起“媒體共建”機(jī)制，讓更多正能量話題登上熱搜，并提供更多流量加持。
當(dāng)前，互聯(lián)網(wǎng)上內(nèi)容生態(tài)，已經(jīng)成為算法治理成效的重要標(biāo)志。以微博為例，王高飛介紹，除了原創(chuàng)、首發(fā)、“暖”等標(biāo)簽外，還將“辟謠”“主題宣傳”“官方回應(yīng)”等標(biāo)簽開放給媒體，在發(fā)布時(shí)可以對內(nèi)容進(jìn)行標(biāo)注；根據(jù)媒體做的標(biāo)注，平臺會(huì)對原創(chuàng)內(nèi)容加權(quán)推薦。
不僅微博，當(dāng)前多家平臺不斷發(fā)揮自身優(yōu)勢，與主流媒體大力合作，擴(kuò)大優(yōu)質(zhì)內(nèi)容影響力?？焓挚萍悸?lián)合創(chuàng)始人楊遠(yuǎn)熙介紹，他們逐漸構(gòu)建了以主流媒體、政務(wù)號為核心的正能量矩陣，通過算法優(yōu)化分發(fā)鏈路，擴(kuò)大優(yōu)質(zhì)內(nèi)容的覆蓋面和影響力。
針對“信息繭房”問題，抖音總裁韓尚佑分享了自身體驗(yàn)——我們在實(shí)踐中發(fā)現(xiàn)，如果只推薦單一內(nèi)容，會(huì)使用戶很快厭倦，導(dǎo)致用戶體驗(yàn)下降。因此，我們將消除“信息繭房”作為一項(xiàng)重要目標(biāo)，建立了多目標(biāo)模型，設(shè)置了100多個(gè)目標(biāo)，以解決單一目標(biāo)下系統(tǒng)容易重復(fù)推送相似內(nèi)容的問題；還加強(qiáng)了推薦系統(tǒng)中對搜索行為的應(yīng)用，讓系統(tǒng)更加實(shí)時(shí)地根據(jù)用戶搜索興趣進(jìn)行調(diào)整。
“以透明化破除信任危機(jī)，以多樣化應(yīng)對信息同質(zhì)，以系統(tǒng)化實(shí)現(xiàn)協(xié)同治理?！彬v訊公司副總裁陳勇也提到，他們正在陸續(xù)構(gòu)建更豐富的“破繭”功能矩陣，并提供用戶指引，包括便捷關(guān)閉個(gè)性化推薦、“不感興趣”的負(fù)反饋、內(nèi)容多樣性綜合評估、推薦類目自定義等能力，通過算法迭代和體驗(yàn)優(yōu)化的雙支點(diǎn)，讓用戶找得到、用得上、有實(shí)效。
凈化互聯(lián)網(wǎng)內(nèi)容生態(tài)，也需要提高算法透明度，為用戶賦權(quán)，讓他們了解算法邏輯。“算法的發(fā)展，必須以用戶為中心，保障其知情權(quán)、選擇權(quán)、隱私權(quán)?！睏钸h(yuǎn)熙介紹，快手公開熱搜排序規(guī)則，并通過趣味視頻、智能客服等渠道，向用戶普及算法邏輯，確保透明、可監(jiān)督。
小紅書也通過優(yōu)化產(chǎn)品設(shè)計(jì)，在長期信息流的分發(fā)中，把50%流量分配給用戶?！啊畔⒗O房’是一個(gè)雙向過程，平臺和用戶在內(nèi)容偏好上，要做到靈活調(diào)節(jié)，借助正、負(fù)反饋機(jī)制，進(jìn)一步破除‘繭房’?！毙〖t書總編輯、副總裁許磊說。
創(chuàng)新技術(shù)驅(qū)動(dòng)，跑出速度展現(xiàn)溫度
隨著生成式人工智能快速發(fā)展，社交媒體逐步向算法和數(shù)據(jù)主導(dǎo)的智能媒體方向演進(jìn)。如何順應(yīng)技術(shù)趨勢，驅(qū)動(dòng)算法創(chuàng)新發(fā)展？
楊遠(yuǎn)熙提到“技術(shù)共治”這一關(guān)鍵詞。他認(rèn)為，要以技術(shù)監(jiān)管技術(shù)，依托大模型能力實(shí)時(shí)監(jiān)測推薦偏差，對低質(zhì)內(nèi)容實(shí)施“智能熔斷”，輔助審核模型訓(xùn)練，強(qiáng)化內(nèi)容識別與治理能力；秉持“算法向上向善”理念，加大以人工智能為代表的技術(shù)研發(fā)，持續(xù)優(yōu)化算法推薦內(nèi)容池，保障內(nèi)容推薦的公平性、透明性、多樣性。
阿里巴巴集團(tuán)安全總裁錢磊認(rèn)為，作為數(shù)字時(shí)代的新質(zhì)生產(chǎn)力，算法可以從海量數(shù)據(jù)中發(fā)現(xiàn)和總結(jié)新的規(guī)律，讓各類企業(yè)特別是中小企業(yè)享受技術(shù)紅利，獲得生產(chǎn)效率的大幅提升。
對此，錢磊提出了“守己利他”的技術(shù)理念——“守己”，需要讓人工智能自始至終處于人類的控制之下，確保其生成的內(nèi)容符合價(jià)值觀、具備正能量；“利他”，堅(jiān)持普惠創(chuàng)新、服務(wù)中小企業(yè)的初心，對該企業(yè)的通義大模型進(jìn)行全尺寸、全模態(tài)、全能力的開源。
技術(shù)迭代提升效率的同時(shí)，也要做到“有溫度”。“算法，已經(jīng)成為保障騎手權(quán)益的重要抓手。當(dāng)騎手?jǐn)[脫配送時(shí)間的焦慮，在奔波忙碌中擁有更好的工作體驗(yàn)，算法便不再是那么冰冷的工具?！泵缊F(tuán)黨委書記、副總裁陳榮凱說。
比如，在配送時(shí)間方面，美團(tuán)已公開“預(yù)估送達(dá)時(shí)間”算法規(guī)則，并且針對遠(yuǎn)距離、單量多等配送難度較大的訂單，用預(yù)估送達(dá)時(shí)間段替代預(yù)估送達(dá)時(shí)間點(diǎn)；近期，還將在全國范圍上線“防疲勞”措施，當(dāng)日跑單超過8小時(shí)的騎手將收到防疲勞彈窗提醒，超過12小時(shí)將強(qiáng)制下線。
在加強(qiáng)對特定群體關(guān)懷方面，陳勇舉例說，視頻號等產(chǎn)品已推出夜間休息提醒等功能，鼓勵(lì)用戶健康用網(wǎng)；持續(xù)升級未成年人模式與青少年專屬內(nèi)容池，幫助未成年人擺脫網(wǎng)絡(luò)沉迷；及時(shí)推送健康辟謠信息，設(shè)立防詐騙等宣傳專區(qū)，幫助老年人提高防范意識；為視障聽障等特殊需求用戶提供無障礙服務(wù)模式等。
此外，多家平臺加強(qiáng)行業(yè)聯(lián)動(dòng)，推動(dòng)產(chǎn)學(xué)研合作，提升算法技術(shù)創(chuàng)新能力，加強(qiáng)算法安全研究，提高抵御安全風(fēng)險(xiǎn)能力。比如，快手與清華大學(xué)聯(lián)合推出“負(fù)責(zé)任的內(nèi)容推薦關(guān)鍵技術(shù)研究與應(yīng)用”項(xiàng)目，聚焦解決自身平臺推薦中的視頻曝光偏差等問題；阿里巴巴成立“算法安全藍(lán)軍”，與清華大學(xué)、復(fù)旦大學(xué)等高校聯(lián)動(dòng)，在實(shí)戰(zhàn)中提升檢驗(yàn)防御能力，進(jìn)一步守護(hù)算法安全。
凝聚多方合力，構(gòu)建共治共享格局
“算法就像我們做菜時(shí)放的鹽。我們需要算法創(chuàng)造價(jià)值、帶來便利，也要正視算法帶來的諸多挑戰(zhàn)。”陳勇以“鹽”為喻，建議“用量精準(zhǔn)”，只有堅(jiān)持高效可用、安全可靠、透明可知、自主可控的原則，算法才能在新航路上乘風(fēng)破浪。
算法紅利不斷惠及廣大網(wǎng)民，但算法治理同樣沒有“旁觀者”，需要政府、平臺、用戶、社會(huì)等多方合力，形成“共建共治共享”的治理格局。
為進(jìn)一步深化互聯(lián)網(wǎng)信息服務(wù)算法綜合治理，中央網(wǎng)信辦等四部門于2024年11月聯(lián)合發(fā)布了《關(guān)于開展“清朗·網(wǎng)絡(luò)平臺算法典型問題治理”專項(xiàng)行動(dòng)的通知》，明確“信息繭房”、大數(shù)據(jù)“殺熟”、誘導(dǎo)沉迷等六大整治重點(diǎn)，督促企業(yè)深入對照自查整改，進(jìn)一步提升算法安全能力。
近些年，多家互聯(lián)網(wǎng)企業(yè)發(fā)力構(gòu)建“向上向善”算法治理生態(tài)。陳勇認(rèn)為，需要堅(jiān)持用戶為本和長期主義，在算法設(shè)計(jì)底層杜絕短視逐利、過度商業(yè)化、流量饑渴等竭澤而漁的行為。楊遠(yuǎn)熙表示，快手通過成立算法安全委員會(huì)等措施，全面統(tǒng)籌算法安全管理監(jiān)督工作，構(gòu)建算法安全、算法糾偏、算法透明體系，實(shí)現(xiàn)內(nèi)容的真實(shí)與向善。韓尚佑介紹，抖音“安全與信任中心”網(wǎng)站已試運(yùn)行上線，面向社會(huì)全面公開抖音的算法原理、社區(qū)規(guī)范、治理體系、客戶服務(wù)……
在分享會(huì)現(xiàn)場，“算法向善”南寧宣言發(fā)布，重點(diǎn)互聯(lián)網(wǎng)企業(yè)代表集體簽署，并承諾：算法的溫度取決于開發(fā)者的態(tài)度，算法的“清朗”源自踐行者的擔(dān)當(dāng)。
在互聯(lián)網(wǎng)發(fā)展日新月異的當(dāng)下，我們唯有堅(jiān)持主流價(jià)值導(dǎo)向，推動(dòng)算法向上向善，互聯(lián)網(wǎng)這艘巨輪方能行穩(wěn)致遠(yuǎn)。