隨著AIGC（利用人工智能技術(shù)來生成各種類型的內(nèi)容）創(chuàng)作的快速發(fā)展與迭代，網(wǎng)絡(luò)空間變得更加豐富多元。比如，用各種模版一鍵上傳照片，就可以生成各種有趣的小視頻；看AI小貓小狗做飯，也成了近段時(shí)間的熱議話題。但與此同時(shí)，AI生成的各種低質(zhì)內(nèi)容也鋪天蓋地而來，給廣大用戶造成信息干擾。
生成式AI降低了標(biāo)題黨、“擦邊”內(nèi)容的制作門檻，但技術(shù)的加持讓AI謠言更具“說服力”、偽裝性和強(qiáng)傳播性，使得傳統(tǒng)辟謠手段難以招架。可以說，部分生成式AI正在重塑謠言的傳播生態(tài)，并嚴(yán)重?cái)_亂網(wǎng)絡(luò)環(huán)境。
去年4月，在公安部公布的10起打擊整治網(wǎng)絡(luò)謠言違法犯罪典型案例中，就有4起涉及使用AI造謠。據(jù)不完全統(tǒng)計(jì)，2024年搜索熱度較高的50個(gè)國內(nèi)AI風(fēng)險(xiǎn)相關(guān)輿情案例中，超1/5與AI造謠有關(guān)。
當(dāng)AI學(xué)會(huì)“一本正經(jīng)地胡說八道”后，我們該怎么辦？一方面，全鏈條的有效治理迫在眉睫，從企業(yè)平臺(tái)、監(jiān)管部門、技術(shù)提供者、用戶等多方面發(fā)力，方能最大程度擠壓AI謠言的生存空間；另一方面，作為AI技術(shù)應(yīng)用和海量信息的載體，平臺(tái)方的治理效能顯得尤為重要。不少專家建議把關(guān)注重點(diǎn)放到源頭治理上來，特別是同樣利用AI，在謠言內(nèi)容識(shí)別、路徑追蹤和自動(dòng)化辟謠等方面“用魔法打敗魔法”。
例如，今日頭條在鼓勵(lì)用戶使用AI提效的基礎(chǔ)上，也迅速升級(jí)、迭代AI模型的識(shí)別能力，收嚴(yán)AI內(nèi)容的審核力度。識(shí)別到創(chuàng)作者使用AI輔助創(chuàng)作時(shí)，平臺(tái)會(huì)打上標(biāo)簽，以提醒用戶注意甄別。除此之外，平臺(tái)還增加了后臺(tái)的AI治理——持續(xù)迭代低質(zhì)內(nèi)容AI模型，命中模型的內(nèi)容會(huì)被自動(dòng)處置，從而減少或禁止對外傳播。據(jù)了解，對于AI謠言治理，今日頭條已構(gòu)建起涵蓋內(nèi)容治理制度、內(nèi)容審核、辟謠教育、內(nèi)外聯(lián)動(dòng)的四位一體“防御工事”，取得了較為顯著的效果。2024年攔截不實(shí)信息超500萬條，處置低質(zhì)AI內(nèi)容93萬條。
讓“AI治理”跑贏“AI謠言”，我們期待各平臺(tái)積極踐行社會(huì)責(zé)任，不斷升級(jí)“魔法”。政府機(jī)構(gòu)、媒體、公眾的多方協(xié)同也不可缺位，畢竟，網(wǎng)絡(luò)謠言治理需多方握指成拳、形成合力。
隨著AIGC（利用人工智能技術(shù)來生成各種類型的內(nèi)容）創(chuàng)作的快速發(fā)展與迭代，網(wǎng)絡(luò)空間變得更加豐富多元。比如，用各種模版一鍵上傳照片，就可以生成各種有趣的小視頻；看AI小貓小狗做飯，也成了近段時(shí)間的熱議話題。但與此同時(shí)，AI生成的各種低質(zhì)內(nèi)容也鋪天蓋地而來，給廣大用戶造成信息干擾。
生成式AI降低了標(biāo)題黨、“擦邊”內(nèi)容的制作門檻，但技術(shù)的加持讓AI謠言更具“說服力”、偽裝性和強(qiáng)傳播性，使得傳統(tǒng)辟謠手段難以招架。可以說，部分生成式AI正在重塑謠言的傳播生態(tài)，并嚴(yán)重?cái)_亂網(wǎng)絡(luò)環(huán)境。
去年4月，在公安部公布的10起打擊整治網(wǎng)絡(luò)謠言違法犯罪典型案例中，就有4起涉及使用AI造謠。據(jù)不完全統(tǒng)計(jì)，2024年搜索熱度較高的50個(gè)國內(nèi)AI風(fēng)險(xiǎn)相關(guān)輿情案例中，超1/5與AI造謠有關(guān)。
當(dāng)AI學(xué)會(huì)“一本正經(jīng)地胡說八道”后，我們該怎么辦？一方面，全鏈條的有效治理迫在眉睫，從企業(yè)平臺(tái)、監(jiān)管部門、技術(shù)提供者、用戶等多方面發(fā)力，方能最大程度擠壓AI謠言的生存空間；另一方面，作為AI技術(shù)應(yīng)用和海量信息的載體，平臺(tái)方的治理效能顯得尤為重要。不少專家建議把關(guān)注重點(diǎn)放到源頭治理上來，特別是同樣利用AI，在謠言內(nèi)容識(shí)別、路徑追蹤和自動(dòng)化辟謠等方面“用魔法打敗魔法”。
例如，今日頭條在鼓勵(lì)用戶使用AI提效的基礎(chǔ)上，也迅速升級(jí)、迭代AI模型的識(shí)別能力，收嚴(yán)AI內(nèi)容的審核力度。識(shí)別到創(chuàng)作者使用AI輔助創(chuàng)作時(shí)，平臺(tái)會(huì)打上標(biāo)簽，以提醒用戶注意甄別。除此之外，平臺(tái)還增加了后臺(tái)的AI治理——持續(xù)迭代低質(zhì)內(nèi)容AI模型，命中模型的內(nèi)容會(huì)被自動(dòng)處置，從而減少或禁止對外傳播。據(jù)了解，對于AI謠言治理，今日頭條已構(gòu)建起涵蓋內(nèi)容治理制度、內(nèi)容審核、辟謠教育、內(nèi)外聯(lián)動(dòng)的四位一體“防御工事”，取得了較為顯著的效果。2024年攔截不實(shí)信息超500萬條，處置低質(zhì)AI內(nèi)容93萬條。
讓“AI治理”跑贏“AI謠言”，我們期待各平臺(tái)積極踐行社會(huì)責(zé)任，不斷升級(jí)“魔法”。政府機(jī)構(gòu)、媒體、公眾的多方協(xié)同也不可缺位，畢竟，網(wǎng)絡(luò)謠言治理需多方握指成拳、形成合力。
本文鏈接：http://m.020gz.com.cn/news-2-797-0.html打敗AI謠言亟待“魔法”升級(jí)
聲明：本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請大家謹(jǐn)防詐騙！若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
點(diǎn)擊右上角
微信好友
朋友圈
點(diǎn)擊瀏覽器下方“
”分享微信好友Safari瀏覽器請點(diǎn)擊“
”按鈕
點(diǎn)擊右上角
QQ
點(diǎn)擊瀏覽器下方“”分享QQ好友Safari瀏覽器請點(diǎn)擊“”按鈕
