AI生成內容 為什么要強制標識

學者看法

AI生成內容 為什么要強制標識

人工智能的迅猛發展正在重塑人類社會的生產和生活方式。它能夠進行邏輯推理并生成高質量的文本、圖像和視頻，甚至能為人類提供很好的決策建議，為人類的生活與工作帶來諸多便利。但是，與其相伴而生的還有虛假信息、錯誤信息、權益侵害等一系列顯性與潛在的風險。它既會誤導廣大普通用戶，也會嚴重污染信息生態和網絡輿論場。為防范該顛覆性技術所導致的信息風險，推動AI健康發展，智能服務提供者應當承擔內容標識的義務。這既是社會各界的期望所在，也是許多國家在技術發展與公共利益之間所作的價值權衡。

義務論：內容標識源于對特定危險的防范

在義務論層面，智能服務提供者負有內容標識的義務，源于對特定危險的控制與防范。智能服務提供者作為技術開發與部署的核心主體，其算法設計和數據訓練直接決定了生成內容的性質與潛在社會影響。根據危險控制論，作為危險的開創者和控制者，應當對可能發生的危險后果采取必要措施并承擔相應的責任。在現代網絡空間，智能服務提供者通過向廣大用戶提供大語言模型的交互服務，讓互聯網與智能算法實現了深度融合，開啟了一種全新的信息服務與交流活動。借由該類服務與實踐活動，智能服務提供者和相關平臺的運營者可以從該活動中獲利。作為這種特定、抽象危險的開啟者，智能服務提供者在提供相關服務的過程中理應根據實際情況采取必要措施，以保護廣大用戶的相關權益免受侵害。

同時，智能服務提供者作為智能系統的實際控制者，通過數據訓練、模型優化、參數設置等環節深度介入內容生成過程，實質上掌握著技術權力的“閥門”，發揮著現代社會信息生產和篩選的“把關人”角色。它直接決定著向用戶提供怎樣的信息，并影響著用戶的信息接收、思考和決策方式。相較普通用戶，智能服務提供者擁有強大的專業知識與能力，能夠預見可能發生的危險和損害，有能力采取必要的技術措施防止損害的發生或減輕損害。《人工智能生成合成內容標識辦法》要求AI服務提供者對生成內容添加標識，本質上是將技術風險轉化為可追溯的法律責任，重點解決“哪些是生成的”“誰生成的”以及“從哪里生成的”的問題。這種設定將技術黑箱轉化為可追溯的責任鏈條，不僅是對個體侵權行為的預防，更是對技術異化風險的系統性遏制，體現了技術權力與責任相匹配的正義原則。

功利論：內容標識能夠促進社會福祉的最大化

在現代社會，人類并不缺乏規制技術發展的手段，缺少的是能夠促進社會福祉的治理手段。換言之，在規制技術的同時，需要做到既不影響技術的創新發展，又不損害國家、社會和他人的合法權益。對AI進行治理，要求其履行內容標識義務，目的即是為了實現社會福祉的最大化。同時，人工智能的廣泛應用還可能導致個人利益和社會公共利益之間的沖突，為實現最大多數人的最大幸福，就應當平衡該利益沖突。在這種情況下，國家既應維護公共利益，又需保護個人權益，對技術所施加的限制盡可能地保持在最低限度，以不妨害個體最大限度地追求幸福。

在人工智能全面介入信息生產的背景下，未標識的AI內容不僅可能消解真實與虛構的邊界，削弱公共討論的理性基礎，而且會導致責任主體的模糊，加劇法律追責與權利救濟的困難?，F行制度通過強制內容標識，在技術效率與風險防控之間建立平衡機制。從成本收益分析看，標識義務的履行并不會給企業增加實質性負擔，其成本遠遠低于提供智能服務所帶來的社會收益。對智能服務提供者而言，標識系統能夠增強產品可信度，可避免因內容失實導致的聲譽損失和法律處罰。對于智能服務使用者而言，明確標識既能規避欺詐指控，也有助于建立負責任的技術使用形象。此外，內容標識制度更深層的效用在于，它能喚醒民眾的媒介素養意識，為公眾提供信息認知的識別工具。當人們明確知曉內容的AI屬性時，會本能地啟動批判性思維和解碼，從而有助于抑制虛假信息的傳播效能。這種集體認知免疫力的提升，正是功利主義追求的社會福祉最大化的體現。

德性論：內容標識是誠實信用美德的體現

在人工智能深度介入信息生產的時代，智能服務提供者對人工智能生成內容進行標識，是誠實信用美德的體現。與要求防范風險的義務論和追求保護公共利益的目的論不同，美德論倡導智能服務提供者對內容進行標識，其本質上是通過制度設計引導企業培育誠實、責任、審慎的德性。《人工智能生成合成內容標識辦法》要求服務提供者對AI生成內容添加標識，即是將誠實、善良等品質作為美德進行倡導，特別是在生成合成內容中添加數字水印等形式的隱式標識，只是鼓勵企業自覺標識，而非強制規定。這一要求并非簡單的合規操作，而是意圖通過實踐持續塑造企業的道德行為。

內容標識，特別是對數據來源標注的要求，促使企業以美德標準自我約束，避免利用技術優勢掩蓋內容生成過程，從而維護信息生態的真實性與可信賴性。作為信息傳播的重要主體，智能服務提供者生成的內容若缺乏標識，本質上是對信息真實性的遮蔽，違背了誠實信用的美德。企業在對合成內容進行標識時，需根據不同場景(如新聞報道、藝術創作)靈活選擇標識方式，既需遵守法律規范，又得兼顧用戶體驗與商業倫理。現行制度允許服務提供者在不影響內容消費的前提下采用隱式標識，這要求企業在技術實現中平衡透明度與實用性，體現了實踐智慧的中道精神。

【作者系中國人民大學新聞學院教授。本文系教育部人文社科研究規劃基金項目“生成式人工智能的傳播侵權問題研究”(24YJA860012)階段性成果】

盧家銀 來源：中國青年報

2025年04月27日 03版