平時我們刷手機遇到的AI陪伴助手、虛擬情感好友，甚至給老人孩子提供陪伴的智能互動產品，今后將有明確的“行為規范”了。今年7月15日，《人工智能擬人化互動服務管理暫行辦法》將正式施行。那什么是“人工智能擬人化互動服務”呢？

　　《辦法》規定的“人工智能擬人化互動服務”是指，利用人工智能技術，向中華人民共和國境內公眾提供的、模擬自然人人格特征、思維模式和溝通風格，且能開展持續性情感互動的服務。

　　而智能客服、知識問答、工作助手等不涉及持續性情感互動的服務，不屬于此類擬人化互動服務，不適用該辦法監管。

　　中國政法大學網絡法學研究所所長 李懷勝：這類服務通過模擬人類情感和溝通方式，很容易讓用戶產生非理性的依賴，削弱現實的社交能力，甚至可能被用于情感操控或者說誘導危險行為。因此為了填補監管空白，防范化解這類潛在風險，同時也是為了響應國家關于完善人工智能治理體系的戰略部署，出臺針對性的管理規范。

　　嚴禁向未成年人提供虛擬伴侶等服務

　　《人工智能擬人化互動服務管理暫行辦法》還聚焦未成年人保護，從服務限制、身份識別到監護管控，給出了解決方案。

　　針對未成年人保護，《辦法》作出明確規定：嚴禁向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關系服務；向不滿十四周歲未成年人提供其他擬人化互動服務的，應當取得未成年人的父母或者其他監護人的同意；要求建立未成年人模式，支持監護人管控使用行為、限制充值消費等。

　　北京航空航天大學法學院副教授 趙精武：禁止向未成年人提供虛擬親屬、虛擬伴侶的服務，主要考慮的是未成年人正處于三觀形成和培育階段，虛擬親密關系服務容易誤導未成年人對現實生活當中的親屬和伴侶關系產生一些錯誤的認識。還需要結合未成年人的年齡段，設置針對不同特定年齡段層次化的未成年人的保護措施和內容，一旦未成年人在使用過程中出現極端性情緒，應當提供相應的援助這些必要的措施，并及時聯絡用戶的監護人或者緊急聯系人。

　　全面保障用戶數據的控制權與隱私安全

　　針對人工智能擬人化互動“情感綁定、持續交互、易產生依賴”的特殊屬性，《辦法》從制度層面，填補了相關領域的治理空白。

　　在用戶數據保護上，《辦法》明確除法定情形或用戶同意外，服務提供者不得向第三方提供用戶交互數據，嚴格限制敏感個人信息用于模型訓練，全面保障用戶數據的控制權與隱私安全。

　　同時，要求服務提供者設定強制干預義務，包括用戶如果出現極端情緒時需及時干預，另外需提醒用戶控制使用時長，防范沉迷與情感依賴。

　　中國政法大學網絡法學研究所所長 李懷勝：這些規定大大提升了用戶隱私的保護力度，意味著企業不能隨意將用戶在聊天中透露出的敏感信息，比如說健康狀況等，直接用于優化其大模型的訓練。此外，《辦法》還規定，提供者不得向第三方提供用戶交互數據，除非有法律或者用戶的明確同意，并需要向用戶提供交互數據的復制刪除等選項，這也是為了保障用戶對其個人信息的控制權。

　　新規施行在即

　　相關企業要加快合規準備

　　《人工智能擬人化互動服務管理暫行辦法》將于今年7月15日施行，相關企業也要加快合規準備，以促進行業步入“安全有序、向上向善”的發展新階段。

　　《辦法》對人工智能擬人化互動服務提供者，明確了四項核心要求，具體可理解為：

　　一是開展服務屬性自查，明確自身服務是否屬于監管范圍，杜絕不合規服務違規運營；

　　二是建立全流程管理制度，涵蓋算法審核、倫理審查、應急處置等關鍵環節，規范服務運行；

　　三是按要求開展安全評估，依法完成算法備案、變更及注銷等相關手續，保障服務安全穩定；

　　四是嚴格落實法定義務，做好數據安全保護、一老一小群體保護及用戶情緒干預提醒，完善用戶申訴舉報機制。

　　北京航空航天大學法學院副教授 趙精武：AI擬人化互動服務的發展方向是文化傳播和情感陪伴，在技術創新與倫理規范之間的需求需要進一步平衡，首先應該明確人類的主體地位和人格尊嚴保護的底線要求。任何擬人化服務的方式創新都不應當以減損現實情感交互為前提。擬人化互動服務的功能是對現有的情感交互的有益補充，而不是單純的替代。

　　(央視新聞客戶端)