中國施行AI擬人互動服務管理辦法
【香港中通社七月十五日電】由中國國家互聯網信息辦公室等五部門制定的《人工智能擬人化互動服務管理暫行辦法》十五日正式施行,明確了人工智能擬人化互動服務「輔助人類、服務人類」的定位,劃定了倫理紅線。
根據規定,人工智能擬人化互動服務是指,利用人工智能技術,向公眾提供模擬自然人人格特徵、思維模式和溝通風格的持續性情感互動服務,包括通過文字、圖片、音頻、視頻等形式,提供的情感照護、陪伴、支持等互動服務。
《辦法》就是對向中國境內公眾提供相關服務進行管理的法規。對於那些提供智能客服、知識問答、工作助手、學習教育、科學研究等服務,不涉及持續性的情感互動的,不在此次暫行辦法的管理範圍之內。
《辦法》要求擬人化互動服務提供者不得將替代社會交往、控制用戶心理、誘導沉迷依賴等作為服務目標。需要具備過度依賴風險預警、情感邊界引導等安全能力。且不得生成過度迎合用戶、誘導情感依賴或沉迷、損害用戶真實人際關係的內容,引導擬人化互動服務積極健康交互。
對於用戶長時間使用人工智能擬人化服務,帶來的人機關係邊界模糊等問題,《辦法》還確立了「身份提醒」機制。明確規定,擬人化互動服務提供者應當履行人工智能生成合成內容標識義務,採取有效措施提示用戶正在與人工智能服務而非自然人進行互動。發現用戶出現過度依賴、沉迷傾向的,應當以彈窗等顯著方式動態提醒用戶互動內容為人工智能服務生成等。◇







