試想一下：一家服裝公司，擁有你的姓名、交易記錄以及長期消費行為數據。如今，這家公司決定開發生成式人工智能模型，並利用用戶數據訓練模型，提升商業競爭力。它需要重新徵求你的同意嗎？ 

　在新加坡監管機構看來，答案是肯定的。

　新加坡個人資料保護委員會近日發佈《生成式人工智能個人數據使用諮詢指導原則》，這是其中一個案例。該指導原則基於新加坡《個人資料保護法令》，討論機構在開發、部署生成式人工智能，以及系統投入使用後的不同階段，如何透明、負責任地使用個人數據。

　這一案例背後，是人工智能時代數據治理面對的一個難題：當數據用途不斷擴展，用戶如何獲得真正有意義的知情同意？

　新加坡數碼發展及新聞部長楊莉明在新加坡數據節開幕式上發佈該指導原則時表示，數據商業價值不斷提升，可信賴的數據治理需要明確責任機制。如果個人數據被用於開發或改進生成式人工智能模型，機構應以清晰、直接的方式說明，而不能依賴寬泛籠統的描述。

　不過，很多時候，問題並不是用戶沒有「同意」，而是不知道自己究竟同意了什麼。

　隨後的論壇上，新加坡國立大學人工智能治理教授西蒙·切斯特曼做了一個現場互動：「過去一年裡，如果你曾經點擊過同意某些服務條款，允許對方使用你的數據，請舉手。」

　不少觀眾舉起了手。

　「如果你讀完了所有這些條款，請繼續舉手。」

　一些觀眾放下了手，現場響起笑聲。

　「你們有幾位在撒謊。」切斯特曼說，即使是專家，通常也不會閱讀那些冗長複雜的條款。

　如何讓用戶充分知情？委員會提出，只使用「您的數據將用於新產品開發」這類籠統表述是不夠的，機構應提供「人工智能專項通知」，明確說明數據使用目的、涉及的數據類型、使用方式，以及用戶如何拒絕或撤回同意。指導原則建議，社交媒體平台如果希望利用用戶數據開發生成式人工智能模型，可以同時更新隱私政策、製作專門說明頁面、在平台內彈窗提醒，並通過郵件通知用戶，同時提供拒絕的渠道。

　委員會同時指出，即使個人數據已被用於生成式人工智能開發，用戶仍有權要求查閱、更正自己的數據。但該機構也承認，實現這一要求並不容易。生成式人工智能模型通常依賴海量訓練數據，這些數據並不一定以傳統數據庫形式保存，刪除已經進入模型的信息，在技術上仍存在挑戰。

　切斯特曼說，互聯網早期，人們面對的數據更多是「靜態」的：用戶搜索信息、獲取內容。隨著社交媒體興起，數據開始記錄用戶與誰互動、個人偏好等更豐富的信息。未來，人工智能不僅收集數據，還可能基於數據進行推斷，而這些推斷可能超出個人主動提供、原本希望被使用的信息範圍。數據治理正從單純依賴用戶同意的模式，轉向加入更深層次的授權機制和問責要求。

　新加坡星展銀行首席數據與轉型官尼潘利明也表示，過去企業主要關注數據集本身是否合法獲取，但現在需要關注的是不斷流動、不斷變化的數據。

　隨著人工智能進一步發展為能夠自主執行任務的智能體，知情同意將面臨新的挑戰。

　美國谷歌公司政府事務與公共政策副總裁馬卡姆·埃里克森說，智能體的發展帶來一個悖論。一方面，用戶希望智能體成為可信賴的助手，能夠跨應用理解、整合信息，盡可能更高效地操作；另一方面，在涉及用戶安全的關鍵時刻，又需要增加相關授權流程，讓用戶能夠介入判斷。

　新加坡資訊通訊媒體發展局可信人工智能集群總監署長李婉詩提到，最近測試發現，如果給智能體設定一個目標，它可能會「盡一切可能實現目標」，並在過程中無意洩露敏感數據，這說明真實環境測試的重要性。面對人工智能快速發展帶來的新問題，監管機構和企業需要共同探索下一步方向。◇