“已暴露風險,慎用!”中國支付清算協會緊急發聲

來源:21財經

ChatGPT熱度不減,但人們逐漸開始關注到了安全性的問題。

4月10日,中國支付清算協會發布了《關於支付行業從業人員謹慎使用ChatGPT等工具的倡議》(以下簡稱《倡議》)。

“已暴露風險,慎用!”中國支付清算協會緊急發聲

支付清算協會:倡導支付從業者謹慎使用ChatGPT等工具

《倡議》表示,近期,ChatGPT等工具引起各方廣泛關注,已有部分企業員工使用ChatGPT等工具開展工作。但是,此類智能化工具已暴露出跨境數據泄露等風險。為有效應對風險、保護客戶隱私、維護數據安全,提升支付清算行業的數據安全管理水平,中國支付清算協會向行業發出三條倡議。

具體而言,中國支付清算協會向支付行業發出了三點倡議。

首先是提高思想認識,依法依規使用。支付行業從業人員要遵守所在地區的網絡使用規定,正確認識ChatGPT等工具的機遇和風險,全面評估使用ChatGPT等工具處理工作內容的風險,依法合規使用ChatGPT等工具。

其次,不上傳關鍵敏感信息。支付行業從業人員在使用ChatGPT等工具時,要嚴格遵守國家及行業相關法律法規要求,不上傳國家及金融行業涉密文件及數據、本公司非公開的材料及數據、客戶資料、支付清算基礎設施或系統的核心代碼等。

最後,會員單位加強內部管理和引導。會員單位要進一步健全信息安全內控管理制度,開展有針對性的數據風險防控工作,加強宣傳和引導,提升員工的風險防範和數據保護意識,切實維護國家金融及支付清算行業安全。

《倡議》表示,支付行業從業人員要遵守所在地區的網絡使用規定,正確認識ChatGPT等工具的機遇和風險,全面評估使用ChatGPT等工具處理工作內容的風險,依法合規使用ChatGPT等工具。在使用ChatGPT等工具時,要嚴格遵守國家及行業相關法律法規要求,不上傳國家及金融行業涉密文件及數據、本公司非公開的材料及數據、客戶資料、支付清算基礎設施或系統的核心代碼等。

ChatGPT概念板塊大跌

值得一提的是,ChatGPT是基於巨大的數據集訓練出來的,這意味着它在回答問題可能存在偏見和錯誤;ChatGPT 以及其他類似的模型可能被用於惡劣的,例如傳播虛假信息和濫用個人信息。

東方財富數據顯示,4月10日ChatGPT概念板塊大跌6.36%,超過50隻個股下跌。

“已暴露風險,慎用!”中國支付清算協會緊急發聲

東方財富數據顯示,整個板塊主力資金凈流出超100億元。

“已暴露風險,慎用!”中國支付清算協會緊急發聲

虎符智庫研究員李建平告訴21世紀經濟報道記者,如同其他人工智能模型一樣,ChatGPT是把雙刃劍,既可以是提升效率的工具,同時也可能被繞過安全機制,用於實施有害的活動。

對於如何規避ChatGPT所帶來的安全問題,他認為,從安全防護的角度來看,ChatGPT的運營機構需採取針對性的應對措施。對ChatGPT等類似模型進行培訓,標記惡意的活動和惡意代碼,避免其向惡意人員提供;同時對ChatGPT設置難以繞過護欄,提升惡意人員利用其生成惡意內容、開展惡意活動的門檻。

據上海證券報報道,博通諮詢金融行業首席分析師王蓬博表示,ChatGPT等工具需要對數據庫不斷更新,通過持續訓練才能逐漸進化。在這個過程中,很有可能造成個人信息泄露。

“金融服務不但要考慮到交互的便捷性,更重要的是避免損失,因此AI和金融的結合一定要經過大量訓練,並且實時更新數據,和監管風控要求相匹配。”王蓬博表示,AI只能解決金融服務中面臨的一小部分問題。ChatGPT也面臨人工智能和金融結合中長期面臨的問題,比如怎樣保護用戶個人隱私,避免被用於詐騙等。

王蓬博表示,現階段只是ChatGPT等應用的開始,部分金融和支付機構宣布的入局短期內不可能有實際產品。對於一家收單機構而言,無論從技術還是商業模式上,離這類自動語言處理機器還很遠,更需要圍繞自身業務做好風控和反洗錢等更需要技術支持的工作。從目前支付機構數字化發展的路徑來看,支付機構更多地是圍繞支付進行升級,逐漸通過支付介入到分賬等財務領域。

ChatGPT工具伴生的數據安全等法律風險早已引發關注。中倫律師事務所北京辦公室合伙人喬資營等曾撰文稱,作為21世紀的“石油”,數據的戰略重要性逐漸凸顯。根據ChatGPT的運作原理,用戶在輸入端口提出問題后,該問題首先會傳輸到位於美國的OpenAI公司,隨後ChatGPT才會給出相應回答,從而實現輸入到用戶端口對問題的反饋。人工智能生成內容(AIGC)的使用者在使用AIGC技術時很有可能會無意中透露有關個人、金融、商業隱私等的敏感信息,從而造成數據的泄露。

“現階段,人工智能類軟件多以境外科技公司提供為主,使用者提出的問題中可能涉及到有關國家安全、公共安全、公眾健康以及經濟運行等方面的數據。這種數據必將會傳輸到軟件所在的境外母公司,由此造成國內數據的出境風險。”上海市檢察院檢察官翁音韻表示。

加拿大、意大利調查ChatGPT開發公司

當地時間4月4日,加拿大隱私專員辦公室(OPC)宣布對聊天機器人ChatGPT開發公司OpenAI展開調查,該調查涉及“OpenAI未經同意收集、使用和披露個人信息”的指控。

目前OPC沒有透露更多的調查細節。該機構的一位隱私專員表示,人工智能技術及其對隱私的影響是OPC的優先事項,“我們需要跟上快速發展的技術並保持領先,這是我作為隱私專員重點關注的領域之一。”

“已暴露風險,慎用!”中國支付清算協會緊急發聲

來源:加拿大隱私專員辦公室官網

這是繼意大利之後又一個對ChatGPT“出手”的國家監管機構。

此前,3月31日,意大利個人數據保護局宣布,從即日起禁止使用聊天機器人ChatGPT,並限制開發這一平台的OpenAI公司處理意大利用戶信息。同時個人數據保護局開始立案調查。

3月20日,多名ChatGPT用戶表示在自己的歷史對話中看到了他人的對話記錄。還有不少 ChatGPT Plus用戶在Reddit和Twitter等平台發出截圖,表示在他們的訂閱頁面上看到了其他人的電子郵件地址。

3月25日,OpenAI發布聲明承認,由於開源代碼庫中存在一個漏洞,部分用戶能夠看到另一個用戶的聊天標題記錄,此前已將ChatGPT短暫下線並緊急修補此漏洞。

同時,OpenAI表示,在特定的9小時窗口期內,1.2%的付費版用戶的個人支付信息可能被泄露。部分用戶可能會看到另一名活躍用戶的姓名、電郵、支付地址、信用卡后4碼、信用卡到期時間等信息。

意大利個人數據保護局認為,ChatGPT泄露了用戶對話數據和付款服務支付信息,沒有告知用戶將收集處理其信息,缺乏大量收集和存儲個人信息的法律依據,同時缺乏年齡驗證系統,因此未成年人可能接觸到非法信息。OpenAI公司必須在20天內通過其在歐洲的代表,向意大利個人數據保護局通報公司執行保護局要求而採取的措施,否則將被處以最高2000萬歐元或公司全球年營業額4%的罰款。

來源丨21世紀經濟報道(邊萬莉)、上海證券報、中國證券報、券商中國、公開信息

本文鏈接:https://www.8btc.com/article/6813082

轉載請註明文章出處

(0)
上一篇 2023-05-05 21:39
下一篇 2023-05-06 00:40

相关推荐