AIGC領域風險事件頻發，亟須立法保障產業可持續發展

記者 肖偉

圖片來源：由無界 AI工具生成

連日來，AIGC（基於人工智能生成內容）領域發生多起風險事件，引發社會各界高度關注。

國內法律、人工智能、經濟學領域相關專家表示，我國應抓緊時機研究AIGC領域相關法律制度，為AIGC領域及早立法，推動AIGC產業實現健康可持續發展。

AIGC領域風險事件頻發引關注

3月31日，據央視報道，意大利個人數據保護局表示，已就OpenAI聊天機器人ChatGPT涉嫌違反數據收集規則展開調查，即日起禁止使用ChatGPT，並暫時限制OpenAI處理意大利用戶數據。據悉，OpenAI公司必須在20天內通過其在歐洲的代表，向意大利個人數據保護局通報公司執行保護局要求而採取的措施，否則將被處以最高2000萬歐元或公司全球年營業額4%的罰款。

此外，歐盟執法機構歐洲刑警組織警告ChatGPT可能被濫用於網絡釣魚、虛假信息和網絡犯罪；非營利組織人工智能與數字政策中心（CAIDP）也向美國聯邦貿易委員會（FTC）投訴稱，GPT-4“有偏見性，欺騙性，對隱私和公共安全構成風險”。

《證券日報》記者了解到，截至4月2日記者發稿時，在微信直播間中，仍然有“ChatGPT星球”等多個直播號在與觀眾互動，並現場連線ChatGPT回答觀眾問題，同時兜售個人所著書籍。

日前，1000多名科技人士簽署了一封公開信，呼籲所有人工智能實驗室立即暫停訓練比GPT-4更強大的人工智能系統至少6個月。該倡議的宗旨在於為人類留出時間，思考AI開發的合規性和安全性，並助力人類展開相關的工作。

聯合國亦高度關註上述情況並採取相應措施。3月30日，聯合國教科文組織（UNESCO）總幹事奧德蕾·阿祖萊發表聲明，呼籲各國儘快實施該組織通過的《人工智能倫理問題建議書》，為人工智能發展設立倫理標準。該聲明表示，“聯合國教科文組織的《人工智能倫理問題建議書》設立了適當的規範框架。現在是時候在國家層面實施這些戰略和法規了。我們要言出必行，確保實現上述建議書的目標和內容。”

相關領域立法工作刻不容緩

國內AIGC領域近日也發生一起風險事件，引發社會高度關注。3月31日，光明網報道，一位女網友在網上曬出自己在地鐵列車的照片被別有用心的網友下載，並用AIGC技術“一鍵脫衣”，造謠圖隨後在網上廣泛傳播。此事引髮網友關注並衝上熱搜，不少網友怒斥：“科技不應該用在這上面！”

對於上述情況，湖南金州律師事務所高級合伙人資深律師邢鑫在接受《證券日報》記者採訪時表示，“這一行為已經構成了數個犯罪事實，其中包括觸犯刑法。按刑法第364條規定，製作、複製、傳播淫穢音像製品，應處有期徒刑、拘役或者管制，並處罰金。向不滿十八周歲的未成年人傳播淫穢物品的，從重處罰。”

邢鑫補充說，“使用AIGC技術生成淫穢物品並傳播、牟利和侵犯他人權益，屬於新型犯罪，具有犯罪成本低、犯罪手段隱蔽、受害範圍廣大、影響持續時間長等特點。當前尚無AIGC領域的專門法案，容易出現‘甲錯乙罪’的犯罪錯位等情況。‘甲錯乙罪’具體表現為，實施犯罪者犯有甲種罪錯卻沒有對應法案，只能按乙種罪名進行判罰結案，不利於審判執法、警示教育、維護受害人權益和維護社會秩序。”

2021年，我國發布的《法治中國建設規劃（2020－2025年）》當中明確提出，加強信息技術領域立法，及時跟進研究數字經濟、互聯網金融、人工智能、大數據、雲計算等相關法律制度，抓緊補齊短板。加強區域協調發展法律制度建設。制定和修改法律法規要着力解決違法成本過低、處罰力度不足問題。

長年深耕人工智能領域的湖南大學信息科學與工程學院博士生導師、教授張大方多次呼籲對AIGC領域儘早立法。

張大方向《證券日報》記者闡述了對AIGC領域立法工作的“四條紅線”思路，“AIGC立法當中應有‘四條紅線’思路，即AIGC技術不能危害全人類共同的生存、和平、發展的利益，不能顛覆國際國內社會所公認的公平正義，不能侵害個人的合法權益，不能妨害相關產業的正常健康發展。在AIGC的理念提出、框架設立、工作原理、模型開發、數據收集、用戶交互、使用場景等領域都應有法律覆蓋，應當既有對AIGC產業發展的整體法，也有對AIGC開發、使用、傳播、審定等環節的專門法，還應當與國際法規條例進行接軌，便於日後實施國際司法協助。”

湖南大學經濟與貿易學院副院長曹二保贊同上述觀點並表示：“我們呼籲對AIGC領域立法，不是限制AIGC產業的快速發展。恰恰相反，立法有利於推動AIGC產業朝着健康、可持續道路上更快發展。”

曹二保以汽車產業為例進行橫向對比，進一步闡明其觀點：“AIGC產業是21世紀的朝陽產業，當前所處階段類似20世紀早期的汽車產業，其產業發展路徑有一定可比性。以美國為例，自1903年率先頒布世界第一部交通法后，該國汽車產業走上規範發展的道路，T型汽車、流水線生產模式、汽車生產巨頭孕育而生，汽車產銷量飛速上升，上下游製造業和消費市場快速發展，拉動配套產業共同進步，其模式得到各國效仿，其GDP增長亦得益於汽車產業蓬勃發展，經濟體量後來居上位列全球首位。由此，率先對AIGC產業立法的國家不僅能得到各國的支持和效仿，本國相關產業也將得到空前發展，更有力推動本國經濟體量躍升新台階。”