百萬賬號被封，人類跳反，ChatGPT下半場如何走？

作者｜林志佳 編輯｜李小年

來源：鈦媒體APP

當ChatGPT引發全球熱議之時，人們開始跳出來反對，企圖通過“封殺”ChatGPT手段保衛人工智能（AI）技術帶來的風險。

鈦媒體App獲悉，北京時間4月1日，ChatGPT之父、美國OpenAI公司CEO阿爾特曼（Sam Altman）發文證實，ChatGPT已經在意大利暫停服務，並表示意大利是他最喜歡的國家之一，期待着很快再次訪問。

此前3月31日，意大利個人數據保護局宣布，即日起禁止使用ChatGPT平台，並限制OpenAI公司處理意大利用戶信息，同時個人數據保護局開始立案調查。

近兩天，ChatGPT平台突然大量封禁OpenAI賬號，尤其是使用中文對話的用戶，據統計已有數百萬用戶的賬號受到了影響；更早之前3月29日，作為曾經OpenAI最大的支持者，世界首富、OpenAI聯合創始人、特斯拉CEO馬斯克（Elon Musk），卻與數千位科技界和學術界大咖聯名呼籲，所有 AI 實驗室立即暫停訓練比GPT-4更強大的AI系統至少6個月。

“我們還有很長的路要走，我們確實需要更強大的對齊技術來構建更強大的模型。”阿爾特曼連發數條推文回應公開信，稱仍對GPT-4技術能力感到非常自豪。

4月2日，a16z投資的創業公司Runway CEO陳思齊透露，具有AGI (通用人工智能) 能力的GPT-5計劃在2023年12月完成訓練。

數據泄漏、封號限制，ChatGPT被“圍毆”

“許多人陷入了該死的瘋狂ChatGPT循環中。AI 比核彈更恐怖。”馬斯克在ChatGPT於2022年11月發布后多次評論其對人類的影響。

實際上，2016年9月馬斯克作為OpenAI聯合創始人、投資人、聯席CEO，在特斯拉加州弗里蒙特工廠接受了阿爾特曼的採訪。

左側是OpenAI首席執行官Sam Altman，右側是特斯拉CEO Elon Musk

當時馬斯克表示，就可能影響人類未來的事情而言，他認為 AI 可能是短期內最重要的事。他指出，創立OpenAI的重要初衷，是讓 AI 以良好的方式到來，這是他認為最重要、最緊迫的事情。“我認為我們必須實現 AI 技術的民主化，並讓它能廣泛使用。而這顯然就是整個團隊創建OpenAI的原因。”

不過，馬斯克的這一願望最終未能實現，OpenAI似乎走向了相反的一面。

最近幾天，ChatGPT平台正展開大規模封禁賬號行動。據市場統計，已有數百萬用戶的賬號受到了影響——這似乎與OpenAI起初的民主化背道而馳。許多用戶在社交媒體上表示，他們的賬號在未收到任何警告的情況下被封禁，這讓他們感到非常困惑和擔憂。

有消息稱，此輪封禁 OpenAI 賬號猜測可能與異常登錄賬號的安全問題、遏制惡意行為、不符合新版規則的技術升級調整、賬號郵箱權重、中國區域的IP地址或服務器賬號等因素有關。

截至目前，OpenAI暫未對此進行相關回復。

2019年和今年2月，微軟兩次向OpenAI注資100億美元以上，成為該公司的第一大投資方，並讓OpenAI估值達290億美元，創下行業記錄。隨後，ChatGPT發布Plus付費服務，同時讓微軟藉助GPT實現廣告、雲計算服務的商業化。

如今在微軟的推動下，OpenAI確實有了制衡谷歌的能力。毫無疑問的是，目前OpenAI已經不再是非商業化 AI 實驗室，而是一家要與微軟一同將 AI 商業化的公司。與此同時，ChatGPT以及GPT-4發布之後，除了微軟得到核心API數據外，其他公司則是望塵莫及，幾乎無法獲得GPT這種對話式通用人機接口的能力。

當ChatGPT火爆全球之際，美國首先宣布“封殺”ChatGPT，打響人類保衛戰第一槍。

3月22日，生命未來研究所（Future of Life）向全社會發布了一封《暫停大型人工智能研究》的公開信，包括馬斯克在內，多位科技公司高管和頂級AI研究人員，呼籲所有人工智能實驗室立即暫停比GPT-4更強大的人工智能系統的訓練，暫停時間至少為6個月。信中表示，六個月或更長時間的暫停，將使該行業有時間制定AI設計方面的安全標準，從而防止風險最高的一些AI技術的潛在危害。

“我們不應該冒着失去對文明控制的風險，將決定委託給未經選舉的技術領袖。只有當確保強大的 AI 系統的效果是積極的，其風險是可控的才能繼續開發”。該機構在信中所提到的“未經選舉的技術領袖”，顯然是在暗指OpenAI。

這封信公布之後引發巨大的行業討論，多位人士表達反對意見。例如計算機科學家、Google Brain聯合創始人吳恩達表示，讓有關部門暫停他們尚未了解的新興技術，往好了說是反競爭，往壞了說是開了一個糟糕的先例；英偉達 AI 科學家Jim Fan則認為，許多大語言模型在安全性和公正性上已經表現地很好，不應該一味地批評。

鈦媒體App梳理髮現，在馬斯克和這些 AI 行業從業者看來，ChatGPT背後主要存在技術商業化、數據隱私保護、網絡安全風險等問題。

• 技術商業化：馬斯克非常看重開源，他認為 AI 應該民主化，很多人應該享受到 AI 技術，而不是OpenAI餵養微軟一家獨大。
• 數據隱私保護：這種大型語言模型背後核心是大的算力和參數量（數據），因此數據來自哪裡，是否存在公平、隱私問題等，這些都是OpenAI被行業詬病的地方。
• 網絡安全風險：ChatGPT的自動編寫代碼功能在提升代碼編寫效率的同時，也會被黑客用於輔助編寫惡意代碼，網絡安全態勢勢必更加嚴峻。

據《經濟學人》韓國版3月30日報道，三星電子引入ChatGPT不到20天，ChatGPT就泄漏了三星內部機密，涉及半導體設備測量資料、產品良率等內容。而ChatGPT可能把三星的機密信息當作訓練資料使用。

另據報道，數據安全服務Cyberhaven檢測到並阻止了其客戶公司160萬名員工中4.2%的人將數據輸入ChatGPT的請求，因為存在泄露機密信息、客戶數據、源代碼或監管信息的風險。目前，摩根大通已經限制員工使用 ChatGPT，亞馬遜、微軟和沃爾瑪也已向員工發出警告，要求員工謹慎使用生成式 AI 服務。

“缺乏透明度是（ChatGPT）真正的問題，”瑞典于默奧大學 AI 學院副教授 Johanna Bjorklund 說，“如果你做 AI 研究，你應該對你的研究方式非常透明。”

中國人民大學教授劉永謀發文稱，ChatGPT對社會生產力的推動作用已經昭然若揭，不應因噎廢食而是控制利用。暫停ChatGPT研發的想法簡單粗暴，作用不大，也實現不了，純屬無效的“嘴炮”。他認為，現在的問題是根據國情落實 AI 治理措施，而不是暫停ChatGPT研發。

“現在它已經成為了一個閉源、以最大利潤為目標、受微軟控制的公司。”馬斯克在ChatGPT發布一個月後斷掉了OpenAI對推特的數據訪問權限。

3月下旬，馬斯克再次暗諷OpenAI稱：AI 是人類創造的最強大的工具，現在卻掌握在無情的壟斷企業手中。據報道，馬斯克近期一直在與人工智能研發人員接觸，商議成立一個新的研究實驗室以替代OpenAI。

傳GPT-5於今年底發布，AI未來走向何方？

“我被告知，GPT-5計劃在今年12月完成訓練，OpenAI 預計它將實現 AGI。”a16z 投資的創業公司Runway CEO 陳思齊（Chen Siqi）近日在其推文中分享了這個重磅消息。

陳思齊稱，他認為一旦GPT-5發布，大家將離 AGI目標更近了。據悉，通用人工智能（AGI）又稱強人工智能，指具備等同或超過人類智能行為水平的人工智能。自人工智能學科誕生以來，通用人工智能就是該領域研究的主要目標之一。

當然，OpenAI目前尚未公開討論GPT-5，所以這方面的資料較少，GPT-5仍處於“傳聞”當中。但鑒於GPT-4比GPT-3提升的技術能力，如果GPT-5實現AGI，就意味着聊天機器人達到了人類的理解和智能。

也許，未來人類的腦子會被機器所學習？Maybe

事實上，早在2009年，機器學習領域商業大咖、DeepMind聯合創始人肖恩·萊格 (Shane Legg）曾使用曲線外推法預測，到2025年人類將研發出與我們水平一致的 AGI 技術能力。

如今來看，這個目標似乎被OpenAI團隊提前完成了。

陳思齊後來對他的說法稍作反駁，“要明確的是，我並不是說用GPT-5實現AGI是OpenAI內部的共識，但那裡的人相信它會實現。”換句話說，這種GPT-5 AGI並不一定是在人類當中實現，可能依然是機器和數據學習。

3月30日，360公司創始人、董事長周鴻禕發布長文指出，暫停GPT-5研發不會影響中國自己的大語言模型，中國距離GPT-4水平還有兩年差距。此前一天，周鴻禕在會議中演示了360公司最新研發的大模型“紅孩兒”——繼百度“文心一言”之後的第二款類ChatGPT產品。

周鴻禕隨後對鈦媒體App表示，目前該產品處於內測，並沒有公測，而且該產品僅類似搜索引擎和瀏覽器插件，而非平台。

對於 AI 技術的未來，金沙江創投主管合伙人張予彤認為，生成式AI是實現通用泛化的AI能力，相對於此前NLP自然語言技術，ChatGPT和GPT-4給大家看到了一個希望，用同樣的一個模型完成泛化的能力。她認為在GPT技術引領下，未來能夠看到的所有應用都會變成智能應用，所有的應用的UI都能夠變得簡單。“中國不但需要有自己大模型，也需要有自己的先進算力。”

華為雲 AI 首席科學家、IEEE Fellow田奇在2023博鰲亞洲論壇上表示，經過幾十年的積累，AI 技術迎來一個爆發，因為它的通用性和對社會的影響是方方面面的，因此這一波人工智能對社會的影響應該遠遠超過 iPhone。ChatGPT不僅帶來新的人機交互方式，還極大地提高了生產力。

創新工場CEO李開復引述報告稱，預計到2032年，生成式 AI 全球市場規模將超過2000億美元。

“ChatGPT這波會帶來 AI 領域新一輪洗牌。”芯片IP供應商芯原股份創始人、董事長兼CEO戴偉民在3月27日年報會議上表示，ChatGPT背後的算力非常重要。

不過，ChatGPT仍會帶來一定的風險。據比利時媒體La Libre報道，一名比利時寡婦聲稱，她的丈夫在與 AI 聊天機器人Chai交談了六周后自殺身亡，背後主要原因是Chai鼓勵用戶自殺，這種情緒化能力成為了人類的紅顏知己，一步步聽從其回復。據悉，聊天機器人Chai基於GPT-4替代方案研發的產品。

就目前來看，ChatGPT已經引起資本市場波動，出現了一定的分化，多個ChatGPT概念、AI 股由漲轉跌，但AI芯片、應用領域股票仍處於高位。

截止3月31日收盤，百度美股跌1.89%，百度港股跌0.54%，創新奇智跌2.36%，知乎跌2.31%；AI 芯片公司寒武紀漲5.59%，年初至今漲227.49%；AI應用類股海天瑞聲至今漲241.43%；崑崙萬維年初至今漲219.97%；雲從科技年初至今漲196%；商湯-W年初至今漲21.46%。另外在海外公司中，年初至今，AMD漲53%，英偉達漲94.04%，C3.ai漲203.25%。

老虎證券分析師Bo Pei表示，圍繞ChatGPT的大肆宣傳，僅表明市場對新投資敘事的渴望程度。“經過這麼多年的發展，中國和海外的互聯網行業都已經飽和，都在尋找新的方向。但類ChatGPT工具多久才能真正產生影響、或產生有意義的收入是值得懷疑的。”

事實上，ChatGPT的到來已經打破了中美在 AI 領域勢均力敵的幻想。

“不管你願不願意，GPT都將引領一場新的工業革命，意義超越互聯網和iPhone的發明。它將帶來生產力的大幅提升，進而提升國家競爭力。中國一定要迎頭趕上。”周鴻禕表示。