北京時間3月3日，據國外媒體報道，在喜歡以末日思維思考的人看來，技術必將給文明帶來災難。誠然，我們也許永遠看不到通過CRISPR基因編輯技術出生的嬰兒、失去控制的自動駕駛汽車、或者想殺害人類的人工智能。
資料圖
但隨着技術加速進步，萬一這一天真的到來，事態可能遠超我們的想象。但與此同時，有一個問題值得思考：最危險的新興技術是什麼？讓我們看看專家們對此怎麼說吧。
澤菲爾·蒂喬特 （福特漢姆大學法學副教授）
辦公室監控。這種技術會造成嚴重的信息不對稱，讓僱主可以像對待實驗室小白鼠一樣監視自己的員工，使本就惡劣的上下級關係進一步惡化。僱主們深知如何以不健康的方式刺激員工工作，也知道如何用更少的工資榨取更多的價值。這讓他們可以排除異己，還能通過區別對待離間員工。這種技術如今在職場中已經隨處可見，假如不加以制止，很快就會泛濫成災。
邁克爾·利特曼 （布朗大學計算機科學教授）
在2021 AI100報告中，有一章描述了人工智能當前對我們最緊迫的威脅有哪些。這支包含17人的專家團隊認為，雖然人工智能系統在現實世界中的應用可以造福人類，但隨着其應用範圍的擴大，誤用、過度使用、以及濫用的風險也將激增。
專家團隊對人工智能最大的擔憂在於所謂的“技術解決主義”，即“認為像人工智能這樣的技術可以用來解決任何問題”的心態。許多人都認為，人工智能所做的決策客觀中立、不偏不倚，但這些決策結果可能得到不恰當的應用，也可能基於歷史偏見、甚至明晃晃的歧視。如果數據或數據解讀算法不夠透明，公眾就可能被蒙在鼓裡，根本不清楚這些決策會對自己的生活造成怎樣的影響。
人工智能系統目前已經被用來在網上發布虛假信息了，因此很可能對民主造成威脅，被用作散播法西斯主義的工具。另外，如果對人工智能中的人為因素考慮不夠充分，就會導致人們在“不信任人工智能系統”和“過度依賴這些系統”之間來回搖擺。人工智能算法也在涉及器官分配、疫苗等醫療問題的決策制定中起到了一定作用，很可能導致生死攸關的後果。
如果在出現問題時，對系統效果負責的個人或組織可以負起主要責任，人工智能的危險性或許能得到緩解。將所有利益相關方牽涉進來，雖然會大大減慢人工智能解決困難問題的速度，但卻是不可或缺的一步，因為技術濫用的負面後果實在過於嚴重。技術專家也應當像醫療行業一樣，堅決遵守“不傷害”原則。
戴維·沙姆韋·瓊斯 （哈佛大學流行病學教授）
至於誰能擔得起“最危險的新興技術”這一頭銜，候選人顯然有很多。例如，CRISPR等基因編輯技術的效果不一定有支持者們宣稱的那樣強大，反而有可能造成嚴重破壞。此外，社交媒體也展現出了造成大範圍傷害的威力。但最令我擔心的，還是人臉識別技術在監控領域的大規模應用。從很多方面來說，這項技術都是一項重要的社會資產。例如，人臉識別可以提高交易效率，登機時無需出示身份證或登機牌，在商店買東西時也可以直接刷臉付賬。人臉識別也可以加強社會治安，更容易找到和逮捕犯罪分子。
所以這種技術危險在哪裡呢？首先，我們的一舉一動都將不再隱私，總有人能知道我們在哪、我們去過哪裡。就算這些個人信息沒有被濫用，隱私感和匿名感的喪失也會讓人感覺不適。此外還有信息濫用問題，並且這種風險是真實存在的。任何有途徑拿到這些信息的人都有可能將其用於不法目的。從心理扭曲的追求者到政府部門，都有可能對我們去的地方和見的人進行監視，甚至預測我們的下一步行動。並且我還懷疑，這種技術的危害也許遠超我們的想象。
瑞安·卡羅 （華盛頓大學法學教授）
我認為最危險的信息技術當屬量子計算機。除了加密破解之外，量子計算的危險性其實已經不是什麼新鮮事了。早從超級計算機時代開始，量子計算對個人隱私的威脅就已有加速增長之勢。如今有了足夠的數據和處理能力，當今的計算機系統抓取私人信息的能力更是在不斷增強。我擔心的是，利用量子計算技術，政府和企業都將變成“福爾摩斯”，從公開信息中猜出我們的所有秘密。
艾米·韋伯 （前景、趨勢及情境規劃公司Future Today Institute首席執行官）
最危險的新型技術應該是生物學，或者說得更準確些，合成生物學。這門技術的目標只有一個：利用細胞編寫全新的（或者更好的）遺傳編碼。合成生物學運用工程學、人工智能、遺傳學和化學方法，對生物身體部件或生物體進行重新設計，從而加強特定能力或創造新功能。利用一系列最新合成生物學技術，我們不僅能讀取和編輯DNA編碼，還能編寫出新的編碼。這就意味着，我們很快就能給生物體編程了，就好像它們是微型電腦一樣。
合成生物學讓我們可以將DNA序列變為軟件工具，就像Word一樣，只不過編輯的對象是DNA編碼而已。研究者按自己的想法完成DNA編寫或編輯后，新的DNA分子就可以藉助3D打印機之類的技術憑空“打印”出來。這種DNA合成技術正在飛速進步中。如今的技術已經能常規打印出包含幾千個鹼基對的DNA鏈了，可用於建立新的細胞代謝通路、甚至足以構成一個完整的細胞基因組。
這樣可能會造成什麼問題呢？用不了多久，我們就能編寫出任何病毒的基因組。想到新冠病毒，這種設想似乎很嚇人，但病毒不一定都是壞事。事實上，病毒只是盛放遺傳編碼的容器而已。未來我們也許可以創造出對人體有益的病毒，用於治療癌症等特定疾病。
合成生物學將在氣候危機和食物及水資源短缺中發揮重要作用。它將減少我們對動物蛋白質的依賴，最終還能實現藥品定製化，人們的身體將成為自己的“藥房”。
但合成生物學之所以是最危險的新興技術，原因並不在科學本身，而是出在我們人類身上。這要求我們挑戰現有的心智模式，提出一系列複雜艱深的問題，還要對生命的起源展開理性討論，否則我們就會製造風險、錯失機會。在接下來10年裡，我們要充分利用數據、證據及科學精神來制定關鍵決策，比如製造哪些治病專用的新病毒、基因隱私是什麼樣的概念、以及誰擁有“生物體”的所有權等等。監管機構也要確定企業應如何從人工編輯細胞中盈利、以及在實驗室中保存合成生物體需遵守什麼流程。
我們本身在合成生物學中也扮演了重要的角色。如果你可以重新編輯自己的身體，你會做出什麼選擇？如果可以對你未來的子女進行編輯，你會不會對此感到困擾？如果食用合成生物可以緩解氣候變化，你會接受嗎？合成生物學將成為人類有史以來打造過最強大、最可持續的製造平台。我們如今正處於這場工業革命的風口浪尖。
傑倫·范登霍文 （代爾夫特理工大學倫理與技術教授）
我認為最危險的技術是那些阻擋人們了解世界和他人需求的社會或認知技術。這些技術容易導致人性的泯滅，使人們變得自私自戀、不為他人考慮。這些技術就像造霧機一樣蒙住了我們的雙眼，讓我們對人類共同體和人類的責任視而不見。這些技術完全沒有信仰可言。研發它們的人要麼是被別人當成工具利用，要麼極其天真幼稚，要麼是同謀，要麼就是偽造假象的大師、堅決否認人類未來可能遭遇的一切苦痛。
所以我認為，這些助長認知混亂的數字技術是我們面臨的最大威脅。這些技術的危險性很容易被遮蔽或否認，因此大多數人都覺得沒什麼不對。而與此同時，其它真正能造福人類的技術反而會被污名化。暴君和惡棍飽受讚譽，英雄和救世主卻被肆意抹黑。
有的人還未放棄抵抗氣候變化、尋找抗疫方法、阻止醫院利用人工智能分診、揭露深層騙局等等。但這些人如今已難以辨明哪些才是真相、哪些做法在道義上可以接受。而多數人恐怕都早已放棄了對真相的追尋，變得溫馴順從、洋洋自滿。
希德·約翰遜 （紐約州立上州醫科大學生物倫理與人類學副教授）
異種移植（即將一種動物的器官和組織移植到另一種動物體內）一直被視作移植器官短缺的解決方案之一。有成千上萬人在苦苦等待救命的器官，有些人最終熬不過漫長的等待、在這個過程中不幸逝世。從上世紀60年代到90年代，研究人員做了無數次將靈長動物器官移植給人類的嘗試。但到目前為止，還沒有患者在接受異種器官后存活下來。有人只活了短短几小時，有人堅持了幾天活幾周，原因之一在於免疫系統對新器官產生的排異反應、甚至可怕的超急性排異反應。
物種之間差異越大，排異風險越大，就像人類和豬一樣，畢竟兩個物種之間隔了8000萬年的進化差異。但豬目前被我們視作較為理想的器官來源，因為飼養難度低，器官大小適合人類使用，並且每年被屠宰的豬本就達到了數億頭之多，所以為了器官殺死它們似乎也不存在太大的倫理道德問題。
靈長類動物與人類之間的遺傳相似性會增加人畜共患病的感染風險。美國食葯監局就明確禁止了將靈長類動物的器官用於異種移植。但豬也可能感染與人類相似的病毒，也可能傳播人畜共患病。1998和1999年，馬來西亞的養豬戶中就爆發了一次因豬傳播的尼帕病毒導致的病毒性腦炎，導致100人死亡、超過1百萬頭豬被撲殺。
新冠也是一種人畜共患病，可能先後跨越了好幾個物種、最終才傳播到人類身上，引發了這起已奪走數百萬條生命的全球大流行，給醫療體系造成了重擊，引發了一系列全球性社會經濟動亂。目前，我們已在狗、貓、雪貂、黑猩猩、大猩猩、水獺、大型貓科動物、歐洲的人工養殖貂、以及美國的野生白尾鹿身上都發現了新冠病毒。
人畜共患病通過異種器官移植傳播的風險是個十分嚴肅的話題，許多組織都建議對器官接受者、其密切接觸者、以及參與移植過程的醫療工作者進行終生觀察。觀察的目的倒不是保護器官接受者本身，而是出於公共衛生考慮。因此異種移植是一項極其危險的新興技術。在最糟糕的情況下，也許會爆發另一場全球性大流行病，造成災難性後果。
除了異種移植之外，器官短缺其實還有其它解決方案，並且有些已經可以投入應用了，例如增加人類捐贈者的數量。還有些正在研發中（例如：體外培育人體器官，利用3D生物打印技術實現受損器官的體內修復和再生等等）。這些技術都沒有造成全球大流行病的風險。而異種移植技術在經歷了數十年的研究、以及無數次失敗后，仍存在諸多疑點。如今新冠疫情已進入第三個年頭，異種移植的疾病傳染風險已經成為了一個重點問題，其危險性再怎麼高估也不為過。
約翰娜·布萊森 （柏林赫爾蒂行政學院倫理與技術教授）
我認為最危險的新興技術其實是各種國家治理形式。我們對社會控制已經有了充分的了解。有些國家對這些信息的使用主要出於好意，但有些則用其壓迫和操縱少數群體、甚至削弱占多數群體的權力，無論是哪種方式，結果都很殘酷。我們還要意識到，這種暴行也包括“文化種族屠殺”，即抹去人們留下的所有記錄和歷史、否認其祖先的存在和身份。這種做法雖然不一定會真的殺死這些人，但也會嚴重打擊其蓬勃發展的能力。
要想解決這些問題，唯一的辦法就是創新治理形式，鼓勵合作行為，尊重基本權利。很多技術事實上都有“雙重用途”。我們不能選擇躺平、認為解決方案不在自己掌控範圍內。在任何社會層級上，政治覺醒度和參與度都十分重要。而且有趣的是，我們利用社交媒體等工具，已經在很大程度上提高了人們的政治意識。所以我認為還是有希望的，只不過要做的工作還有很多。
伊麗莎白·希爾特 （伊利諾伊理工學院哲學教授）
最危險的新興技術應該是某種能夠脫離人類控制和監管的技術。技術不會奇迹般地憑空出現，本身也並不危險，危險之處其實在於設計、改造和部署它們的人類。
雖然有很多人猜測，未來可能會出現超級人工智能、對人類進行統治和支配，但我認為，新興技術有很多更加實際的方法逃離人類掌控。
例如，技術的作用原理若不夠透明，就很容易脫離我們的控制。此外，針對某一技術的功能和影響，製造商或企業也許會對公眾歪曲事實、或有所隱瞞。
人類的情感投入也可能導致失去對技術的掌控。我們與技術開展互動時，越是符合自己的直覺和情感，就越容易掌握這門技術。因此類人機器人常常會模仿人與人之間的互動方式。但如果賦予技術情緒等人類特徵，可能會導致人類單方面的情感投入，使得人與技術之間的互動不再受理性主導、而是受感性因素驅使。在這類互動關係中，人類將成為更容易受傷害的一方。