一起致命車禍，再度把自動駕駛汽車推上風口浪尖。8月14日，一篇題為《我們的“萌劍客”走了》的訃告，引發了輿論關注。訃告中稱，“上善若水投資管理公司創始人、意統天下餐飲管理公司創始人、美一好品牌管理公司創始人林文欽先生（昵稱“萌劍客”），駕駛蔚來ES8汽車啟用自動駕駛功能（NOP領航狀態）后，在瀋海高速涵江段發生交通事故，不幸逝世，終年31歲”。
▲ 林文欽駕駛的蔚來ES8汽車，圖源：新京報
8月16日晚間，蔚來官方微博發布聲明，證實了林文欽駕駛蔚來汽車與正在作業的工程車相撞身亡。聲明稱，8月16日下午，蔚來總部技術團隊到達莆田，配合警方及司法鑒定機關進行下一步數據讀取作業。
目前，這起事故的調查結果仍在進行中。如果最終調查證實，事故發生時，車輛確實處於自動駛駕功能開啟狀態，將是自動駕駛引發慘劇的最新案例。
在此之前的2021年 1 月，一台蔚來 ES8 在高速公路上開啟輔助駕駛功能時，先後撞上了一名男子和一台停靠在快車道上的五菱宏光。2020 年 6 月，一輛特斯拉 Model 3在台灣的高速公路上徑直撞上一輛側翻的白色貨車，事發時特斯拉處於 Autopilot 自動駕駛狀態。再往前追溯，中國首例“自動駕駛”致死車禍發生在2016 年1月，在京港澳高速河北邯鄲段，一輛特斯拉開啟 Autopilot 自動駕駛模式，直接撞上正在作業的道路清掃車，特斯拉司機因此身亡。
此類事件的頻頻發生，恰恰為當下智能化程度不斷提升、自動化產品層出不窮的智能社會敲響了警鐘。
技術失靈背後，是人的失范
其實，人工智能並非人們想象的那麼智能。
以自動駕駛為例，雖然有大量高科技硬件產品、先進算法加持，但卻始終無法做到像人眼一樣識別判斷物體。目前自動駕駛的傳感器主要是攝像頭、激光雷達、毫米波雷達，三者各有特點，但均會不同程度地受到外界光線、雨霧風沙、遮擋，甚至顏色等因素的干擾，從而出現出錯誤識別或者是無法識別物體的情況。
此外，算法作為人工智能的中樞，其平衡拿捏也是個難題，面對外界的海量數據，算法如何識別出危險信號？識別得少了，可能會釀成未及時剎車，發生碰撞的慘劇；識別得多了，在高速公路上頻頻自動剎車也相當危險。
事實上，現階段的自動駕駛都不是嚴格意義上的“自動”駕駛，而是需要駕駛員投注精力的自動輔助駕駛。業內有個著名的“Corner case”理論，也就是說或許技術上已經解決了90%的問題，但剩下的10%的問題卻可能要花費更多的精力，且並不能保證一定解決。
而在技術並未完全成熟的情況下，許多企業卻因為急於擴大規模、衝刺銷量而進行誇大宣傳。比如某國內知名廠商就宣傳過，開啟智能駕駛功能后，駕駛員可以在車上自拍甚至喝咖啡、吃東西（相關內容現已刪除）。
隨着“互聯網+”深入各個行業，汽車廠商們也效仿起“小步快跑、快速迭代”的互聯網思維，不斷推出“MVP”（最小可行性產品），將未完全成熟的產品交付給用戶，再通過後續不斷的更新迭代來優化和完善。
而在企業及媒體的宣傳誤導下，部分消費者出於對技術的盲目信賴，開始挑戰輔助駕駛的極限場景，在國內外的網絡視頻中，時常會看到一些車主行駛過程中雙手脫離方向盤，甚至在270度彎道上以60邁速度撒手，或者在車輛高速行駛過程中躺在後排，將駕駛權和自己的生命安全完全交給自動駕駛系統。
但問題在於，手機出現故障，大不了換一個，但汽車要是出現問題，很可能會攸關生死。
不過為了規避責任，企業會通過種種手段進行安全備註，來表示自己已經履行了風險告知和提醒注意義務。
比如一些企業在大肆宣傳“自動”“領航”等賣點的同時，也會在產品說明書里不起眼之處標註，“領航輔助版本為公開測試版本”“功能尚處於持續優化階段：駕駛員雙手不能離開方向盤、視線不能離開行駛道路”等等。
因此，一旦自動駕駛引發事故，駕駛員將是主要風險承擔者，企業反而能撇清責任。比如，在前面提到的中國首例“自動駕駛”致死車禍中，經交警認定，駕駛特斯拉的司機負事故的主要責任。
技術頻頻失靈背後，恰恰暴露的是人性弱點。既有企業急於擴張的利益驅使，也因為消費者求鮮求奇、忽視風險防範，甚至是整個社會宣傳導向偏移，只盯着“高科技”的魅力卻忽視了“高風險”的存在。
在人工智能中，找回人的存在
“這是最好的時代，也是最壞的時代。”用英國作家狄更斯這句話來形容當下的智能社會再恰當不過。
一方面，人工智能技術循摩爾定律飛速迭代更新，與日俱增的技術水平與實用優勢讓人類的生活質量得到空前提高。以自動駕駛汽車、工業機器人、人工智能輔助審判系統、外科手術機器人等為代表的一系列技成果，極大地解放了勞動生產力，並提升了人類的活動能級。
另一方面，層出不窮的惡性事件，卻讓人類逐漸成為技術風險外化和彌散的直接受害者。
除了自動駕駛，各自動化領域的機器傷人事件也是屢屢發生。
早在1978年，日本廣島一家工廠的切割機器人在切鋼板時，突然發生異常，將一名值班工人當作鋼板操作致其死亡，這是世界上第一宗機器人殺人事件；2002年，美國佛羅里達州一名患者在接受達芬奇（Da Vinci）手術機器人進行腎臟手術的過程中因主動脈被意外割破而死亡；2005年一年之內，英國發生的機器人傷人事故就高達77起；2000年至2013年間，美國的外科手術機器人至少造成了1391起致害事件，並導致144人死亡…….
科技的進步需要付出與投入，但這個代價不應是一個個鮮活的生命。
人們可能會問，科技前進的腳步不會停止，那麼該如何劃定紅線，來保障技術的底線安全？
我認為，一方面，要警惕人工智能的“無人化”風險。
當人類發現技術可以解放雙手，便會愈發著迷其中，深陷技術窠臼反而落入更大的陷阱。如廣泛使用人臉識別設備，而忽視了公共安全的人力投入；如迷信智能診療，忽視了醫生的綜合建議；再如過度依賴審判系統，反而降低了法官判斷的權重。
事實上，人工智能的應用絕不意味着“無人化”。我們不能一邊廣泛宣傳警惕“人工智能取代人類”的風險，又一邊放心地將自己的生命財產徹底交給人工智能。必須通過制度的約束、標準的確立，審慎決定不同領域、不同場景下的智能化程度，並需保證在一些事關人的生命財產安全、重大公共利益的智能化系統中，是由人來掌握最終的決定權。
另一方面，明確人工智能中“人”的責任。
隨着自動化技術的不斷提升、機器侵權事件屢屢發生，究竟要不要賦予機器以自主的法律人格，成為了業內此前討論的一個熱點。2017年2月，歐盟通過的《機器人技術民事法律規則》提出，要賦予機器人“電子人”法律地位。受此影響，國內也陸續有學者提出要賦予人工智能法律人格。
但事實上，賦予自動駕駛汽車等人工智能法律人格既不可行，也殊無必要，更是有礙於風險防範與責任承擔。因此，必須關注人工智能的開發者、使用者、運營者等利益相關方，壓實其主體責任。
首先要確保應用規範化，對於自動駕駛等高風險應用場景，不能未解決軟硬件缺陷之後就交付上線，等待日後應用中再優化升級。
其次要確保宣傳規範化，必須在事前就向消費者盡到明確告知義務，包括但不限於系統功能及性能限制、使用者責任、人機交互設備指示信息、功能激活及退出方法和條件等信息。
就自動駕駛而言，各國已經開始紛紛行動，立法立規。2013年，美國國家公路交通安全委員會（NHTSA）發布了指導性文件《關於自動駕駛汽車法規的意見》，提出了對各州自動駕駛汽車立法的建議。2020年，聯合國歐洲經濟委員會（UNECE）發布了《 ALKS 車道自動保持系統條例》，要求汽車製造商必須滿足該法規中明確的性能要求，才能銷售配備 ALKS 的車輛，這是全球第一部針對L3 級自動駕駛量產車型的國際法規。
近期，中國的自動駕駛規範也有了新進展，工信部印發了《關於加強智能網聯汽車生產企業及產品准入管理的意見》，從加強數據和網絡安全管理、規範軟件在線升級、加強產品管理、保障措施等方面提出11項具體規定，要求加強安全管理，推動智能網聯汽車產業高質量發展。制度的建立健全，在智能網聯汽車行業迅速發展壯大，但又亂象頻出的當下，無疑具有重要意義。
無論如何，即使是99%的安全性，而那剩餘的1%具體到某一個人身上，都將會是100%的生命大事。針對當前自動化系統高度泛化的情況，必須要做到促進發展與保障安全同步規劃、同步建設，同時要明確，技術是為人類更好服務而非取代人類的原則底線。