國際象棋比賽機器人因男孩犯規弄斷手指是AI覺醒?純屬誤會

上周,俄羅斯首都莫斯科舉辦的一場國際象棋公開賽中,一個國際象棋機器人折斷了一名7歲男孩的手指。俄羅斯國家通訊社塔斯社(TASS)報道稱,男孩因犯規被機械臂抓住,似乎是該男孩搶着下一步棋而觸發機器人的行動。俄羅斯Baza Telegram頻道發布的影片顯示,男孩的手指被機械臂抓住數秒,之後機械臂沒有做出其它的扭轉動作,1名女子及3名男子馬上衝出把男童的手指鬆開。

國際象棋比賽機器人因男孩犯規弄斷手指是AI覺醒?純屬誤會

莫斯科國際象棋聯合會主席謝爾蓋·拉扎列夫(Sergey Lazarev)7月25日告訴塔斯社,“這個機器人已經在很多地方使用了很長時間,但機器人運營商顯然忽略了一些缺陷。比賽中孩子在棋盤上做了一個動作,他本來應該留給機器人足夠的回應時間,但男孩過於匆忙,於是機器人抓住了他的手指。”

拉扎列夫說,“孩子手指打上石膏后,第二天就又上場了。”

有媒體對此解讀為機器人AI覺醒,制裁犯規行為。不過目前看來,這純屬誤讀。男孩只是因為在機器人操作回合將手指放在了機器人要下的棋子位置導致了意外傷害。另外,這也意味着該機器人的視覺模塊未加入探測人手並安全終止的功能。

拉扎列夫稱,此前國際象棋聯合會曾多次租用該機器人,均未發生事故,國際象棋聯合會本身與該機器人的編程或操作“無關”。

但他也表示,機器人操作人員必須考慮加強保護措施,以免這種情況再次發生。

歷史上的機器人傷人事件

雖然此次意外中,被機器人傷害的男孩並沒有生命危險,但是仍然引發了人們對於機器人安全性的擔憂。

事實上,機器人缺乏自己的思維,只是按照程序做事。大多數時候,當人類擋道時,問題就出現了,機器人就像對待任何它正在處理的材料一樣對待他們。這就是為什麼大多數與機器人有關的事故和死亡發生在工廠,在那裡,機器人接近人類工作。相遇通常不會給人類帶來好結果,因為瘦肉顯然不是鋼鐵的對手。

有媒體梳理了人類歷史上一些重大的機器人傷人事件,從中可以發現,缺乏必要的安全監管和防護是悲劇發生的重要原因。

其中,美國人羅伯特·威廉姆斯(Robert Williams)是人類歷史上第一個被機器人殺害的人。事故發生在1979年1月25日,美國密歇根州平岩市的福特汽車工廠。威廉姆斯爬上架子取石膏時,被機器人的巨大手臂擊中身亡。具有諷刺意味的是,機器人本應負責取回石膏,但它卻不斷給出關於架子上剩餘石膏數量的錯誤信息,迫使威廉姆斯爬了上去。陪審團認定,威廉姆斯的死亡是由鬆懈的安全措施造成,其中一項措施應該是機器人在人類靠近時發出警告聲。威廉姆斯的家人獲得了1000萬美元的賠償。

2015年,德國包納塔爾的大眾汽車(Volkswagen)工廠也發生了一起機器人傷人悲劇,一名未透露姓名的男子被機器人壓死。這名男子當時是安裝機器人團隊的一員,機器人突然抓住了他,把他按在金屬板上,男子受了重傷,因傷勢過重而死亡。大眾汽車在一份聲明中表示,這起事故由人為失誤造成。

2016年6月,20歲的美國人瑞金娜·埃爾西(Regina Elsea)在婚禮前兩周被機器人撞死。事故發生在位於阿拉巴馬州的韓國獨資工廠阿金美國公司(Ajin USA),該工廠為現代汽車生產零部件。那天,埃爾西和同事試圖修理有故障的機器人,機器人突然自動重啟,把埃爾西推到另一台機器上。埃爾西嚴重受傷,后搶救無效去世。據調查結果顯示,阿金美國公司為了實現利潤最大化,多次違反安全規定。事實上,就在事故發生兩周前,美國勞工部還猛烈抨擊了該公司,並就27項安全違規行為罰款270萬美元。

2016年5月7日,美國人約書亞·布朗(Joshua Brow)成為第一個死於自動駕駛汽車事故的人。當時他駕駛着特斯拉Model S穿過佛羅里達州的威利斯頓,撞上了一輛牽引車。車頂被掀翻后,特斯拉衝出了馬路,撞穿了兩道柵欄和一根杆子。特斯拉試圖為自己在事故中的過失開脫,公司在一份報告中指出,這是Model S 1.3億英里內的首次事故,低於9400萬英里的行業平均水平。該公司還補充說,其汽車的自動駕駛系統並不完美,要求司機把手放在車輪上至少37分鐘,而布朗的手只在輪子上停留了25秒。美國國家運輸安全委員會(NTSB)的調查顯示,事故發生時,布朗和自動駕駛儀都沒有剎車。直到車輛偏離道路,撞到樹上,安全氣囊才打開。

機器人的安全性如何保證

隨着工業生產自動化程度的提高,機器人在工業、交通等領域的廣泛應用仍然是不可阻擋的趨勢。在很多時候,機器人能夠替代人類完成危險、骯髒的工作,提高生產率水平,解決勞動力短缺問題,並減少人類因疲勞而出錯的可能性。那麼,人類又該如何保護自己的血肉之軀不受鋼鐵傷害?

據了解,目前,國際標準化組織(ISO)發布了10個工業機器人標準,起草了兩個個人護理機器人標準。美國國家標準協會(American National Standard)和機器人工業協會(Robotics Industries Association)聯合制定了詳細的工業機器人安全規定,最近又進行了更新,將ISO的指導方針納入。

在自動駕駛方面,美國政府也已經採取了積極的措施。目前美國國家公路交通安全管理局(NHTSA)正在制定一套管理自動駕駛汽車使用的規則。這些規則包括獲得自動駕駛汽車牌照的特殊培訓,以及要求測試自動駕駛車輛的人報告所有事故。

一些機器人公司也在努力改進機器人技術,提高機器人的安全性。例如Cobotect公司為機器人設計了安全氣囊,從而保護人們免受尖銳部件的可能傷害。還有一些企業正在研究機器人傳感器,如果機器人設備離人類太近,就會停止工作。

美國安全諮詢公司IOActive的研究人員則表示,安全審計、安全軟件開發生命周期(SSDLC)、加密和安全默認配置是機器人製造商必須採取的措施。

此前,IOActive對全球市面上在售的10款智能機器人進行了安全測試,從這些機器人身上發現了近50個安全漏洞。漏洞使得攻擊者能夠獲得機器人的完全控制權限,通過機器人的麥克風和攝像頭進行間諜活動、竊取用戶個人數據,甚至造成直接的人身傷害。

不過,比起機器人本身的漏洞和安全缺陷,防範利用機器人實施邪惡目的的不法之徒或許更加困難。美國布朗大學機器人學院的一篇文章指出,機器人的另一個不利因素是黑客攻擊。人們不僅可以入侵計算機,還可以入侵處於網絡連接中的任何機器——包括具有上述特徵的汽車。為了說明這種可能性,計算機科學家查理·米勒(Charlie Miller)和克里斯·瓦拉錫(Chris Valasek)入侵了一輛福特翼虎(Ford Escape),使得在司機已經踩剎車的情況下,車禍也仍然發生。機器人黑客同樣也有可能造成物理傷害。

文章稱,目前尚缺乏有足夠效力的法律對這樣的行為作出規範和懲罰。“當我們歸咎一項犯罪的兇手時,我們通常把它歸咎於一個惡意或粗心大意的人。但這些措辭並不真正適用於機器人,因為機器人是根據編程來行動的,無論是否有意。讓我們的法律適應機器人,可能需要我們思考誰是機器人的代理人。”文章說。

(0)
上一篇 2022-07-27 11:52
下一篇 2022-07-27 11:52

相关推荐