被谷歌解僱的AI倫理專家宣布成立AI研究所 防止AI傷害

據報道,在被谷歌解僱整整一年後,知名的人工智能倫理專家蒂姆尼特·格布魯(Timnit Gebru)今日宣布,將成立一個新的人工智能(AI)研究所,致力於成為一家提供不同觀點、並防止傷害的獨立機構。

xenonstack-distributed-artificial-intelligence-trends.webp

該AI研究所被稱為“Distributed AI Research”(分佈式人工智能研究,簡稱DAIR),已經獲得了福特汽車、MacArthur、Kapor Center、洛克菲勒(Rockefeller)和“開放社會”(Open Society)基金會的資助。

未來一年,該AI研究所計劃聘請5名研究人員。格布魯在採訪中稱,該研究所的首位研究員雷塞特·塞法拉(Resetje Sefala)在南非工作,研究如何使用計算機視覺算法和衛星圖像來追蹤“空間種族隔離”(某些地區的少數群體隔離)相關問題。

格布魯表示,投資人工智能研究的兩個主要動機是,“如何讓一家大公司儘可能多地賺錢,以及“如何更有效地殺死更多的人”。她說:“這就是我們當前籌集資金進行人工智能研究的兩個基本目標。那麼,是否還有其他選擇呢?這就是我想要驗證的。”

而格布魯試圖在企業或軍事影響力之外,打造一個研究小組,通過關注全球視角和“代表性不足的群體”,來防止人工智能系統的傷害。隨着人工智能系統的蓬勃發展,該領域已被大型公司所主導,這些公司可以訪問用於構建算法的海量數據和計算能力。

格布魯和其他研究人員,以及一些活動人士認為,這一趨勢正使該領域變得更難進入,尤其是對於那些面臨人工智能傷害風險的群體。而這些公司往往忽視與偏見和負面結果相關的問題,或者讓那些直言不諱的人保持沉默。

格布魯的人工智能研究所在一份聲明中稱:“人工智能不是不可避免的,它的危害是可以預防的。當它的研究和部署涵蓋不同的視角和深思熟慮的程序時,它可能就是有益的。”格布魯將擔任該研究所的執行董事。

去年,格布魯被谷歌解僱。她自己稱,是因為一篇未發表的文章而被谷歌解僱。據悉,格布魯的一篇批評大型人工智能模型(包括谷歌開發的模型)的論文引發了爭議。此外,格布魯還公開指責谷歌對待女性和黑人員工的方式。

兩個月後,谷歌又解僱了格布魯的同事瑪格麗特·米切爾(Margaret Mitchell)。這引發了人們對研究人員是否可以自由開展獨立工作的質疑。

格布魯還希望她的團隊成為一種資源,為其他組織提供人工智能項目方面的建議。此外,她還計劃為受人工智能影響的人群設立一個獎學金。

(0)
上一篇 2021-12-03 02:40
下一篇 2021-12-03 02:40

相关推荐