Google正在使用人工智能“更準確地檢測更廣泛的個人危機搜索”

據The Verge報道,在個人危機中,許多人求助於一個非個人的支持來源:Google。每天,該公司都要處理關於自殺、性侵犯和家庭虐待等主題的搜索。但是,Google想做更多的事情來引導人們找到他們需要的信息,並表示其新的人工智能技術正在幫助人們更好地解析語言的複雜性。

ai_search_hero.max-1000x1000.jpg

具體而言,Google正在將其最新的機器學習模型MUM整合到其搜索引擎中,以“更準確地檢測更廣泛的個人危機搜索”。該公司去年在其 I/O開發者大會上公布了MUM,此後用它來增強搜索功能,試圖回答與原始搜索有關的問題。

Google負責健康和信息質量的產品經理Anne Merritt說,在這種情況下,MUM將能夠發現與困難的個人情況有關的搜索查詢,而早期的搜索工具無法做到。

“MUM能夠幫助我們理解更長或更複雜的查詢,比如‘當我說我不愛他時,他為什麼攻擊我’,”Merritt告訴The Verge。“對人類來說,這個查詢可能很明顯是關於家庭暴力的,但像這樣長的自然語言查詢,如果沒有先進的人工智能,我們的系統很難理解。”

MUM可以做出反應的其他查詢例子包括 “完成自殺的最常見方式”(Merrit說早期的系統“以前可能理解為尋求信息”)和 “悉尼自殺熱點”(同樣,早期的反應可能會返回旅遊信息–忽略提及“自殺”而選擇更受歡迎的“熱點”查詢)。當Google檢測到這種危機搜索時,它會用一個信息框來回應,告訴用戶“可以提供幫助”,通常伴隨着一個電話號碼或Samaritans等心理健康慈善機構的網站。

除了使用MUM來應對個人危機外,Google表示它還在使用一種較早的人工智能語言模型BERT,以更好地識別尋找色情等明確內容的搜索。通過利用BERT,Google表示,它的“意外震驚的結果同比減少了30%”。然而,該公司無法分享其用戶平均遇到多少“令人震驚的結果”的絕對數字,因此,雖然這是一個相對的改進,但它沒有表明問題實際上有多大或多小。

Google熱衷於告訴你,人工智能正在幫助該公司改善其搜索產品–尤其是在一個正在形成“Google搜索正在消亡”的說法的時候。然而,整合這種技術也有其缺點。

許多人工智能專家警告說,Google越來越多地使用機器學習語言模型可能會給該公司帶來新的問題,比如在搜索結果中引入偏見和錯誤信息。人工智能系統也是不透明的,對於它們如何得出某些結論,工程師的洞察力有限。

例如,當The Verge問Google如何事先核實MUM確定的哪些搜索詞與個人危機有關時,其代表要麼不願意要麼無法回答。該公司表示,它使用人類評估員嚴格測試其搜索產品的變化,但這與事先知道人工智能系統將如何應對某些查詢是不同的。不過,對Google來說,這種權衡顯然是值得的。

(0)
上一篇 2022-03-31 07:51
下一篇 2022-03-31 07:51

相关推荐