為了構建更負責任的人工智能系統框架，微軟已確認將撤回通過圖像分析來判斷個人情緒狀態的軟件。與此同時，該公司還將對泛濫的面部識別技術加以限制。作為一組試圖推斷情緒、性別、年齡、微笑、毛髮、以及是否化了妝的 AI 工具，現有客戶將只有一年的時間來使用 Azure Face 。
（來自：Microsoft Blog）
微軟 Azure AI 首席產品經理 Sarah Bird 表示：“這些努力引發了與隱私和情緒缺乏共識的爭議，以及無法概括相關用例、地區和人口統計數據中的面部表情與情緒狀態之間的聯繫等重要問題”。
報道稱，微軟一直在審查情緒識別系統是否科學的問題。雖然該公司並未表態，但現在看來，它或許是無法進一步完善根據圖像來推測一個人情緒狀態的算法，此外微軟可能會對使用此類工具的新規和法律給予支持。
除了停售情感識別技術，微軟還將對面容技術的訪問加以限制。後續想要繼續使用的客戶，必須事先獲得批准、並承擔相應的合同義務。
至於實際操作，尚不清楚微軟會施加額外的限制、還是僅要求客戶簽署免責聲明，以免自身因各種濫用案例而遭到任何形式的法律懲罰。
當前微軟僅要求其客戶“避免出現侵犯隱私、或讓技術陷入潛在困境的情況”。讓人疑惑的是，儘管法律有規定避免對未成年人加以識別，但微軟似乎並未明確禁止此類用途。
最後，微軟還對其自定義神經語音功能施加了一些限制。該功能允許客戶根據真人的錄音，來輸出 AI 合成的語音。