AI初創公司 SiMa.ai 推出用於邊緣計算的「專用」AI芯片

公眾號/ ScienceAI（ID：Philosophyai）

編輯 | 白菜葉

圖示：其封裝中所示的 MLSoC 是第一款專用芯片，不僅可以處理嵌入式用例中 AI 的矩陣乘法運算，還可以處理需要在同一應用程序中運行的計算機視覺的傳統功能。（來源：SiMa）

在人工智能計算機芯片的廣闊前景中，服務於「邊緣」市場的產品，包括無人機、物聯網設備、電話和低功耗服務器環境，為供應商提供了肥沃的土壤，成為少有的市場之一。與數據中心技術相比，市場上的發達地區。

正如媒體早些時候報道的那樣，數十家初創公司已經獲得了數千萬美元的風險投資，用於製造用於移動和其他嵌入式計算用途的人工智能芯片。由於邊緣市場不太穩定，供應商有很多不同的方法來解決這個問題。

2022 年 8 月 30 日，人工智能芯片初創公司 SiMa dot ai 正式推出了其所謂的 MLSoC，這是一種用於以更低功耗加速神經網絡的片上系統。該公司表示，已開始向客戶發貨的新芯片是唯一「專門構建」的部件，用於處理高度重視計算機視覺任務的任務，例如檢測場景中是否存在物體。

「每個人都在構建機器學習加速器，僅此而已。」SiMa.ai 的聯合創始人兼首席執行官 Krishna Rangasayee 在接受採訪時說。

Rangasayee 表示，「嵌入式邊緣市場與雲計算的不同之處在於，人們正在尋找端到端的應用程序問題解決者」，而不僅僅是用於機器學習功能的芯片。

「他們正在尋找可以在芯片上運行整個應用程序的片上系統體驗。」

Rangasayee 認為，競爭對手只能通過執行機器學習的神經網絡功能來「處理一小部分問題」。

「每個人都需要機器學習，但這是整個問題的一部分，而不是整個問題。」Rangasayee 表示。

SiMa.ai 芯片採用台積電的 16 納米製造工藝製造，將多個部件製成單個芯片。這些部件包括一個機器學習加速器和代號為「Mosaic」的專用於作為神經網絡處理基礎的矩陣乘法。

板載還有一個 ARM A65 處理器內核，通常在汽車中找到，以及各種功能單元以幫助視覺應用的特定任務，包括一個獨立的計算機視覺處理器、一個視頻編碼器和一個解碼器、4 兆字節的片上內存，以及大量的通信和內存訪問芯片，包括一個與 32 位 LPDDR4 內存電路的接口。

芯片硬件附帶 SiMa.ai 軟件，可以更輕鬆地調整性能並處理眾多工作負載。

SiMa.ai 的產品針對各種市場，包括機器人、無人機、自動駕駛汽車、工業自動化以及醫療保健和政府的應用。

「這是一個價值數萬億美元的市場，仍在使用幾十年前的技術。」Rangasayee 觀察到各種民用和政府應用。

Rangasayee 說，當今許多用於自主飛行器和其他應用的計算機視覺系統都使用「傳統的負載存儲架構、馮諾依曼架構」，他指的是市場上大多數計算機芯片的基本設計。

他說，用於機器學習和計算機的芯片在處理計算帶寬和數據相互結合的方式方面並沒有進步。

「我們擁有獨特的 ML SoC，這是第一個包含 ML 的片上系統，因此人們可以在一個單一架構中進行經典的計算機視覺，並解決除 ML 之外的遺留問題。」Rangasayee 說。

「sima」這個詞是梵文「edge」的音譯。

Edge AI 一詞已成為一個籠統的術語，指的是不在數據中心內的所有事物，儘管它可能包括位於數據中心邊緣的服務器。它的範圍從智能手機到使用谷歌移動人工智能的 TinyML 框架消耗微瓦功率的嵌入式設備。

SiMa.ai 與眾多移動和嵌入式競爭對手抗衡。在邊緣市場，競爭對手包括 AMD、ARM、高通、英特爾和英偉達。然而，這些公司傳統上一直專註於以更大功率運行的更大芯片，大約幾十瓦。

SiMa.ai 芯片擁有其創造者所說的在市場上完成典型任務的最低功耗預算之一，例如 ResNet-50，這是處理 ImageNet 標記圖片任務的最常見的神經網絡。

圖示：SiMa 在評估板上提供 MLSoC，用於應用測試。（來源：SiMa）

該公司表示，該部件每秒可以執行 50 萬億次運算，或「teraoperations」，每瓦每秒 10 teraoperations。這意味着該部件在執行神經網絡任務時將消耗 5 瓦，儘管在使用其他功能時它可能會更高。

以幾瓦特運行的這類芯片使 SiMa.ai 成為許多初創公司的公司，包括 Hailo Technologies、Mythic、AlphaICs、Recogni、EdgeCortix、Flex Logix、Roviero、BrainChip、Syntiant、Untether AI、Expedera、Deep AI、Andes 和 Plumerai 等。

Rangasayee 說，「在我們的視線範圍內」的唯一公司是 Hailo 和 Mythic。但是，「我們最大的區別在於他們只構建 ML 加速器。我們正在構建完整的 ML SoC。」

得益於 SiMai.ai 在 ARM 內核和專用圖像電路以及 Mosaic 神經網絡代碼中的構建，客戶將能夠在添加來自 PyTorch 和 TensorFlow 等流行 ML 框架的代碼的同時運行現有程序的能力更強。

Rangasayee 告訴媒體：「對我來說有趣的是，對支持傳統的專用平台的被壓抑的需求非常高。」 「他們幾乎可以從第一天開始運行他們的應用程序——這是我們擁有的巨大優勢。」

「我們是第一家破解解決任何計算機視覺問題的代碼的公司，因為我們不關心代碼庫，它可以是 C++、Python 或任何 ML 框架。」Rangasayee 解釋說。

他認為，對項目的廣泛支持使公司傾向於將自己視為芯片的「埃利斯島」。「把你的窮人給我們，把你累的給我們……我們會把他們都拿走！」

Rangasayee 斷言，這種廣泛的支持意味着該公司擁有更多的客戶群，而不僅僅是一個利基市場。

根據 Rangasayee 的說法，該芯片的另一個優勢是它的性能是任何可比部件的十倍。

Rangasayee 說，「我們的客戶關心的是每瓦每秒的幀數」，即每瓦功率的圖像幀數。「我們至少是任何人的 10 [倍]。我們日復一日地向每一位客戶展示這一點。」

該公司尚未根據廣泛引用的 MLPerf 基準分數提供基準規格，但 Rangasayee 表示，該公司打算在未來進一步這樣做。

「現在，首要任務是賺錢。」Rangasayee 說，「我們是一家非常小的公司」，擁有 120 名員工。「我們不能讓一個團隊單獨做 MLPerf。」

「你可以圍繞基準做很多調整，但人們關心的是端到端性能，而不僅僅是 MLPerf 基準。」

「是的，我們有數字，是的，我們比任何人都做得更好，但與此同時，我們不想把時間花在建立基準上。我們只想解決客戶問題。」

儘管 8 月 30 日的公告是關於芯片的，但 SiMa.ai 特彆強調其軟件能力，包括它所謂的「新型編譯器優化技術」。該軟件可以支持「廣泛的框架」，包括 TensorFlow、PyTorch 和 ONNX，機器學習用於開發和訓練神經網絡的主要編程庫。

該公司表示，其軟件允許用戶「運行任何計算機視覺應用程序、任何網絡、任何模型、任何框架、任何傳感器、任何分辨率」。

Rangasayee 說：「你可以在一個應用程序上花費大量時間，但如何讓成千上萬的客戶通過終點線？這確實是一個更難的問題。」

Rangasayee 說，為了實現這一目標，公司的軟件工作包括兩件事：「前端」的編譯器創新和「後端」的自動化。

該編譯器將支持「120 多種交互」，這提供了「靈活性和可擴展性」，可以將比通常情況下更多種類的應用程序引入芯片。

該軟件的後端部分使用自動化來允許更多應用程序「映射到您的性能」，而不是「等待數月才能得到結果」。

Rangasayee 說：「大多數公司都在讓人參與以獲得正確的性能。」

「我們知道我們必須以一種巧妙的方式實現自動化，以便在幾分鐘內獲得更好的體驗。」

他說，這項軟件創新旨在利用 MLSoC「按鈕」，因為「每個人都想要 ML；沒有人想要學習曲線。」 這也是 Rangasayee 的前僱主 Xilinx 也採用的一種方法，試圖使其嵌入式 AI 芯片更加用戶友好。

「我在以前的公司了解到軟件的重要性。這真的取決於我們軟件的實力。」Rangasayee 說，「是的，我們的硅非常棒，我們為此感到非常自豪，沒有硅，你就不是一家公司。」

「但對我來說，這是必要的功能，而不是足夠的功能；足夠的功能是提供輕鬆的 ML 體驗。」

相關報道：https://www.zdnet.com/article/ai-startup-sima-debuts-purpose-built-ai-chip-for-edge-computing/