凌華是亞太唯一與Nvidia簽訂Quadro Embedded合約的工業電腦業者,已在嵌入式垂直巿場積極布局AI邊緣運算商機,未來成長動能可期。
隨著生成式AI對算力需求出現爆發性成長,算力基礎設施的建置成本也同步爆發,能夠為廠商節省算力成本的混合型AI架構,或有機會成為CP值更高的基礎建設解決方案。高通表示混合型AI架構不是只在雲端進行處理,而是在雲端與邊緣裝置之間分配,協調AI工作負載,擴展並充分發揮其潛力。具有超過10億個參數的AI模型,已經能在效能、精確度水準與雲端相近的手機上運行,可預見在不久的將來,有100億個參數以上的模型預計也將能在裝置上運行。
混合式AI不僅可讓生成式AI開發人員及供應商,能夠利用邊緣裝置中的算力來降低成本,更能在全球範圍提供效能、個人化、隱私及安全方面額外的優勢。
所有生成式AI應用裝置 混合型AI幾乎都適用
混合型的AI幾乎適用於所有生成式AI應用和裝置類型,包括手機、筆電、MR頭盔、汽車及物聯網,商業化應用商機具有不小想像空間。
工業電腦凌華(6166)多年來就與上游晶片廠高通及Nvidia積極合作切入邊緣運算及AI市場,在2018年與Nvidia簽訂Quadro Embedded合約,成為亞太唯一取得該合約的工業電腦業者,在嵌入式垂直巿場積極布局AI邊緣運算商機。隨著ChatGPT引爆生成式AI商機,凌華宣布推出Pocket AI新品,搶食衍生的混合式AI商機。公司稱其是一可靠的便捷途徑,可獲得令人印象深刻的GPU加速功能,而成本僅有具備同等GPU能力筆電的一小部分,此新品從四月起開放預購,六月起開始發貨貢獻營收。
Pocket AI主要用於AI開發,從仍在學習和驗證知識的學生與入門者,到可以培養和展示新概念的經驗人士均適用。專業圖形使用者將發現Pocket AI對CAD 3D內容和開發、2D插圖及加速影片處理非常有用。在嵌入式工業應用中,Pocket AI可以支援3D渲染、AI影像處理、具有可擴展性能的動態現場使用及行動工作站上的感測器融合配對。