《半導體》羣聯升級aiDAPTIV+擴展邊緣AI應用 支援NVIDIA Jetson平臺

這款搭載NVIDIA GPU的AI筆電將於本週在NVIDIA GTC 2025展示概念機,並開放登記購買。此外,羣聯也將aiDAPTIV+擴展至支援NVIDIA Jetson平臺的邊緣運算設備,強化在邊緣端的生成式AI推論與機器人應用。

隨着此次升級,aiDAPTIV+用戶將迎來全新的aiDAPTIVLink 3.0中介軟體(Middleware Software),提供更快的首次迴應時間(Time to First Token, TTFT)和延長Token長度,進一步提升推論效能與準確性。此次擴展將開啓更多應用機會,無論是大學生或AI產業專業人士學習LLM訓練,還是研究人員透過PC深入解析資料,甚至是製造工程師利用邊緣運算設備自動化生產流程,都能受益於此次的功能升級。

隨着AI和邊緣運算應用場景的增多,市場對AI開發人才的需求持續上升。開發者需要親自操作LLM訓練解決方案,以建立未來AI應用所需的AI軟體或專屬邊緣AI模型;而政府機構、研究機構、醫療和工業等高度監管的產業,則需要邊緣且安全的AI設備進行私有資料的微調訓練。此外,市場對LLM推論速度與準確度的要求不斷提高,企業希望在可預測的成本下獲得最佳解決方案。aiDAPTIV+以經濟實惠的GPU記憶體擴充能力,讓用戶能在邊緣安全網路內微調訓練大語言模型(LLM),並透過直覺化的軟體介面與AI型互動,獲取所需的AI生成關鍵資訊。

Maingear執行長Wallace Santos表示,延續去年GTC展出aiDAPT+ AI訓練工作站的熱潮,我們與羣聯深化合作,推出概念性AI筆電,讓強大的邊緣AI推論與裝置端模型訓練無處不在。這項技術突破將邊緣AI能力帶入輕便的行動平臺,爲企業、教育機構與學生提供經濟高效的AI開發工具,無需依賴傳統數據中心基礎設施。

羣聯執行長潘健成表示,AI的發展已經來到關鍵時刻,企業、學術界與開發者都需要更靈活、高效的邊緣AI解決方案來擴大AI的落地應用。羣聯的aiDAPTIV+不僅讓用戶在個人筆電或邊緣設備上進行AI模型的訓練與推論,還確保資料安全並降低成本,實現AI邊緣運算的便利性。今年,我們與Maingear攜手推出全球首款支援LLMOps的AI筆電,並強化aiDAPTIVLink 3.0的效能,讓LLM的迴應速度更快、理解力更強。此外,羣聯進一步擴展與NVIDIA Jetson平臺的合作,將aiDAPTIV+引入邊緣運算與機器人應用,讓更多產業如製造、醫療、零售、智慧監控等領域,透過AI提升營運效率與決策精準度。