數位無限AI PaaS產品AI-Stack提供NVIDIA GPU最佳算力效率
人工智慧對產業的衝擊及挑戰不斷提升企業投入的興趣,然而產業所面臨的人才荒一直是個難解的議題。人才緊缺導致企業用人成本高,對企業相對發展不利。一般而言,企業的競爭優勢在於低成本或差異化,對於人工智慧技術來說,它的核心成本就是人才和算力,可惜的是,現階段,這兩樣資源的投資成本相對較高。目前市場上的GPU算力還是比較貴的,這導致學習人工智慧的成本變高,而有能力進入這個領域的人就變少了。
數位無限的目標,就是要讓更多人更容易使用AI技術。數位無限致力於降低「導入人工智慧」這個過程的成本,讓更多客戶有機會、有能力進入到AI領域中。為滿足高速發展的人工智慧、高性能計算與資料中心市場,數位無限的「AI計算平台AI-Stack」可幫助企業、醫療院所、金融產業、一般製造業、半導體業者、教育機構、政府研發單位等有志於發展AI的組織建構「自建」或「本地+雲端」AI雲平台,讓研發人員、AI工程師、教授、學生們專注進行學習與專業開發。
AI-Stack平台提供Web操作介面與統一用戶入口門戶(user portal),以圖形化方式進行深度學習容器自助式申請建立容器與日常操作,能對不同使用者進行資源自動分配與部署,同時內建NVIDIA優化並廣泛使用的TensorFlow、Caffe、PyTorch、MXnet、RAPIDS以及Matlab、Chainer與TensorRT等AI框架,並可依需求自行定義AI鏡像,具備優異AI框架擴充設計,大幅節省重複下載深度學習與AI框架的時間。而透過系統流程管控與資源申請機制,搭配批次建立任務與排程作業,使個人和開發團隊能更高效的使用GPU資源。
在技術支援方面,AI-Stack搭配NVIDIA Driver、NVIDIA CUDA (10.0以上)、NCCL、cuDNN等技術提供AI機器學習訓練服務,並使用NVIDIA Docker與Kubernetes進行GPU容器管理。客戶只需要準備Linux Ubuntu18.04環境完成安裝,就能在一分鐘內輕鬆建立容器,大量省下環境建置的時間與成本。此外,AI-Stack提供使用者Jupyter Notebook程式編輯工具進行開發,加速AI開發效率。
在硬體支援度方面,AI-Stack可納管A100、Tesla、Quadro、GeForce系列之NVIDIA GPU,並介接外部儲存設備,故無論GPU伺服器品牌與數量多寡,透過AI-Stack軟體授權均可輕鬆納管。無論是一人使用多張卡、多人使用一機或多人使用多機,或者從單一公司部門、研究所或研發中心,到跨部門、跨院所、公開對外申請等應用場域,AI-Stack都能提供高效協作並完美管理AI開發環境。
未來,AI-Stack亦將整合Nvidia Clara™,在AI-Stack平台中就可以更簡易的使用Clara進行醫學影像、基因體研究、病患監測和藥物開發的研究。
數位無限身為NVIDIA Inception Program會員,時刻密切關注NVIDIA產品發展動向,AI-Stack符合面向NVIDIA DGX POD參考架構的管理節點發展方向,永遠提供最新NVIDIA GPU技術支援,因此AI-Stack是客戶選擇使用GPU搞AI的最佳管理平台。