人工智慧浪潮席捲全球,各行各業加速投入AI技術研發,但高效能運算設備的高昂成本,往往成為新創團隊及中小企業跨入AI領域的一大門檻。為協助產業突破限制,臺南市政府攜手AMD推出「AMD-ITRI高速運算平台」臺南市政府專案,免費提供AI算力、完整開發環境及專業技術支援,打造從模型開發、效能驗證到應用落地的一站式資源,讓更多創新團隊能以更低成本、更高效率實現AI構想。
全球晶片設計巨擘AMD已於114年在沙崙智慧綠能科學城的資安暨智慧科技研發大樓設立研發據點。
本專案開放與臺南具高度連結、運用AI技術協助在地中小企業,以及沙崙智慧綠能科學城進駐企業與新創團隊申請。115年度第5梯次即日起受理至9月2日截止,第6梯次則開放收件至10月28日,提供有需求的企業把握機會,善用免費運算資源,加速技術研發與產品驗證。 市長黃偉哲表示,AI已成為全球科技競爭的重要核心,也是驅動城市治理與產業升級的新引擎。臺南擁有南部科學園區完整的半導體供應鏈、沙崙智慧綠能科學城及豐沛的產學研能量,近年持續整合國際科技企業與研究機構,打造完善的AI創新生態系。此次與AMD合作提供免費AI算力,不僅希望降低企業投入AI的門檻,更期待吸引更多團隊選擇臺南作為技術驗證與創新實證的重要基地,進一步帶動AI產業聚落成形,實踐「大南方新矽谷」發展願景。
經濟發展局長張婷媛指出,平台採用AMD最新Instinct MI300X GPU,單卡具備192GB高容量記憶體,可支援80B參數等級大型模型訓練、微調與推論,搭配Web Portal操作介面、容器化開發環境,以及教育訓練與專人技術輔導,讓企業無須自行建置昂貴且複雜的運算環境,即可快速投入AI研發。每個錄取團隊最高可使用2張GPU、32核心、512GB系統記憶體及5TB儲存空間,若有更大規模需求,也可提出擴充申請,充分滿足不同專案的運算需求。
AMD進駐沙崙後,持續展現企業社會責任,不僅在114年響應經濟部媒合的丹娜絲風災安心助學計畫,現還提供免費AI算力供沙崙智慧綠能科學城進駐廠商與新創企業申請使用。
目前平台已完成四梯次服務,協助醫療照護、智慧製造、金融科技、大數據分析及智慧服務等多元領域完成AI模型開發與效能驗證,成功案例涵蓋大型語言模型推論、智慧影像辨識及製造業知識問答系統等,展現高效能算力對AI創新應用的實質助益。 臺南市政府表示,本專案採單一團隊或跨機構共同申請皆可,由AMD與工研院共同組成評選委員會,依據技術創新性、可行性及市場發展潛力進行審查。市府期盼透過免費算力資源與完善技術支持,協助更多創新團隊縮短研發時程,加速AI技術走向商品化與市場應用,持續厚植臺南AI創新實力,朝向國內重要人工智慧發展重鎮邁進。