AWS 推出另一款針對 AI 推論需求打造的客製化處理器 Trainium 提升 30% 資料處理吞吐量

2020.12.02 12:15PM

AWS新款客製化處理器Trainium可讓執行個體比先前藉由GPU加速的版本,提升30%的資料處理吞吐量,同時在每次推論運算所需花費成本約可降低45%。

同時也與Intel合作Habana Gaudi人工智慧處理器

AWS在以線上形式舉辦的re:Invent活動中,宣布推出新款針對機器學習應用的客製化處理器Trainium,另外也與Intel合作導入Intel的Habana Gaudi人工智慧處理器,藉此讓旗下EC2執行個體能對應更豐富的人工智慧技術應用。

依照AWS說明,新款客製化處理器Trainium將可佈署於旗下EC2執行個體,或是套用在旗下雲端機器學習平台Amazon SageMaker,並且支援TensorFlow、PyTorch及MXNet在內運算框架,相比先前藉由GPU加速的執行個體,預期可提升30%的資料處理吞吐量,同時在每次推論運算所需花費成本約可降低45%。

而搭載Trainium客製化處理器的執行個體,預計會在明年開始提供使用。

另外,AWS也確定與Intel合作Habana Gaudi人工智慧處理器,預計從明年開始也會開始應用在EC2執行個體,相比藉由GPU加速運算的執行個體在機器學習應用效能表現,約可增加40%左右成本效益,並且支援TensorFlow與PyTorch運算框架,同樣會在明年上半年開始佈署應用。

此次新增加的兩款人工智慧處理器,均能與AWS去年在re:Invent活動上宣布推出的客製化處理器Inferentia搭配使用,藉此對應更高的人工智慧推論效率,同時能配合相同開發工具打造應用項目。

除了希望能讓開發者透過更符合經濟效益方式推動人工智慧運算服務,AWS也期望藉由導入更多客製化處理器資源推動多元人工智慧應用效益。

0 則回應