原標題:一年一度的云計算春晚——亞馬遜云科技re:Invent
一年一度的云計算春晚——亞馬遜云科技re:Invent,近日盛大開幕。那么“云計算春晚”發布了什么AI產品?
首先來看Amazon SageMaker,今年是其發布的第五年,各行各業已有數百萬個機器學習模型使用該服務管理,每月進行數千億次的預測。
今年最重磅的新功能是機器學習治理工具Amazon SageMaker ML Governance,具體來說有3個新工具:
Role Manager,可以在幾分鐘內為SageMaker用戶定義自定義權限,區分算法工程師、運維工程師等不同角色。
Model Cards,可以發現并自動填充諸如訓練作業、訓練數據集、模型構建和推理環境等細節,還可以記錄模型的詳細信息,例如模型的預期用途、風險評級和評估結果。
Model Dashboard,更是可以通過統一的儀表板監控所有部署的模型。
在這些工具幫助下,可以簡化訪問控制,提高機器學習項目的透明度。

接下來是Amazon SageMaker Data Wrangler再次新增40多種新的數據源,可將匯總和準備機器學習(ML)數據所需的時間從數周縮短至幾分鐘。
還有一個有意思的更新,是增加對地理空間數據(Geospatialdata)的機器學習支持,如衛星、地圖和位置數據。具體來說簡化了利用地理空間數據創建、訓練和模型部署的全過程,還可以在Amazon SageMaker的交互式地圖上分析和探索、分享機器學習預測結果。交通、物流、零售,甚至自然災害監測等行業都可從中受益。
看過機器學習平臺,再來看算力方面,這次的更新重點是對大模型的支持。最新發布的Amazon EC2 Inf2,針對機器學習推理優化的虛擬機實例,與上一代Inf1相比有4倍吞吐量提升、延遲降低十分之一。
Inf1對當時常見的中小模型來說恰到好處,但隨著大模型逐漸實用化,對更高規格推理實例的需求也在增長。Inf2專為部署當今最嚴苛的深度學習模型而設計,是第一個支持分布式推理的Amazon EC2實例,在自研Inferentia2推理芯片支持下可以運行高達1,750億參數的大模型。也就是跑個GPT-3級別的大語言模型或者Stable Diffusion這樣的圖像生成模型等都不在話下。
早些時候,亞馬遜云科技還發布了Amazon EC2 Trn1,為機器學習訓練打造,與基于GPU的同類產品相比,可節省高達50%的訓練成本。
投稿郵箱:chuanbeiol@163.com 詳情請訪問川北在線:http://m.bb0031.cn/