(資料圖)

近日，微軟公司發(fā)布新聞稿，公布了全新的Microsoft Olive工具，該工具最多可以讓AMD旗下的GPU顯卡運(yùn)行模型性能提升9.9倍。Microsoft Olive是由Python語言開發(fā)的工具，能夠大幅優(yōu)化AMD GPU運(yùn)行大語言模型的性能。新聞稿中提到，Radeon RX 7900 XTX GPU在啟用Microsoft Olive工具后，以運(yùn)行Stable Diffusion模型為例，基于文本生成圖像性能明顯提升。Microsoft Olive可以轉(zhuǎn)換、優(yōu)化、量化和自動(dòng)調(diào)優(yōu)模型，從而最大化性能輸出。AMD在官方測(cè)試中表示，在默認(rèn)PyTorch路徑上運(yùn)行，AMD Radeon RX 7900 XTX每秒提供1.87次迭代；然而，開啟Microsoft Olive工具優(yōu)化模型后，該GPU每秒可以迭代18.59次。這一結(jié)果充分展示了Microsoft Olive工具的強(qiáng)大性能優(yōu)化能力。

關(guān)鍵詞：