Недавно компания Microsoft выпустила пресс-релиз, в котором представила новый инструмент Microsoft Olive, способный повысить производительность графических карт AMD до 9,9 раз.
Microsoft Olive — это инструмент, написанный на языке Python, позволяющий значительно оптимизировать производительность графических процессоров AMD при запуске больших языковых моделей.
В пресс-релизе сообщается, что графический процессор Radeon RX 7900 XTX при использовании инструмента Microsoft Olive демонстрирует значительный прирост производительности при генерации текстовых изображений, например, при работе с моделью Stable Diffusion.
Microsoft Olive трансформирует, оптимизирует, квантует и автонастраивает модели ИИ для достижения максимальной производительности. В официальных тестах AMD заявила, что при работе в PyTorch по умолчанию AMD Radeon RX 7900 XTX обеспечивает 1,87 итераций в секунду; однако при включении инструмента Microsoft Olive для оптимизации модели GPU способен выполнять 18,59 итераций в секунду.
