Skip to content

MIGraphX or ROCm inference. #113

@crysolut

Description

@crysolut

Здравствуйте! Долго пытаюсь запустить данный проект на gfx906 (AMD Instinct Mi 50) Пока что все тесты провалились.
Проект успешно запущен на Tesla A10 и показывает потрясающую производительность и качество на моделях GigaAM v3 e2e RNN-T, поэтому сам пайплайн известен и проработан. Так как чипов gfx906 на вторичном рынке огромное количество и цена на них очень низкая, а сами чипы весьма свежие и очень мощные, было бы великолепно запустить стабильный бекенд на этих чипах.
Может быть у вас есть какие то наработки, документация и прочее по работе с железом AMD не самого свежего выпуска, ROCm, MIGraphX и тп. Так как сами библиотеки отлично работают и компилируют простые модели и показывают на них хорошую призводительность. Тоесть дело все в софте, а не в возможностях железа и ПО AMD.

Metadata

Metadata

Assignees

No one assigned

    Labels

    questionFurther information is requested

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions