Яндекс Метрика
VRAM16 GB GDDR6X
TFLOPS FP16261
TFLOPS FP3252
TDP320W
ПроизводительNVIDIA
ТипGPU
Год2024

Отличная карта для инференса моделей до 7B и генерации изображений. 16 ГБ памяти — минимум для комфортной работы с LLM.

Инференс 7B моделей, Stable Diffusion