run Gemma-4-NVFP4 in vLLM Docker nvidia DGX
Source:https://forums.developer.nvidia.com/t/how-to-run-gemma-4-nvfp4-in-vllm-docker/365513 https://gist.github.com/daniel-farina/87dc1c394b94e45bb700d27e9ea03193 Kombinací těchto dvou článků jsem build a nastartoval gemma-4 na DGX station