Source:
https://forums.developer.nvidia.com/t/how-to-run-gemma-4-nvfp4-in-vllm-docker/365513
https://gist.github.com/daniel-farina/87dc1c394b94e45bb700d27e9ea03193
Kombinací těchto dvou článků jsem build a nastartoval gemma-4 na DGX station
Source:
https://forums.developer.nvidia.com/t/how-to-run-gemma-4-nvfp4-in-vllm-docker/365513
https://gist.github.com/daniel-farina/87dc1c394b94e45bb700d27e9ea03193
Kombinací těchto dvou článků jsem build a nastartoval gemma-4 na DGX station