GPU Knoten

Das INT-MSS am KIT benötigt immer mehr GPU-Speicher- und Rechen-Leistung. Die derzeitigen und geplante Projekte sind unter anderem: Deployment von mindestens einem Large Language Model(LLM) - Für Interne Nutzung, als Assistent - Für Präsentationen/Prototypen um die Ergebnisse zu präsentieren - Fine-Tuning von LLMs - Training von verschiedenen Machine Learning Modellen - Graph Neural Networks - Generative Modelle wie Generative Adverserial Neural Networks und Diffusion basierte Modelle - Image Segmentation Networks