High Performance Computing (HPC)

Foto: ZIM

Das ZIM betreibt einen Compute-Cluster für Hochleistungsrechnen (High Performance Computing, HPC) für die Universität Potsdam und unterstützt Angehörige der UP bei der Nutzung des Supercomputer-Systems des Norddeutschen Verbundes für Hoch- und Höchstleistungsrechnen (HLRN)

Der UP-eigene Compute-Cluster ist unter dem Hostnamen "login1.hpc.uni-potsdam.de" erreichbar. Es handelt sich um einen Cluster aus

redundant ausgelegten Head-Nodes,
redundant ausgelegten Fileservern und Anbindung an das ZIM-SAN
mind. 12 Compute-Nodes mit aktueller CPU-Architektur, davon mehrere mit GPUs (je 3 Nvidia V100)

Alle Knoten sind über ein schnelles Infiniband-Netzwerk miteinander verbunden.

Die Speichersysteme sind von den Head-Nodes und allen Rechenknoten erreichbar. Die Daten auf dem Scratch-Speicher werden nicht von uns gesichert, die Nutzer sind also selbst dafür verantwortlich, längerfristig benötigte Daten zu sichern.

Die Verteilung der Rechenjobs auf die Knoten erfolgt durch den Job- und Ressourcen-Scheduler "SLURM". Der direkte Zugriff der Nutzerinnen und Nutzer auf die Rechenknoten ist ohne Job- bzw. Ressourcen-Allokation nicht möglich.

Foto: ZIM

Aktuelles

Scratch-Storage:

Der momentan relativ begrenzte Scratch-Speicher /work wird um ca. 50TB erweitert, um die effiziente Bearbeitung datenintensiver Jobs zu ermöglichen. Die Erweiterung wird eine Downtime verursachen, über die zu gegebener Zeit via Mail-Verteiler informiert wird.

Bisheriger Cluster "orson2":

Nach der erfolgreichen Migration auf das neue Cluster wird das bisherige Compute-Cluster "orson2" außer Dienst gestellt. Die Nutzerinnen und Nutzer werden gebeten, ihre nicht mehr genutzen Daten zu archivieren oder zu löschen, sowie weiterhin benötigte Daten auf das neue Cluster zu transferieren. Weitere Informationen zu Details folgen über den Mail-Verteiler.

Technische Details

Software

Die im Wissenschaftlichen Rechnen übliche Software liegt auf dem HPC-Cluster vor. Zur Organisation werden hierbei “environment modules” verwendet. Eine Liste aller verfügbaren Module gibt “module avail” aus. Ein bestimmtes Modul wird mittels “module load” geladen. Um Matlab zu nutzen, führen Sie beispielsweise “module load math/MATLAB/2021a” aus, wodurch das Binary “matlab” im Pfad verfügbar wird. Daneben gibt es auch die Möglichkeit über Anaconda eigene Software-Umgebungen zu bauen, was beispielsweise für Software aus dem Kanal “bioconda” oder die Nutzung der Statistiksoftware R mit zusätzlichen Paketen nützlich ist. Hierzu laden Sie Anaconda mit “module load lang/Anaconda3” und nutzen dann conda um Ihr environment zu erzeugen. Eine Einführung findet sich beispielsweise unter docs.conda.io/projects/conda/en/latest/user-guide/tasks/manage-environments.html

Bei Bedarf an weiterer Software oder Fragen wenden Sie sich bitte an hpc-serviceuuni-potsdampde.

Filesysteme und Quoten

Der HPC-Cluster ist kein File-Server oder Storage-Server. Größere Datenmengen sind vom Nutzer in seiner persönlichen Umgebung zu sichern.

Es stehen folgende Filesysteme zur Verfügung:
a) Home-Bereich
/home/<username>

Für Quelltexte, Job-Skripte, Konfigurationsdateien, Conda-Environments usw. stehen in diesem Verzeichnis 100 GB zur Verfügung.

b) Scratch-Speicher (schneller Daten-Zwischenspeicher)
/work/<username>
Dieser Bereich ist für Nutz- und Forschungsdaten gedacht, die für Rechenjobs benötigt werden. Das Verzeichnis ist sowohl auf den Head- als auch Compute-Nodes verfügbar um von dort aus Daten direkt abzulegen und auslesen zu können. Da es kein Quota gibt, nutzen Sie den Bereich bitte verantwortungsvoll und entfernen Sie nach Abschluss des jeweiligen Projekts Daten, die nicht für weitere Rechenjobs benötigt werden. Die dahinterliegenden Speichersysteme sind redundant (mind. RAID5), es werden jedoch keine automatischen Backups angefertigt.