Hyperparameter

Hyperparameter sind die Einstellungen und Stellschrauben eines KI-Modells, die *nicht* vom Modell selbst gelernt werden, sondern vom menschlichen Entwickler *vor* dem Training festgelegt werden müssen. Im Gegensatz zu den 'Parametern' (Gewichte), die das Netz durch Daten lernt.

Beispiele für Hyperparameter sind: Die Lernrate (wie schnell soll es lernen?), die Architektur (wie viele Schichten, wie viele Neuronen?), die Batch Size oder die Wahl der Aktivierungsfunktion. Die Suche nach der optimalen Kombination dieser Einstellungen nennt man 'Hyperparameter Tuning'. Es ist oft eine Mischung aus Erfahrung, Intuition und systematischem Ausprobieren (Grid Search).