Foundation Model

Ein Foundation Model ist ein Paradigmenwechsel in der KI-Entwicklung (Begriff geprägt vom Stanford HAI Institut). Es bezeichnet ein einzelnes, gigantisches KI-Modell, das auf riesigen Mengen an Daten (oft 'dem ganzen Internet') meist durch Self-Supervision trainiert wurde und dadurch extrem breite, generelle Fähigkeiten erworben hat. Beispiele sind GPT (Text), BERT (Sprache), CLIP (Bilder/Text).

Im Gegensatz zu früherer 'Narrow AI', wo man für jede Aufgabe (Übersetzung, Zusammenfassung, Sentiment) ein eigenes Modell baute, dient das Foundation Model als Fundament für hunderte verschiedene Anwendungen. Man muss das Rad nicht mehr neu erfinden, sondern 'baut' seine spezifische Applikation auf dem Wissen des Foundation Models auf. Dies hat die Einstiegshürde für KI-Anwendungen drastisch gesenkt.