Decoder

Ein Decoder ist in neuronalen Netzen (z.B. in Transformer-Architekturen oder Autoencodern) der Teil, der eine abstrakte, komprimierte Repräsentation (vom Encoder erstellt) wieder in eine verständliche Ausgabe (wie Text oder Bild) zurückübersetzt. In GPT-Modellen, die 'Decoder-Only' sind, generiert der Decoder Wort für Wort den nächsten Teil des Textes.