Direkt zum Inhalt

Lexikon der Mathematik: overfitting

overtraining, im Kontext Neuronale Netze die Bezeichnung für ein unerwünschtes Verhalten eines Netzes im Ausführ-Modus aufgrund einer nicht sinnvoll eingesetzten Lernregel im Lern-Modus.

Konkret zeigt ein derartiges Netz nahezu optimales Verhalten auf den im Lern-Modus präsentierten Trainingswerten, besitzt jedoch absolut ungenügendes Ausführ-Verhalten auf geringfügig veränderten Eingabewerten, d. h., es ist nicht in der Lage zu generalisieren.

Derartige Probleme können z. B. dadurch vermieden werden, daß man die im Lern-Modus abzuarbeitende i. allg. iterative Lernregel hinreichend frühzeitig abbricht und ein moderates Fehlverhalten des Netzes auf den Trainingswerten toleriert. Im Sinne der Angewandten Mathematik läßt sich dieses Vorgehen so deuten, daß man von der exakten (zur Oszillation neigenden) Interpolation der gegebenen Trainingswerte zugunsten einer lediglich hinreichend genauen (i. allg. nicht zur Oszillation neigenden) Approximation des Datensatzes Abstand nimmt.

Lesermeinung

Wenn Sie inhaltliche Anmerkungen zu diesem Artikel haben, können Sie die Redaktion per E-Mail informieren. Wir lesen Ihre Zuschrift, bitten jedoch um Verständnis, dass wir nicht jede beantworten können.

  • Die Autoren
- Prof. Dr. Guido Walz

Partnervideos