Overfitting is wanneer een model de trainingsvoorbeelden te letterlijk heeft onthouden, waardoor het goed scoort op bekende data maar slecht op nieuwe, echte gevallen.
Een model moet patronen leren die ook gelden voor gevallen die het nog niet zag. Bij overfitting leert het in plaats daarvan de ruis en de toevalligheden van de trainingsset uit het hoofd. Het lijkt dan uitstekend te presteren tijdens het testen op bekende data, maar valt door de mand zodra het iets nieuws krijgt.
Het tegenovergestelde, underfitting, is een model dat te weinig heeft geleerd en ook op bekende data zwak is. Goede modellen zitten daartussenin: ze generaliseren. Overfitting voorkom je met genoeg gevarieerde data en door te testen op gevallen die het model niet zag.