Surapprentissage

ou overfitting.

Un coût nul peut sembler correspondre aux points connus mais ne correspondra sans doute pas à de future nouvelles données (qu'il n'aurait pas bien prédit)
Un coût nul peut sembler correspondre aux points connus mais ne correspondra sans doute pas à de future    nouvelles données (qu'il n'aurait pas bien prédit)

Lors d'un calcul de coût d'une hypothèse, un coût nul ne signifie pas forcément que l'hypothèse est excellente. Cela peut plutôt paraître suspect et demande une vérification qu'il ne s'agit pas d'un cas d'overfitting (la fonction d'hypothèse couvre parfaitement les données connues mais ne correspondra probablement pas à de nouvelles données). Cela peut également être repéré en constatant que la fonction de validation croisée (cross-validation error) est bien supérieure (high variance) à celle de la fonction d'erreur et qu'elles convergent difficilement.

Dans un tel cas, cette correspondance abusive peut être corrigée en :