Howtosignalprocessing
- Qu'est-ce que le lissage de l'étiquette?
- Qu'est-ce que le lissage de l'étiquette aide?
- Qu'est-ce que la régularisation de lissage de l'étiquette?
- Quelle est la perte d'entropie croisée utilisée pour?
Qu'est-ce que le lissage de l'étiquette?
Le lissage de l'étiquette est une forme de régularisation de la distribution de sortie qui empêche le sur-ajustement d'un réseau neuronal en adoucissant les étiquettes de la vérité au sol dans les données de formation pour tenter de pénaliser les sorties trop confiantes.
Qu'est-ce que le lissage de l'étiquette aide?
Le lissage de l'étiquette a été utilisé avec succès pour améliorer la précision des modèles d'apprentissage en profondeur sur une gamme de tâches, y compris la classification d'images, la reconnaissance de la parole et la traduction automatique (tableau 1).
Qu'est-ce que la régularisation de lissage de l'étiquette?
Le lissage de l'étiquette est une technique de régularisation qui perturbe la variable cible, pour rendre le modèle moins certain de ses prévisions. Il est considéré comme une technique de régularisation car il retient les logits les plus importants alimentés dans la fonction Softmax de devenir beaucoup plus grand que le reste.
Quelle est la perte d'entropie croisée utilisée pour?
La perte d'entropie croisée est une métrique utilisée pour mesurer dans quelle mesure un modèle de classification dans l'apprentissage automatique fonctionne. La perte (ou l'erreur) est mesurée comme un nombre entre 0 et 1, 0 étant un modèle parfait. L'objectif est généralement d'obtenir votre modèle aussi près de 0 que possible.
