Howtosignalprocessing
- Comment choisissez-vous le paramètre de régularisation tikhonov?
- Pourquoi la régularisation L1 crée-t-elle la rareté?
Comment choisissez-vous le paramètre de régularisation tikhonov?
Étant donné une fonction, une estimation du niveau de bruit et un paramètre positif, choisissez le paramètre de régularisation tel que (2) d (α) = b Δ pour certains paramètres b > b 0 . Si la solution n'existe pas, choisissez α (Δ) = 0; Si cette équation a de nombreuses solutions, choisissez la plus petite solution.
Pourquoi la régularisation L1 crée-t-elle la rareté?
Raison de la rareté
La régularisation L1 fait que les coefficients convergent vers 0 assez rapidement car la contrainte limite tous les vecteurs de poids se trouvent dans la norme L1. Le taux de convergence est plus élevé pour L1 en raison de la première dérivée de la perte étant simplement λ pour L1 alors que étant 2 λ 2 \ lambda 2λ pour L2.
