Méthode de sous-considération pour les k-means comme le problème

1. Comment calculer le subgradient?
2. La méthode de sous-gradient est-elle une méthode de descente?
3. K signifie-t-il utiliser des descente de gradient?
4. Comment trouvez-vous le sous-différentiel d'une fonction?

Comment calculer le subgradient?

Si f est convexe et différenciable à x, alors ∂f (x) = ∇f (x), i.e., Son gradient est son seul subgradient. Inversement, si f est convexe et ∂f (x) = g, alors f est différenciable à x et g = ∇f (x).

La méthode de sous-gradient est-elle une méthode de descente?

Contrairement à la méthode du gradient ordinaire, la méthode de sous-considération n'est pas une méthode de descente; La valeur de la fonction peut (et fait souvent) augmenter. La méthode de sous-considération est beaucoup plus lente que la méthode de Newton, mais est beaucoup plus simple et peut être appliquée à une variété de problèmes beaucoup plus large.

K signifie-t-il utiliser des descente de gradient?

Mini-lots (stochastique) k-means a une saveur de descente de gradient stochastique dont les avantages sont deux. Premièrement, il réduit considérablement le coût par itération pour la mise à jour des centroïdes et est donc capable de gérer efficacement les mégadonnées.

Comment trouvez-vous le sous-différentiel d'une fonction?

Considérez f (z) = | z |. Pour x < 0 Le sous-gradient est unique: ∂f (x) = −1. De même, pour x > 0 Nous avons ∂f (x) = 1. À x = 0, le sous-différentiel est défini par l'inégalité | Z | ≥ gz pour tout z, qui est satisfait si et seulement si g ∈ [−1,1].