First order methods

Gradientenabstieg ist eine Methode zur unbeschränkten mathematischen Optimierung . Es handelt sich um einen iterativen Algorithmus erster Ordnung zur Minimierung einer differenzierbaren multivariaten Funktion .

In der Mathematik bezeichnet man als lineare Approximation die Annäherung einer allgemeinen Funktion durch eine lineare Funktion (genauer: eine affine Funktion ).

Strukturierte Sparsity-Regularisierung ist eine Klasse von Methoden und ein Forschungsgebiet der statistischen Lerntheorie , die Sparsity-Regularisierungslernmethoden erweitern und verallgemeinern.