Differenziabilità e gradiente
In questa pagina 8
Prerequisiti: Derivate parziali e derivate direzionaliLa derivata parziale ∂f/∂xi(x0) è la derivata della funzione di una variabile che si ottiene fissando tutte le altre variabili: in pratica si deriva in xi trattando le altre come costanti. Il gradiente ∇f raccoglie le derivate parziali. La derivata direzionale lungo un versore v è il limite di [f(x0 + hv) − f(x0)]/h. In più variabili avere tutte le derivate (anche direzionali) non garantisce la continuità.Derivate parziali e derivate direzionali →, Asintoticità e o-piccolo per funzionif ~ g per x → x0 se f/g tende a 1, f = o(g) se tende a 0; le relazioni dipendono da x0. Regole di calcolo con gli o-piccoli e gerarchia delle funzioni infinite per x → +∞: log < potenze < esponenziali < x^x.Asintoticità e o-piccolo per funzioni →.
In una variabile, derivabile in significa : vicino a la funzione è approssimata dalla retta tangente con un errore trascurabile. In più variabili le derivate parziali da sole non danno questa proprietà (si è visto che non garantiscono neppure la continuità). La si chiede allora come definizione.
Definizione di funzione differenziabile
Una funzione è differenziabile in un punto interno ad se esiste un vettore tale che l'incremento della funzione possa essere approssimato linearmente:
dove è il differenzialeprodotto scalare tra il vettore gradiente e il vettore incremento e è una funzione o-piccolotermine che tende a zero più velocemente della norma dell'incremento che descrive l'errore di approssimazione.
Teorema. Se è differenziabile in , allora il vettore è univocamente determinato ed è pari al gradiente di in , ovvero . Inoltre, è derivabile e continua in .
Esempio. è differenziabile in con : .
Perché.
- Continuità: per si ha e , quindi .
- : si prende (ci si muove lungo l'asse ). Allora e quindi la derivata parziale -esima esiste e vale .
In due variabili, posto e , la definizione si riscrive come un limite da verificare: È il test di differenziabilità: prima si calcolano le derivate parziali (se non esistono, non è differenziabile), poi si controlla questo limite con i metodi di Limiti e continuità per funzioni di più variabiliIl limite di una funzione di più variabili esiste se il valore si avvicina a $L$ indipendentemente dal percorso scelto; si verifica con stime in coordinate polari o si nega usando restrizioni a curve diverse. La continuità richiede che il limite coincida con il valore della funzione nel punto.Limiti e continuità per funzioni di più variabili →.
Gradiente e piano tangente
Il gradiente è il vettore delle derivate parziali, (vedi Derivate parziali e derivate direzionaliLa derivata parziale ∂f/∂xi(x0) è la derivata della funzione di una variabile che si ottiene fissando tutte le altre variabili: in pratica si deriva in xi trattando le altre come costanti. Il gradiente ∇f raccoglie le derivate parziali. La derivata direzionale lungo un versore v è il limite di [f(x0 + hv) − f(x0)]/h. In più variabili avere tutte le derivate (anche direzionali) non garantisce la continuità.Derivate parziali e derivate direzionali →). Se la funzione è differenziabile, il piano tangente al grafico di nel punto è dato dall'equazione:
In due variabili, esplicitamente:
È il piano che passa per il punto del grafico e ha, lungo i due assi, le stesse pendenze della superficie. La differenziabilità dice che la distanza verticale tra grafico e piano è , cioè trascurabile rispetto alla distanza da .
Esempio. in : , , . Piano tangente: , cioè .
Condizione sufficiente
Non sempre l'esistenza delle derivate parziali garantisce la differenziabilità. Si utilizza quindi il criterio di classe :
Teorema del differenziale totale. Se ammette derivate parziali in un intorno di e queste sono continuefunzioni il cui limite nel punto coincide col valore nel punto in , allora è differenziabile in .
Esempio. ha derivate parziali e , continue su tutto : quindi è differenziabile in ogni punto.
Una funzione le cui derivate parziali sono continue in ogni punto di un aperto si dice di classe C^1funzione derivabile con continuità.
Derivata direzionale e gradiente
Per una funzione differenziabile, la derivata lungo una direzione (con ) non deve essere calcolata necessariamente tramite il limite del rapporto incrementale:
Formula del gradiente. Se è differenziabile in , allora per ogni versore esiste la derivata direzionale ed è data da:
Esempio. in con : .
Perché. Si prende nella definizione: (perché ) e
Interpretazione geometrica
Massima crescita: Il gradiente punta nella direzione di massima crescita della funzione. Il valore della massima pendenza è dato da .
Perché: se è l'angolo tra e il versore , . È massima per ( concorde al gradiente, valore ), minima per (direzione opposta, valore ) e nulla per .
Ortogonalità: Il gradiente è ortogonale alla curva di livelloinsieme dei punti dove f vale una costante c passante per .
Perché: lungo la curva di livello è costante, quindi la derivata nella direzione tangente alla curva è ; per il punto 1 quella direzione forma un angolo retto con il gradiente.
Esempio. in : , che punta in direzione radiale verso l'esterno, perpendicolare alla circonferenza di livello . La massima pendenza è ; lungo la tangente alla circonferenza, per esempio , la derivata è .
Grafico interattivo: f = x² + y² in (1, 2): ∇f = (2, 4) è perpendicolare alla curva di livello x² + y² = 5 (circonferenza di raggio √5) e alla sua tangente x + 2y = 5, ed è la direzione di massima crescita
Esempio numerico svolto
Si consideri . Verifichiamo la differenziabilità in .
- Calcolo le derivate parziali:
- In : , .
- Le derivate parziali sono funzioni elementari continue su tutto . Per il teorema del differenziale totale, è differenziabile in (anzi in ogni punto).
- Piano tangente in : , quindi .
Esercizio: una funzione derivabile, continua ma non differenziabile
per , . Si studia l'origine.
- Continuità. Con : (per la funzione è ). Quindi è continua in .
- Derivate parziali. , quindi . , quindi .
- Differenziabilità. Il piano candidato è ; bisogna vedere se . Lungo con , usando : che vale a seconda del segno di : non tende a . La funzione non è differenziabile nell'origine, pur essendo continua e derivabile.
Funzioni con un parametro nell'esponente: la procedura in quattro passi
Nei temi d'esame la funzione è quasi sempre del tipo in (con ), o contiene valori assoluti e radici, e si chiede per quali valori del parametro è continua, derivabile, differenziabile. Si procede così.
- Forma polare. Si pone , ; il numeratore, omogeneo di grado (cioè con limitata e non nulla), dà . Se compaiono , , ecc., si sostituisce con il loro equivalente (, , ) e si controlla che il fattore residuo tenda a (limitato).
- Continuità: se e solo se . Per il limite dipende da (non esiste, a meno che ); per diverge.
- Derivate parziali in : con la definizione, perché è dato a parte. Se si annulla sugli assi, per ogni valore del parametro (anche dove non è continua).
- Differenziabilità: il limite da studiare è (il gradiente è nullo): tende a se e solo se , cioè . Quindi la soglia di differenziabilità è sempre più bassa di di quella di continuità.
Esempio completo (con : continua per , differenziabile per ): Esercizio - continuità e differenziabilità con un parametro (tema d'esame novembre 2012).
Valori assoluti e radici. Per le derivate parziali in valgono (la funzione si annulla sugli assi), ma la derivata nella direzione è il limite di : esiste solo se . Se una derivata direzionale non esiste, non può essere differenziabile (Esercizio - derivate e differenziabilità di una radice con valori assoluti (tema d'esame febbraio 2013)).
Errori comuni
- Scambiare le implicazioni: La derivabilità non implica la differenziabilità. Il controesempio classico è (con ), che è derivabile nell'origine ma non continua, dunque non differenziabile.
- Dimenticare il versore: Nel calcolo di , il vettore deve essere sempre un versore (). Se la direzione è data da un vettore non unitario, bisogna prima normalizzarlo.
- Condizione sufficiente scambiata per necessaria: La continuità delle derivate parziali è sufficiente ma non necessaria. Una funzione può essere differenziabile anche se le derivate parziali sono discontinue (per esempio nell'origine): in quel caso si usa il test con il limite.
- Fermarsi alle derivate parziali: trovare e non basta; bisogna ancora verificare il limite del test di differenziabilità.
Versione ripasso
Prerequisiti: Derivate parziali e derivate direzionaliLa derivata parziale ∂f/∂xi(x0) è la derivata della funzione di una variabile che si ottiene fissando tutte le altre variabili: in pratica si deriva in xi trattando le altre come costanti. Il gradiente ∇f raccoglie le derivate parziali. La derivata direzionale lungo un versore v è il limite di [f(x0 + hv) − f(x0)]/h. In più variabili avere tutte le derivate (anche direzionali) non garantisce la continuità.Derivate parziali e derivate direzionali →, Asintoticità e o-piccolo per funzionif ~ g per x → x0 se f/g tende a 1, f = o(g) se tende a 0; le relazioni dipendono da x0. Regole di calcolo con gli o-piccoli e gerarchia delle funzioni infinite per x → +∞: log < potenze < esponenziali < x^x.Asintoticità e o-piccolo per funzioni →.
Definizione. è differenziabile in se esiste con Differenziabile continua, derivabile, e . Il viceversa è falso.
Test in due variabili. Dopo aver calcolato le parziali, si verifica che Esempio: con è continua e ha parziali nulle in . Lungo il rapporto vale , che non tende a : non è differenziabile.
Teorema del differenziale totale. Se le parziali esistono vicino a e sono continue in (per esempio se ), allora è differenziabile. Esempio: è differenziabile ovunque.
Piano tangente. . Esempio: in , , , quindi .
Interpretazione. , con angolo tra e . Il gradiente punta nella direzione di massima crescita, con pendenza , ed è ortogonale alla curva di livello. Esempio: per in , è perpendicolare alla circonferenza . Lungo la tangente la derivata è .
Esempio numerico. in : , , valori e . Parziali continue, quindi differenziabile. Piano: .
Funzioni con parametro, in . In polari, con , si ha .
- Continuità: . Per il limite dipende da .
- Parziali: con la definizione. Se sugli assi, valgono per ogni parametro.
- Differenziabilità: . La soglia è più bassa di rispetto a quella di continuità.
Con : continua per , differenziabile per (Esercizio - continuità e differenziabilità con un parametro (tema d'esame novembre 2012)).
Valori assoluti e radici. Per le parziali in valgono , ma la derivata lungo esiste solo per . Se una derivata direzionale non esiste, non c'è differenziabilità (Esercizio - derivate e differenziabilità di una radice con valori assoluti (tema d'esame febbraio 2013)).
Errori tipici.
- Confondere derivabilità e differenziabilità: è derivabile in ma non continua, quindi non differenziabile.
- Scambiare la condizione sufficiente con quella necessaria: parziali continue bastano, ma non sono necessarie (esempio: nell'origine, da studiare col test).
- Fermarsi alle parziali senza verificare il limite del test.
- Usare un vettore non unitario in .
Esercizi su questo argomento
Teoria collegata
- Derivate parziali e derivate direzionali
- Funzioni convesse in più variabili
- Funzioni di variabile complessa e condizioni di Cauchy-Riemann
- Massimi e minimi liberi in più variabili
- Massimi e minimi vincolati e moltiplicatori di Lagrange
- Matrice hessiana e formula di Taylor in più variabili
- Matrice jacobiana e derivata delle funzioni composte
- Teorema delle funzioni implicite (Dini)
- Addestramento delle reti neurali - backpropagation e ottimizzatori
- LASSO e discesa del gradiente
- Metodi ensemble - bagging, random forest e boosting
- Overfitting, ridge regression e cross-validation
- Python per il machine learning - NumPy, pandas e Matplotlib
- Regressione lineare