В окрестности U(a) точки a имеем (Теорема Theorem 1),
f(a+h)=f(a)+∇a(f)(h)+21h⊤Ha(f)h+o(∥h∥2),h→0n. по условию ∇a(f)(h)=0, запишем это в следующем виде:
f(a+h)=f(a)+21h⊤Ha(f)h+α(h)∥h∥2=f(a)+∥h∥2(21∥h∥h⊤Ha(f)∥h∥h+α(h))=f(a)+∥h∥2(21(d2f)a(∥h∥h)+α(h)). Так как (d2)a(h)=21h⊤Ha(f)h — полином от переменных h1,…,hn, то это непрерывная функция. С другой стороны, ∥h∥h принадлежит единичной сфере Sn−1:={x∈Rn:∥x∥=1}, тогда, согласно теореме Theorem 4, (d2f)a(h) принимает максимальное и минимальное значение на сфере Sn−1.
(1) Пусть (d2f)a(h)>0 для любого h∈U(a), тогда если v∈Sn−1, то и (d2f)a(v)>0 и тогда её минимальное значение на сфере тоже положительное, поэтому положим
m:=v∈Sn−1min(d2f)a(v)>0. Тогда
f(a+h)=f(a)+∥h∥2(21(d2f)a(∥h∥h)+α(h))≥f(a)+∥h∥2(2m+α(h)) так как limh→0nα(h)=0, то существует такая окрестность V точки 0n, что ∣α(h)∣<4m, тогда для любого h∈V получаем
f(a+h)≥f(a)+4m∥h∥2, что означает, что точка a — локальный минимум.
(2) Доказательство аналогичное.
(3) Пусть существуют такие u,v∈U(a), что (d2f)a(u)>0, (d2f)a(v)<0. Тогда имеем
f(a+tu)=f(a)+21(da2f)(tu)+α(tu)∥tu∥2=f(a)+t2(21(da2f)(u)+α(tu)∥u∥2), аналогично, получаем
f(a+tv)=f(a)+t2(21(da2f)(v)+α(tv)∥v∥2). Тогда при достаточно близких t к нулю, с одной стороны f(a+tu)<f(a), а с другой f(a+tv)>f(a), это завершает доказательство.