[БЕЗ ЗВУКА] Теперь мы готовы к тому, чтобы разобраться,
почему же градиент задает направление наискорейшего роста функции.
Итак, мы уже достаточно подробно изучили выражение для
приближенной оценки прироста функции при небольших изменениях ее аргументов.
Также мы разобрались с тем, что такое производная по направлению.
Давайте для простоты будем рассматривать двумерный случай,
но на самом деле для n-мерного все выкладки будут абсолютно те же.
Давайте обозначим изменение значения функции Δf,
и в наших прошлых обозначениях Δx теперь будет t * lx,
а Δy — t * ly, то есть наши сдвиги по x и по y.
Если мы распишем Δf по приближенной формуле, то мы увидим,
что получается t умножить на скалярное произведение градиента, на вектор l.
Обратите внимание, при стремлении t к 0 Δx и Δy тоже стремятся к 0.
Ну то есть мы все ближе подбираемся к точке (x0, y0).
А как вы помните, чем ближе мы к точке (x0,
y0), тем точнее работает наша приближенная формула.
Именно поэтому мы можем воспользоваться ей под знаком предела.
Таким образом, мы видим, что Δf / t при t стремящемся
к 0 будет стремиться к скалярному произведению градиента на вектор l.
И это есть производная по направлению в точке (x0, y0).
Теперь самое время разобраться, при чем же здесь направление наискорейшего роста.
Ну давайте просто задумаемся,
когда производная по направлению будет максимальной, при каком направлении.
Скалярное произведение — вещь достаточно простая.
Это просто произведение норм векторов на косинус угла между ними.
На нормы вектора l мы влиять не можем,
потому что мы им задаем просто направление.
Мы можем считать, что его норма просто равна 1.
На градиент мы тоже влиять не можем.
А вот косинус θ мы можем менять, выбирая разные направления.
И косинус будет максимален тогда, когда равен 1,
то есть когда угол θ между градиентом и вектором l равен 0,
то есть вектор l направлен туда же, куда и градиент.
Таким образом,
градиент действительно задает направление наискорейшего роста.
И для того, чтобы выяснить это, нам понадобилось связать производную по
направлению l с градиентом.