Гасников А.В. Современные численные методы оптимизации. Метод универсального градиентного спуска

Учебное пособие. — 2-е издание, доп. — М. : МФТИ, 2018. — 286 с. — ISBN 978-5-7417-0667-1.Рассматривается классический градиентный спуск. Однако изложение ведется на продвинутом уровне. Пособие отличается довольно полным обзором современного состояния методов типа градиентного спуска. В данном пособии делается акцент не на изложение методов, а на способы получения из старых методов новых с помощью небольшого числа общих приемов. Учебное пособие используется для преподавания численных оптимизация студентам 3 курса школы ПМИ МФТИ и 3 курса ФКН ВШЭ.