Busca Linear e Usain Bolt
DOI:
https://doi.org/10.34117/bjdv11n12-032Keywords:
otimização contínua, método do gradiente, busca linear, busca de Wolf, busca de ArmijoAbstract
Um problema de interesse na Otimização Contínua é encontrar zeros do gradiente de uma função real de n-variáveis reais. Este problema possui várias aplicações no contexto científico e tecnológico, por exemplo, na engenharia civil, Deep Learning, processamento de sinais e imagens. Para resolver este problema, tem-se estudado buscas lineares as quais dependem fortemente de parâmetros para obter bons resultados. Contudo, apesar da importância desses parâmetros, não tem sido estabelecidos critérios matemáticos que tornem possível selecionar parâmetros ótimos. Neste trabalho, estudamos as buscas lineares de Armijo e Wolfe. Para uma função acadêmica, determinamos um intervalo para um parâmetro do método de Wolfe que assegura melhores tamanhos de passos para encontrar zeros do gradiente da função acadêmica mencionada.
References
Boldrini, J.L., Costa, S.I., Figueredo, V., Wetzler, H.G.: Álgebra linear. Harper & Row (1980) Citado na página 2.
Dai, Y.H., Kou, C.X.: A nonlinear conjugate gradient algorithm with an optimal property and an improved wolfe line search. SIAM Journal on Optimization 23(1), 296–320 (2013) Citado na página 1.
Handibag, S., Sutkar, P.: Optimization algorithms and their applications. Malaya Journal of Matematik 9(1), 1006–1014 (2021) Citado na página 1.
Karas, E.W., Ribeiro, A.A.: Um curso de otimizaçao. Notas de aula, UFPR, Curitiba, Brasil (2011) Citado na página 2.
Lima, E.L.: Análise no rn. Coleçao Matemática Universitária-IMPA, Rio de Janeiro (2002) Citado na página 2.
Nocedal, J., Wright, S.J.: Numerical optimization (1999) Citado na página 2.
Panonceli, D.M.: Um estudo de buscas unidirecionais aplicadas ao método bfgs (2015) Citado na página
Shulman, D.: Optimization methods in deep learning: A comprehensive overview (2023). DOI 10.48550/arXiv.2302.09566 Citado na página 1.
Zhang, L., Zhou, W., Li, D.: Global convergence of a modified fletcher–reeves conjugate gradient method with armijo-type line search. Numerische mathematik 104(4), 561–572 (2006) Citado na página 1.

