Artigos conectando fundamentos matemáticos rigorosos às aplicações computacionais em otimização, aprendizado de máquina e pesquisa científica.
Por que caminhar na direção oposta ao gradiente minimiza uma função? Neste artigo, construímos o método do gradiente a partir dos fundamentos — derivada direcional, expansão de Taylor e escolha do passo — e discutimos o que garante sua convergência.
Funções como a norma L1 e a hinge loss não são diferenciáveis em todos os pontos — e são onipresentes em aplicações. O subgradiente generaliza o gradiente para o mundo convexo não suave, com consequências profundas para algoritmos de grande porte.
O aprendizado de um MLP é, no fundo, um problema de otimização resolvido por gradiente descendente — e o backpropagation é apenas a regra da cadeia organizada com inteligência. Este artigo constrói essa conexão, que é a base matemática da IA moderna.
Cadastre-se para ser notificado quando novos artigos forem publicados — diretamente da experiência em pesquisa e ensino do professor.
Cadastrar e-mail