Derivadas e gradientes, geometricamente

01 · Conceito

Conceito

Este é o problema que o cálculo resolve para nós. Um modelo tem parâmetros, e algum ajuste deles torna suas previsões boas. Você não tem mapa desse espaço, não tem fórmula para o melhor ajuste, e tem botões demais para testar combinações. Tudo o que você pode fazer é avaliar quão ruim está o ajuste atual e fazer uma pergunta local: se eu cutucar levemente este número, a ruindade sobe ou desce, e quanto? Responda isso para todos os números de uma vez e você tem uma direção para se mover. Esse é o conteúdo inteiro do aprendizado baseado em gradiente, e tudo abaixo é a maquinaria para fazer a pergunta com precisão.

Uma derivada mede sensibilidade local. Para uma função de uma variável $f(x)$, a derivada em $x$ é a inclinação para a qual tendem secantes cada vez menores:

Se $f'(x)=3$, então uma mudança suficientemente pequena $\Delta x$ produz uma mudança de saída de aproximadamente $3\Delta x$. Isso é uma aproximação linear local, não uma promessa sobre movimentos grandes. Geometricamente é a inclinação da reta tangente: positiva significa subindo, negativa significa descendo, zero significa localmente plano. Plano não significa mínimo; o ponto poderia ser um máximo, um mínimo, ou uma inflexão em que a curva apenas faz uma pausa.

Redes neurais dependem de muitos parâmetros, então a loss é uma função $L(\theta_1,\ldots,\theta_n)$. Uma derivada parcial $\partial L/\partial \theta_i$ pergunta como a loss muda quando o parâmetro $i$ se move um pouco enquanto todos os outros ficam fixos. Reunir todas elas dá o gradiente:

O gradiente aponta para o aumento local mais íngreme; seu negativo aponta ladeira abaixo. Gradient descent aplica $\theta \leftarrow \theta - \eta \nabla L$, onde o learning rate $\eta$ define a passada.

Faça o exemplo mais simples possível por completo, porque o modo de falha é mais instrutivo que o sucesso. Seja $L(w) = w^2$, então $\nabla L = 2w$, com mínimo óbvio em zero. Comece em $w = 1$ com $\eta = 0.1$. O primeiro passo dá $1 - 0.1 \times 2 = 0.8$. O segundo dá $0.8 - 0.1 \times 1.6 = 0.64$. Depois $0.512$, depois $0.4096$. Cada passo multiplica $w$ por $0.8$, então a sequência marcha firme rumo ao mínimo. A otimização parece fácil.

Agora não mude nada além do learning rate, para $\eta = 1.1$. A partir de $w = 1$: $1 - 1.1 \times 2 = -1.2$. A partir de $-1.2$: $-1.2 - 1.1 \times (-2.4) = 1.44$. Depois $-1.728$, depois $2.0736$. A magnitude cresce 20 por cento a cada passo e a loss explode. Olhe com atenção para o que deu errado, porque não foi o cálculo. Todo gradiente daquela execução estava exatamente correto, e todo passo se moveu na direção correta. A passada simplesmente atravessou o vale inteiro e subiu a parede oposta, entrando em território que a leitura local nunca descreveu. Essa é a origem das losses que explodem, do warmup de learning rate e dos schedules da lição 5.11.

A regra da cadeia conecta sensibilidades locais através de operações compostas. Se $y = f(u)$ e $u = g(x)$, então $dy/dx = (dy/du)(du/dx)$. Uma rede neural é uma longa composição de multiplicações de matrizes, ativações, normalizações e, no fim, uma loss, então sua derivada é um longo produto de fatores locais. Retropropagação é a contabilidade eficiente desse produto: ela reaproveita resultados intermediários em vez de traçar separadamente todo caminho de todo parâmetro até a loss, o que é o que torna aritmeticamente possível treinar um modelo grande. A lição 2.5 trabalha a mecânica.

Essa eficiência importa na escala que este curso estuda. Num modelo como o Qwen3.8-27B, o gradiente não é uma setinha: é um vetor com um componente para cada um de aproximadamente 27 bilhões de parâmetros, do mesmo shape que os próprios parâmetros, recomputado a cada batch. O que quer que treinar um modelo grande envolva, geometricamente é dar passos contra essa seta, repetidamente.

Gradientes carregam unidades e escala. Multiplicar a loss por mil multiplica seu gradiente por mil sem mudar quais parâmetros constituem uma solução. Features em escalas muito diferentes deixam a superfície mal condicionada: uma direção é um penhasco enquanto outra é quase plana, e um único learning rate escalar não consegue servir às duas. Normalização, inicialização cuidadosa, otimizadores adaptativos e schedules existem todos para administrar essa geometria. Nenhum deles muda o significado de uma derivada; eles mudam o terreno sobre o qual ela é medida, que é o assunto das lições 2.6 a 2.8.

Nem tudo é diferenciável em todo ponto. A ReLU tem um bico em zero e o software escolhe ali um valor convencional. A seleção de tokens é discreta, então o treinamento diferencia através de probabilidades e representações contínuas em vez de através de uma palavra amostrada. Diferenças finitas conseguem checar a sanidade de uma implementação minúscula perturbando um parâmetro e reavaliando, mas a diferenciação automática analítica é enormemente mais barata assim que a contagem de parâmetros passa de algumas centenas.

A imagem duradoura é a de um mapa local. A loss é terreno sobre o espaço de parâmetros; uma derivada parcial é a inclinação ao longo de um eixo; o gradiente é a seta de subida montada; o gradiente negativo sugere um movimento de descida cujo comprimento você precisa escolher. Otimizar é difícil não porque a definição seja sutil, mas porque o terreno é vasto, curvo, ruidoso e observado apenas através de batches.