Trilha de aprendizagem

Modelos de sequência

Percorra o caminho do estado recorrente aos modelos encoder-decoder e à attention, ancestrais imediatos do Transformer.

04

Modelos de sequência

Percorra o caminho do estado recorrente aos modelos encoder-decoder e à attention, ancestrais imediatos do Transformer.

  1. 04.01Modelar sequências: o ponto de partida
  2. 04.02RNNs, estado de tamanho fixo e o vanishing gradient
  3. 04.03LSTM e GRU: gates que lembram
  4. 04.04Seq2seq, encoder-decoder e o gargalo
  5. 04.05Bahdanau attention: a ideia que mudou tudo
  6. 04.06Linear attention e fast weights