Por que base models não são assistentes

01 · Conceito

Conceito

Mande a frase “Escreva três razões para testar backups” ao checkpoint Qwen3.8-27B que a Qwen Team publicou em 14 de agosto de 2026 sob Apache 2.0, e você recebe três razões — precedidas, por padrão, por um segmento de thinking separado, porque thinking mode é o comportamento padrão deste modelo. Mande a mesma frase a um checkpoint pré-treinado que nunca passou por post-training, e a frase é simplesmente texto. A continuação mais provável pode ser um quarto item da lista do blog de outra pessoa, um título reescrito, um irônico “e duas razões para não testar”, ou um parágrafo explicando por que a pergunta importa. Mesma aritmética, mesmas 64 camadas, mesmo residual stream de 5120 dimensões, mesmo vocabulário de 248.320 tokens. Produto radicalmente diferente.

A diferença não é conhecimento. É qual das muitas continuações plausíveis o modelo seleciona. Um base model de linguagem é treinado com um objetivo enganosamente simples: dados os tokens anteriores, atribuir alta probabilidade ao token que de fato veio em seguida no texto de treino. Escrito para uma resposta inteira,

e o problema é que muitas sequências $y$ diferentes podem carregar massa de probabilidade comparável sob o mesmo prompt $x$. O corpus contém respostas, perguntas, argumentos, ficção, código-fonte, spam, instruções inseguras, correções e fragmentos inacabados. Prever bem essa mistura é um trabalho diferente de se comportar como um assistente confiável.

Percorra o exemplo explicitamente. Tome o prompt acima e enumere quatro continuações que um base model forte poderia rankear alto. Primeira, as três razões em si — é isso que o usuário quer. Segunda, uma quinta linha dizendo “Escreva três razões para testar restaurações também”, porque prompts com esse formato aparecem em listas de prompts. Terceira, uma crítica: “Esta pergunta assume que os backups já estão rodando.” Quarta, um cabeçalho de documento, porque frases imperativas frequentemente ficam sob um. Agora pergunte o que no objetivo de treino distingue a primeira das outras três. Nada distingue. As quatro são coisas que seguem uma frase dessas em algum lugar de algum texto escrito, e o modelo foi pontuado apenas por quão bem previu o texto que de fato veio depois. A expectativa do usuário — trate o imperativo como uma instrução dirigida a você e execute — vive inteiramente fora da previsão de próximo token. Isso é subespecificação comportamental: a capacidade está presente, a regra de seleção não.

Aqui vem o desvio clássico. Muita gente conclui que o base model simplesmente não sabe escrever três razões, e que o post-training ensina isso. Teste essa afirmação e ela desmorona. Prefixe o mesmo base model com dois exemplos resolvidos no mesmo formato e ele produz um terceiro competente — o conhecimento e o formato já estavam ambos lá, eliciados por contexto em vez de por pesos. O que o post-training mudou não foi competência, mas o padrão: qual comportamento vence quando o contexto não contém nenhuma demonstração. Inverter isso leva times a jogar dados de capacidade num problema de comportamento, e a se surpreender quando um conjunto de SFT maior não deixa o modelo nem um pouco mais obediente.

O post-training estreita a distribuição de comportamento aceitável. O supervised fine-tuning mostra prompts pareados com respostas desejáveis (lição 6.2). A otimização por preferência compara respostas e eleva a probabilidade relativa da melhor (lições 6.4 a 6.7). Aprendizado por reforço contra desfechos verificáveis recompensa soluções que de fato funcionam (lição 6.8). O resultado costuma ser chamado de modelo instruct ou assistente. Internamente ele continua prevendo tokens; seus pesos apenas tornam continuações em formato de assistente muito mais prováveis dentro do formato conversacional usado no treino.

O Qwen3.8-27B torna essa sobreposição excepcionalmente fácil de ver, porque o fabricante entrega dois modos de operação distintos num único conjunto de pesos. Thinking mode é o padrão. Entre as configurações recomendadas completas do model card, ele usa temperature 1.0, top_p 0.95 e top_k 20; instruct mode usa 0.7, 0.80 e 20. Min-p, presence penalty e repetition penalty completam as duas configurações, como detalha a lição 7.4. Quem quiser a resposta direta sem o segmento de raciocínio coloca enable_thinking em False na requisição. Nada disso é propriedade do transformer; tudo isso é post-training mais uma convenção de serving.

Formatação merece respeito. Modelos de chat recebem papéis estruturados — system, user, assistant — codificados por um chat template. Esses marcadores são tokens comuns, não permissões privilegiadas. O modelo precisa aprender que conteúdo de system prevalece sobre conteúdo de user, que texto de user pode conter instruções citadas ou hostis, e que o turno de assistant é onde a resposta pertence. Alimentar um checkpoint pós-treinado com um template diferente daquele sob o qual ele foi treinado degrada o comportamento mesmo quando a prosa parece idêntica.

Um limite honesto específico deste espécime: o Qwen3.8-27B não vem acompanhado de relatório técnico. Podemos observar e citar o que o model card documenta — os modos, os presets, a chave de desligamento, os escores de benchmark informados — e podemos medir o checkpoint nós mesmos. Não podemos dizer que dados ou que procedimento produziram o comportamento, e este curso não vai fingir o contrário.

Alinhamento também não é obediência. Um assistente útil equilibra seguir instruções contra veracidade, segurança, privacidade e incerteza honesta, e esses objetivos colidem: um pedido pode ser claro mas inseguro, uma resposta factual pode ser desconhecida, uma resposta concisa pode ser perigosamente incompleta. Nenhum escalar chamado “utilidade” resolve todos os casos. Nem o resultado é permanente — o comportamento ainda muda com fraseado, contextos longos, mudança de distribuição, configurações de decoding e instruções conflitantes. Alinhamento é um processo de engenharia que atravessa treino, avaliação, projeto de sistema, controle de acesso e monitoramento, não um certificado grampeado a um checkpoint.

A distinção central é uma pergunta virando duas. O pretraining pergunta: que texto é provável aqui? O post-training de assistente acrescenta: entre as continuações plausíveis, que comportamento este sistema deveria escolher para a pessoa que está na frente dele agora?