Pular para o conteúdo principal

Trabalhos em massa em resumo

Ordem de carga

OrdemCarreguePorque
1Dados de referênciaAtributos vinculados rejeitam códigos desconhecidos
2EntidadesRelacionamentos precisam das duas pontas
3Relacionamentos
4Rode a manutençãoChaves de bloco e frequências de valor
5Compare
Compare depois de carregar, nunca durante

O motor pesa o quão comum cada valor é nos seus dados. Durante a carga essas frequências cobrem uma fração dos dados, então valores parecem mais raros do que são e concordâncias pontuam alto demais. Registros se consolidam com evidência que dados posteriores teriam enfraquecido.

Tipos de trabalho

Nove: ingestão e atualização de entidades; indexação, execução e reclassificação de comparação; pontuação de qualidade; recomputação de rótulos; retroalimentação e resolução de asserções.

Tipos de recomputação aceitam escopo de organização inteira, então "repontuar tudo" é uma única submissão.

Situações

SituaçãoSignificado
Enfileirado · Em execuçãoEm curso
ConcluídoToda linha teve sucesso
Concluído com errosTerminou; algumas linhas falharam
FalhouNão conseguiu concluir
DescartadoEsgotou as tentativas
CanceladoInterrompido a pedido

Verifique a situação, não apenas a contagem de erros — um trabalho que terminou com falhas tem situação terminal própria.

Resiliência

Como um trabalho se recupera depende de ele poder ser dividido, e isso é decidido pelo tipo dele, não por algo que você configure:

Tipo de trabalhoDividido entre workersSe um worker morre
Carga — ingestão e atualizaçãoNão. Um worker, uma passada.O trabalho inteiro é recolocado na fila, e descartado para a fila morta quando as tentativas se esgotam
Recomputação — correspondência, pontuação, trabalho de relacionamentoSim, em blocos que workers reivindicam independentementeOutro worker reivindica aquele bloco; no máximo aquele bloco é refeito

Dimensione uma carga grande pensando na primeira linha, não na segunda.

Para trabalhos em blocos:

EventoComportamento
Worker travaDois sinais independentes de vivacidade o detectam
Worker volta depois de reivindicadoSuas gravações tardias são rejeitadas, não aplicadas

A última é o que impede um worker que retorna de corromper silenciosamente os totais do trabalho.

Contrapressão

Trabalho além da capacidade é rejeitado com um intervalo de nova tentativa, não enfileirado indefinidamente. Uma fila que aceita tudo cresce até algo pior acontecer.

Sucesso parcial é normal

Linhas válidas entram; falhas são registradas por linha com o motivo. Corrija e reenvie apenas essas.

A seguir


Última verificação no commit d3c2586b (2026-08-03)