Instrumentar o pipeline para que o defeito seja descoberto pela equipe de dados antes de ser descoberto pelo negócio, com indicadores, objetivos declarados e detecção de anomalia sobre a própria série de execuções.
Computação 2 · Prof. Afonso Brandão · 21/09/2026
TBL · Caso · 8 min de leitura
Uma rede de 380 lojas perdeu dado de venda por 41 noites consecutivas. Nenhuma execução falhou, nenhum alerta disparou, e a extensão da perda permanece desconhecida.
O servidor da loja passou a gravar o horário em UTC e os terminais de autoatendimento continuaram em horário local. Como a marca avança para o maior valor visto, o registro do terminal ficou permanentemente atrás dela.
As 41 execuções concluíram no tempo habitual, sem erro e sem linha rejeitada. O orquestrador registra desfecho e duração, e nada sobre o que trafegou.
Registro detalhado com retenção de 14 dias, origem que descarta após 60, tabela sem data de chegada e reprocessamentos manuais sobrepostos e não registrados.
Sobre base incompleta de extensão desconhecida.
Quais dias, quais lojas, qual volume.
O armazém já é 31% do custo de nuvem.
Mesmo padrão, nenhuma afirmação possível.
TBL · Método · 5 questões sobre o mesmo caso
Nenhuma alternativa é correta. Cada uma é uma tática com ganho e custo declarados, que detecta uma classe de falha e permanece cega diante de outra.
Leitura da questão, escolha de uma tática e justificativa escrita. A distribuição da turma permanece oculta.
As justificativas são exibidas sem identificação, junto da distribuição. A plenária examina os argumentos.
A escolha pode ser mantida ou alterada, com nova justificativa. O formulário recomeça em branco.
As duas distribuições e o deslocamento entre elas são projetados antes de a questão seguinte abrir.
Abra a sala em pages/module-11-eng-software/tbl/lesson-15-tbl.html e identifique-se com o primeiro nome.
TBL · Sequência · uma decisão por questão
Cada questão isola uma decisão. A segunda hora retoma as cinco na ordem em que a turma as percorreu, e confronta a escolha da sala com a prática estabelecida.
Atualidade, completude, qualidade e custo. Qual dimensão teria falado nas 41 noites, e qual permaneceria dentro do limite.
O que gravar de cada carga para que a pergunta da auditoria seja respondível — desta vez e na próxima.
Contra que referência comparar o número desta noite, sabendo que a referência se contamina pela própria perda.
O que a plataforma faz às 4h07 quando a verificação reprova, com a reposição saindo às 6h e sem plantão noturno.
A telemetria é um pipeline e também tem conta a pagar. Quanto guardar, em que grão e por quanto tempo, dentro do teto de 8%.
Continuidade · das Aulas 12 e 13 para a Aula 15
A extração e a transformação foram construídas com testes e replay. Esta aula trata de como a equipe descobre o defeito antes que o número errado chegue à reunião de fechamento.
Roteiro · 120 minutos · uma hora de decisão, uma hora de prática estabelecida
O TBL apresenta um caso em que a instrumentação faltou e obriga cada estudante a decidir sob restrição de custo e prazo. Os três blocos seguintes retomam as mesmas cinco decisões.
Perda silenciosa num armazém analítico. Duas decisões por questão, com discussão entre elas.
As quatro dimensões do pipeline e a diferença entre métrica técnica e de negócio.
Métrica, log e linhagem; indicador, objetivo e orçamento de erro.
Alertar por sintoma, detectar anomalia e conduzir o diagnóstico pelo grafo.
Bloco 1 · O que medir
A execução bem-sucedida informa apenas que o processo terminou. As quatro dimensões informam se o resultado é utilizável.
Distância entre o instante do fato na origem e o instante em que ele fica consultável no destino.
Proporção do que a origem tem e o destino recebeu, medida por reconciliação de contagem e de soma.
Taxa de registros rejeitados pelos testes, com o motivo classificado e a série acompanhada ao longo do tempo.
Bytes varridos e tempo de processamento por execução, atribuídos ao domínio responsável.
Bloco 1 · Dois públicos
As duas são necessárias, e servem a decisões distintas. Confundi-las produz alerta que ninguém sabe priorizar.
| Pergunta | Métrica técnica | Métrica de negócio | Quem age |
|---|---|---|---|
| O dado está atual? | Atraso da marca d'água em horas | Data do último pedido visível no painel | Engenharia decide reprocessar |
| Está completo? | Linhas carregadas por execução | Receita do dia contra a média das quatro semanas | Negócio decide se apresenta |
| Está correto? | Registros rejeitados por motivo | Pedidos sem categoria atribuída | Governança decide a regra |
| Está caro? | Bytes varridos por execução | Custo por relatório publicado | Produto decide a frequência |
Bloco 2 · Instrumentação
A coleta dos três sinais exige armazenamento e disciplina de instrumentação; com apenas um deles, o diagnóstico fica incompleto.
quanto, e como variou
Valor numérico agregado por janela: duração, linhas, bytes, rejeitados. Barata de guardar e adequada para série histórica, alerta e comparação com o comportamento habitual.
Limite: não explica por que o valor mudou.
o que aconteceu, em que ordem
Evento datado com contexto: lote, parâmetros, erro, quantidade rejeitada e onde os rejeitados foram gravados. É a tabela de controle da Aula 12, agora consultada como série.
Limite: cresce rápido e exige política de retenção.
o que mais foi afetado
Grafo de dependência entre tabelas e cargas. Responde quais painéis consomem a tabela defeituosa e quais precisam ser reprocessados depois da correção.
Limite: é confiável somente quando gerada a partir do código.
Bloco 2 · Objetivo declarado
Na ausência de limite declarado, nenhuma variação do indicador dispõe de critério objetivo para desencadear ação.
Proporção de cargas diárias concluídas com atraso da marca d'água inferior a três horas, medida sobre a tabela de execuções.
Ao menos 95% das cargas diárias do trimestre, cerca de 90, dentro do limite. O número é acordado entre a engenharia e quem consome o dado.
Os 5% restantes equivalem a 4 cargas atrasadas por trimestre (5% de 90 = 4,5). Em janela mensal, 98% de 30 cargas admitiria 0,6 carga, e um único atraso esgotaria a margem. Consumida a margem, a prioridade passa da entrega de novas fontes para a estabilização do que existe.
Bloco 2 · Custo da própria telemetria
Retomada da cardinalidade discutida na Aula 10, agora aplicada aos rótulos das métricas.
O identificador único deve constar do registro de execução, fora dos rótulos da métrica. A métrica existe para comparar séries ao longo do tempo, o que exige que o mesmo rótulo se repita entre execuções.
Detalhe por execução nos últimos dias, agregação horária nas semanas seguintes e diária no histórico longo. É a política de ciclo de vida da Aula 10 aplicada à própria observabilidade.
Bloco 3 · Anomalia
O volume diário varia por sazonalidade. O limite fixo gera alerta falso na transição entre fim de semana e dia útil e deixa de alertar quando um dia útil chega com metade dos registros.
A média das últimas quatro ocorrências do mesmo dia da semana absorve a sazonalidade semanal. O desvio é medido em relação a essa referência, com tolerância calibrada pela variação habitual da série.
A queda de volume costuma indicar carga incompleta, e a alta costuma indicar duplicação. As duas merecem alerta, com limites e destinatários próprios.
Bloco 3 · Alerta
Alertar por causa produz um alerta por modo de falha conhecido, e nenhum para o modo ainda desconhecido.
| Alerta por causa | Alerta por sintoma | Por que o segundo é preferível |
|---|---|---|
| A tarefa de extração falhou | Os pedidos estão desatualizados há mais de três horas | Cobre também a tarefa que concluiu com sucesso sem trazer dado |
| A conexão com a origem expirou | A completude do dia está abaixo de 99% | Cobre também a perda parcial que ocorre sem falha de conexão |
| O teste de unicidade reprovou | A receita do dia diverge da origem acima da tolerância | Traduz o defeito técnico no efeito que o negócio observa |
Segunda hora · Card de trabalho em sala
Em grupo, sobre a tabela de execuções das Aulas 12 e 13: instrumentar, declarar objetivos e detectar a anomalia.
Calcule atualidade, completude, qualidade e custo sobre a série, com uma consulta por indicador.
Defina um objetivo por indicador e justifique o número pelo efeito no consumidor.
O professor injeta uma falha silenciosa. Meça quantas cargas passaram até o alerta disparar.
Segunda hora · Preparação · 10 minutos
O laboratório parte da tabela de controle da Aula 12 e gera, na tabela ctl.execucao, trinta dias de execuções simuladas sobre as quais medir.
Segunda hora · Indicadores · 15 minutos
Cada grupo escreve as quatro e registra o valor obtido, que servirá de base para os objetivos do passo seguinte.
Segunda hora · Objetivos · 10 minutos
A justificativa é a parte avaliada. O número desacompanhado de justificativa não constitui objetivo de nível de serviço.
| Indicador | Objetivo proposto | Justificativa exigida | Consequência do descumprimento |
|---|---|---|---|
| Atualidade | 95% abaixo de 3 h no trimestre | A que horas o consumidor abre o painel, e o que ele decide com ele | Aviso de defasagem exibido no painel |
| Completude | Desvio até 15% da referência | Qual variação já ocorreu por causa legítima nos últimos 30 dias | Publicação suspensa até a conferência |
| Qualidade | Rejeição até 0,1% | Quantos registros o negócio aceita perder sem alterar a decisão | Revisão da regra com a governança |
| Custo | Dentro do orçamento do domínio | Qual é o orçamento mensal e quantas cargas cabem nele | Redução da frequência de carga |
Segunda hora · Anomalia · 15 minutos
Execute o bloco abaixo e observe quantas execuções passam até o alerta do grupo disparar.
Nenhum teste técnico reprova: a chave é única, os tipos estão corretos e não há nulo indevido. O único sinal disponível é a comparação com o comportamento habitual daquele dia da semana.
Um limite de 15% detecta na primeira execução. Um limite de 50% deixa passar, e a divergência entra no relatório do dia sem nenhum registro de que algo ocorreu.
Segunda hora · Conferência
Números esperados em cada etapa, sobre a série de trinta execuções gerada no início do laboratório.
| Etapa | O que verificar | Referência |
|---|---|---|
| Série gerada | Contagem e variação semanal | 30 execuções, com fins de semana entre 1 200 e 1 320 linhas |
| Atualidade | Atraso mediano da carga | 2 horas, valor fixado na geração da série |
| Referência móvel | Média das quatro ocorrências anteriores | Próxima de 3 150 em dia útil e de 1 260 no fim de semana |
| Anomalia | Desvio da execução injetada | Entre 41% e 46% abaixo da referência do mesmo dia da semana |
| Limite de 15% | Execuções marcadas na série inteira | Somente a injetada, sem alertas falsos |
| Limite de 5% | Execuções marcadas na série inteira | Várias, o que demonstra o custo da sensibilidade excessiva |
Segunda hora · Uso de IA · em paralelo
A escolha do limite é decisão de produto, e o assistente não dispõe do contexto de consumo necessário para tomá-la.
"A partir deste schema da tabela de execuções, escreva uma consulta por dimensão: atualidade, completude, qualidade e custo, cada uma devolvendo série diária."
"Escreva a referência móvel por dia da semana, excluindo o dia corrente da média, e explique como a inclusão do próprio dia reduziria o desvio medido."
"Aponte quais modos de falha desta carga não seriam detectados por nenhum destes alertas, e o que precisaria ser medido para cobri-los."
Confirme que a janela da média exclui a execução em avaliação.
Execute o alerta contra a série inteira e conte os falsos positivos antes de adotá-lo.
Registre o prompt junto da consulta, uma vez que ele integra o registro da decisão.
Ponte com a Aula 1 · Spec-Driven Development
A decisão de observabilidade entra no projeto como requisito, decisão registrada e critério verificável.
Registrar, para cada carga, atualidade, volume, taxa de rejeição e custo, com série consultável de noventa dias.
95% das cargas diárias do trimestre com atraso inferior a 3 h, com orçamento de 4 cargas; desvio de volume acima de 15% da referência detectado na primeira execução; telemetria com retenção decrescente por idade.
Alerta por sintoma observável pelo consumidor, em vez de alerta por falha de tarefa. Contexto: a carga que conclui sem trazer dado não gera falha. Consequência: exige referência histórica por dia da semana.
Dada uma carga que conclui com 40% menos linhas que a referência do mesmo dia da semana, quando a verificação de anomalia executa, então o alerta dispara e a publicação fica suspensa.
Entrega do card de trabalho
O que o grupo entrega ao final da segunda hora, e o que será conferido.
As quatro consultas de indicador, a consulta de anomalia com o limite adotado, a justificativa de cada limite pelo efeito no consumidor e o número de alertas falsos que o limite produziria na série de trinta dias.
Os quatro indicadores estão calculados sobre a série, com valor medido.
A referência móvel exclui o dia em avaliação e respeita o dia da semana.
Cada limite é justificado pelo efeito sobre o consumidor.
A anomalia injetada foi detectada, com o desvio medido em percentual.
O número de alertas falsos do limite adotado está contado na série inteira.
Cada alerta tem procedimento correspondente e destinatário declarado.
Autoestudos · antes do próximo encontro
Quanto tempo o dado incorreto permanece publicado antes de alguém perceber, e o que reduziria esse tempo?
Leia observando como o capítulo distingue indicador, objetivo e acordo, e traduza os três para o pipeline do seu parceiro.
sre.google · capítulo DocumentaçãoCompare a tipologia de sinais do padrão com os três discutidos em aula, e identifique qual deles o seu pipeline hoje não produz.
opentelemetry.io · documentação DocumentaçãoEstude a cláusula de moldura usada na referência móvel do laboratório e teste como o resultado muda ao incluir a linha corrente.
duckdb.org · documentaçãoAula 15 · Síntese
Métricas e Telemetria em ETLs · 21/09/2026 · Prof. Afonso
Definir indicadores de atualidade, completude, qualidade e custo para um pipeline, declarar objetivos de nível de serviço justificados pelo efeito no consumidor e construir uma verificação de anomalia capaz de detectar carga incompleta que conclui sem erro.
Primeira hora em TBL: a turma lê um caso de perda silenciosa de dados num armazém analítico e percorre cinco questões, uma para cada decisão que a observabilidade impõe. Em cada questão há decisão individual sem ver a turma, discussão com as justificativas exibidas sem identificação e segunda decisão, e a trajetória entre as duas rodadas é projetada. Segunda hora de exposição dialogada em três blocos, cada um retomando as decisões que a sala tomou sob restrição de custo e prazo e confrontando-as com a prática estabelecida, com checklist de aplicação e erro comum.