Il Manifesto DataOpsdella qualità
Dopo anni di lavoro con team di dati di ogni dimensione e tecnologia, siamo arrivati a credere che la qualità nasca solo dai test, e che la qualità da testare sia l’intera consegna, non solo i dati. Dati perfetti che passano per il codice, il report o il modello sbagliato sono comunque un errore, e il tuo cliente non vede la differenza. Siamo stati quelli che insistono sempre sulla qualità dei dati. Abbiamo controllato i conteggi delle righe a occhio, sperando. Abbiamo condotto l’assessment di 12 mesi che ha prodotto un documento e non ha corretto nulla. Abbiamo costruito la dashboard che nessuno ha aperto, e abbiamo saputo dei dati sbagliati dal cliente alle 9 del mattino. Vogliamo un metodo che dimostri la qualità in ogni punto, con test che girano senza un eroe alla tastiera, e prove da consegnare a chi può risolvere il problema. Il Manifesto DataOps dice che la qualità è di primaria importanza. Il Manifesto Data Journey dice che non va bene che siano i clienti a trovare i problemi. Ecco come mettiamo in pratica entrambi.
Firma il ManifestoCon il nostro lavoro abbiamo imparato a dare valore a:
- Test automatizzati rispetto a speranza e controlli manuali
- Pratica continua rispetto a progetti una tantum
- Misurazione rispetto a opinioni
- Test generati rispetto a regole scritte a mano
- Copertura dei test rispetto a diagrammi di lineage
- Stazioni di qualità lungo la linea rispetto a ispezioni alla fine
- Influenza e prove rispetto a imposizioni
- Funzionare al 70% oggi rispetto a perfetto un giorno
24 principi in sei gruppi, più uno. Selezionane uno per raggiungerlo.
1-4
Prove
-
1
Sai solo ciò che hai testato
La speranza non è un test. E nemmeno una revisione di business o una pipeline andata a buon fine. Se nessun test l’ha verificato, non sai se è giusto.
-
2
Testa i dati, osserva gli strumenti
La qualità è qualità dei dati più qualità dei processi. Una tabella perfetta è inutile se l’aggiornamento non è mai partito, e un job verde non dice nulla sui numeri che contiene. Controlla ogni strumento per errori e tempistiche.
-
3
Niente controlli manuali
I controlli manuali girano quando qualcuno se ne ricorda, e alle 2 di notte nessuno se ne ricorda. I tuoi dati arrivano ogni giorno, quindi ogni test gira in automatico, a ogni caricamento. Il Manifesto Data Journey lo dice chiaramente: evita i test di qualità manuali come la peste.
-
4
Misura prima di fissare gli standard
Profila i tuoi dati, crea i test e lascia che sia la baseline a dirti quali devono essere gli standard. Un comitato che li scrive per primo rallenta ogni decisione successiva. Senza risultati dei test, sei solo un’altra persona con un’opinione.
5-6
Persone
-
5
Parti da una persona
Una persona motivata con uno strumento gratuito batte un comitato direttivo con uno statuto. Trova chi non smette di insistere sulla qualità e dagli delle prove.
-
6
Influenzare è il lavoro
Chi trova un difetto raramente possiede il sistema che l’ha prodotto. I dati di origine sono abbastanza buoni per lo scopo per cui sono nati, quindi il loro proprietario non ha motivo di cambiarli. Rendi la correzione facile da accettare.
7-9
Test
-
7
Lascia che sia il profilo a scrivere i test
Scrivere a mano centinaia di test per tabella è un lavoro che non finisce mai. Generali, e tieni il tuo SQL per le regole di business che solo i tuoi esperti di dominio conoscono.
-
8
I test sono una risorsa condivisa
L’analista, lo steward, l’ingegnere e il modello toccano tutti la stessa regola, e solo uno di loro ha un account Git. Tieni ogni test e ogni risultato in un unico database di riferimento, accessibile a una persona tramite una UI, al codice tramite una API e a un modello tramite MCP. Una sola copia fa fede, e ogni modifica va in Git per diff, revisione e rollback.
-
9
Il 70% oggi batte il perfetto un giorno
Rilascia un test funzionante oggi pomeriggio. Ogni ciclo ti insegna qualcosa sui tuoi dati, e gli standard migliorano a ogni giro.
10-13
Punteggi e azione
-
10
Misura ciò che conta
Nessuno cambia comportamento per una colonna del numero di fax. Assegna un punteggio agli elementi che stanno a cuore al tuo cliente, e costruisci un punteggio diverso per ogni cliente.
-
11
Ogni punteggio risale a un test
Un punteggio senza un percorso di correzione è rumore. Ogni numero della dashboard risale a un test che mostra il problema e dimostra la correzione.
-
12
Rendi facile agire
Ogni dashboard ha un cliente con un nome e una persona con un nome che può correggere i dati. Consegnale il problema, il suo impatto, come riprodurlo e cosa cambiare, nel sistema di ticket che usa già.
-
13
Tieni la linea di tendenza
Un punteggio è un’opinione. Sei mesi di punteggi legati a un KPI che qualcuno sopra di te già guarda sono un budget. Parti da due numeri: errori in produzione e tempo per rilasciare una modifica. La tendenza è ciò che indichi quando chiedi più spazio.
14-19
Pratica
-
14
Ama i tuoi errori
Ogni difetto ti insegna qualcosa sui tuoi dati o sul tuo processo. Esaminali insieme in un circolo della qualità e correggi il passaggio che li ha prodotti. Dai la colpa al passaggio, non alla persona.
-
15
Metti i termini di consegna nei test
Un data contract è un insieme di test su cui entrambe le parti sono d’accordo. Termini che puoi eseguire battono promesse che non puoi eseguire.
-
16
Dimostra la migrazione
Una migrazione promette che il nuovo sistema contiene la stessa verità del vecchio. Testa entrambe le parti e dimostralo, dai conteggi delle righe ai valori delle colonne.
-
17
Taglia il rumore
Un alert di cui nessuno si fida è peggio di nessun alert. Regola ogni test finché un fallimento non significa qualcosa, e mandalo alla persona che può agire. Declassa quelli che scattano ogni notte. Non silenziarli mai.
-
18
In produzione è tuo
Il deploy è a metà del lavoro, non alla fine. Qualcuno sorveglia la linea, e quel qualcuno sei tu.
-
19
Testa ciò che ha scritto l’agente
Un agente rilascia una trasformazione in pochi secondi e non tiene a mente nulla della pipeline. Lascia che scriva la bozza del ticket di correzione e l’SQL personalizzato. Tutto il resto che tocca è non testato finché un test non dice il contrario.
20-24
Dimostra la qualità in ogni punto
-
20
Test… alla fonte
Dimostra che la fonte è adatta allo scopo, una tabella e una colonna alla volta. Non è tua, quindi le tue prove devono convincere chi ne è il proprietario.
-
21
Test… all’acquisizione
Sorveglia ogni tabella per aggiornamento, volume, modifiche di schema e deriva. Non puoi sorvegliare 6.000 tabelle a mano. Il rilevamento delle anomalie sì.
-
22
Test… in produzione
Metti un filo d’allarme tra ogni livello e ferma la linea davanti a un difetto. Non ogni fallimento merita uno stop, quindi decidi in anticipo quali fermano e quali avvisano. La produzione resta sugli ultimi dati sicuramente buoni mentre qualcuno controlla.
-
23
Test… in sviluppo
Prima del deploy, esegui il codice di oggi su un clone o una porzione dei dati di produzione di ieri. Rinomina una colonna, e una luce rossa dovrebbe dirti quale report a valle hai rotto. Un bug trovato qui costa un centesimo di quello che trova il tuo cliente.
-
24
Test… ovunque, sempre e automatizzati
Un solo controllo sui null fa quattro lavori in quattro punti. Saltane uno e ti perderai proprio quel fallimento. Copri ogni tabella, ogni colonna, ogni strumento e ogni numero che il tuo cliente legge. Niente test manuali.
Inizia DataOps dalla qualità
Il Manifesto DataOps ha 18 principi, e nessuno li adotta tutti di lunedì. Inizia dai test automatizzati sui dati. Sono il passo più economico, e il tuo cliente li percepisce per primo. Orchestrazione, CI/CD e osservabilità dipendono tutte dal sapere se i dati sono giusti.
Firma il Manifesto DataOps della qualità
Aggiungi il tuo nome se preferisci dimostrare la qualità con test automatizzati piuttosto che sperarci.
Metti in pratica il manifesto con l’open source
DataOps TestGen
Profile your data and generate the quality tests automatically. Full coverage in minutes, with no hand-written rules to maintain.
Install TestGenDataOps Process Observability
Watch every tool and every run from source to the dashboards that depend on it. Catch errors, late arrivals, and bottlenecks before your customer does.
Get Process ObservabilityPer approfondire
Free Books
Free Training & Certification
Leggi gli altri manifesti
The DataOps Manifesto
18 principles for delivering analytics, plus one: start with data testing.
Read the DataOps ManifestoThe Data Journey Manifesto
22 principles for observing the paths your data takes, so you find the problem before your customer does.
Read the Data Journey Manifesto