Los datos no hablan solos¶
Ejercicio data-dont-speak-alone-annex.pdf · PDF
Cuatro jugadores terminan una partida. La pantalla de estadísticas dice lo mismo de los cuatro: misma media, misma dispersión, misma tendencia. ¿Son el mismo tipo de jugador?
Dirías que sí. Todo el mundo lo diría. Y todo el mundo se equivocaría, porque la pantalla de estadísticas es un resumen, y un resumen esconde cosas. Uno jugó con regularidad, otro llegó muy alto y se hundió, otro tuvo una única ronda descomunal, y otro hizo diez veces lo mismo y una vez algo completamente distinto. Solo lo descubres cuando miras.
Ese es todo el módulo en una frase: los números no se explican solos. Alguien tiene que ir a buscarlos, limpiarlos y dibujarlos para que una persona pueda ver qué pasa. Este año, ese alguien eres tú.
Qué aprenderás
- Distinguir los datos de la información y decir qué convierte unos en otra
- Explicar qué es un estadístico resumen y por qué cuatro de ellos no bastaron con el cuarteto de Anscombe
- Leer un diagrama de dispersión y detectar una curva, un valor atípico y una falsa tendencia
- Nombrar las cuatro etapas del ciclo de vida de los datos y asociar cada una con una unidad de este curso
- Evitar la trampa: por qué "trabajar con datos es hacer gráficos" pone el orden al revés
Los datos no son información¶
Los datos son hechos registrados en bruto: un número, una palabra, una fecha. La información es lo que obtienes cuando alguien organiza esos hechos para responder a una pregunta.
Toma un solo hecho: hoy hay 31 °C en Calvià. Eso es un dato (una pieza de datos). Por sí solo dice muy poco. ¿Hace calor? ¿Es normal? ¿Comparado con qué?
Ahora mira cómo sube de nivel:
| Paso | Ejemplo | Qué se añadió |
|---|---|---|
| Datos | 31 °C en Calvià hoy | Nada: una medición en bruto |
| Información | La media de este mes es 26 °C | Muchos datos, organizados y comparados |
| Conclusión | Este mes hace un calor fuera de lo normal | Una persona que interpreta la información |
| Decisión | Se adelanta la revisión del aire acondicionado | Alguien que actúa según la conclusión |
Los datos nunca dijeron "adelanta la revisión". Lo dijeron las personas, después de organizar los datos y mirarlos. Eso es lo que significa el título de esta página: los datos no hablan solos. Siempre hay alguien que habla por ellos, y este curso te enseña a hacerlo con honestidad.
¿\"Los datos son\" o \"el dato es\"?
Datos es el plural de dato, pero en inglés se usa data, que viene del plural latino de datum. Los escritores cuidadosos escriben "data are" y en el inglés de todos los días también se oye "data is". En español no hay duda: los datos son varios y el dato es uno solo. En esta página usamos siempre el plural.
Cuatro números que describen una tabla¶
Una tabla con miles de filas no cabe en tu cabeza. Así que la comprimimos.
Un estadístico resumen es un número que describe toda una columna de datos.
Ya conoces el más famoso. Estos son los cuatro que necesita esta página, sin fórmulas:
| Estadístico resumen | La pregunta que responde | En un juego |
|---|---|---|
| Media (el promedio) | ¿Cuál es un valor típico? | Tu puntuación media por partida |
| Varianza | ¿Cuánto se dispersan los valores alrededor de la media? | ¿Puntúas siempre más o menos igual o oscilas a lo loco? |
| Correlación (se escribe r) | Cuando una columna sube, ¿sube también la otra? Va de −1 a 1; 0 significa que no hay relación en línea recta | ¿Más horas jugadas se corresponden con un rango más alto? |
| Recta de regresión | ¿Qué recta pasa más cerca de todos los puntos? | La tendencia: "aproximadamente medio rango por cada hora extra" |
Estos cuatro son la "pantalla de estadísticas" de un conjunto de datos. Se calculan rápido y se comparan con facilidad. Pero también son una compresión: entran muchas filas y sale un número. Y cuando comprimes, pierdes cosas.
¿Cuánto puedes perder? En 1973 un estadístico decidió demostrarlo.
El cuarteto de Anscombe¶
Francis "Frank" Anscombe fue un estadístico inglés que, en 1963, se convirtió en el primer director del departamento de estadística de la Universidad de Yale. Los ordenadores empezaban a hacer los cálculos por las personas y a él le preocupaba que los analistas imprimieran los números y nunca dibujaran el gráfico. Mucha gente creía que los cálculos son exactos y los gráficos, toscos.
Así que en 1973 publicó un artículo breve, Graphs in Statistical Analysis, en la revista The American Statistician. En él construyó a mano cuatro conjuntos de datos diminutos, de 11 puntos cada uno. Hoy se llaman el cuarteto de Anscombe.
Esta es su pantalla de estadísticas:
| Estadístico resumen | Conjunto I | Conjunto II | Conjunto III | Conjunto IV |
|---|---|---|---|---|
| Número de puntos | 11 | 11 | 11 | 11 |
| Media de x | 9.00 | 9.00 | 9.00 | 9.00 |
| Media de y | 7.50 | 7.50 | 7.50 | 7.50 |
| Varianza de x | 11.00 | 11.00 | 11.00 | 11.00 |
| Varianza de y | 4.13 | 4.13 | 4.12 | 4.12 |
| Correlación r | 0.816 | 0.816 | 0.816 | 0.817 |
| Recta de regresión | y = 3.00 + 0.50x | y = 3.00 + 0.50x | y = 3.00 + 0.50x | y = 3.00 + 0.50x |
Siete filas, y los cuatro conjuntos coinciden en todas. Si solo tuvieras esta tabla, ¿qué concluirías? Que son cuatro copias de lo mismo.
Ahora dibújalos.
Un diagrama de dispersión es un gráfico en el que cada fila de la tabla se convierte en un punto: su valor x dice cuánto se desplaza a la derecha y su valor y dice cuánto sube.
La misma pantalla de estadísticas. Cuatro historias distintas:
| Conjunto | Qué muestra el dibujo | Qué ocultaban los números |
|---|---|---|
| I | Puntos dispersos alrededor de una recta ascendente | Nada. Es el único conjunto que el resumen describe con justicia. |
| II | Una curva suave que sube y luego baja | La relación no es una línea recta en absoluto. Una tendencia en línea recta es la herramienta equivocada. |
| III | Diez puntos sobre una recta perfecta, un punto muy por encima | Un valor atípico (un valor muy alejado de todos los demás) arrastra la recta hacia arriba. |
| IV | Diez puntos apilados en x = 8, un punto solo en x = 19 | Quita ese único punto y no queda ninguna tendencia. Un solo punto inventó la correlación. |
Los 44 puntos, por si quieres comprobarlos tú mismo
Los conjuntos I, II y III comparten los mismos valores de x. El conjunto IV tiene los suyos.
| x (I, II, III) | y (I) | y (II) | y (III) | x (IV) | y (IV) |
|---|---|---|---|---|---|
| 10 | 8.04 | 9.14 | 7.46 | 8 | 6.58 |
| 8 | 6.95 | 8.14 | 6.77 | 8 | 5.76 |
| 13 | 7.58 | 8.74 | 12.74 | 8 | 7.71 |
| 9 | 8.81 | 8.77 | 7.11 | 8 | 8.84 |
| 11 | 8.33 | 9.26 | 7.81 | 8 | 8.47 |
| 14 | 9.96 | 8.10 | 8.84 | 8 | 7.04 |
| 6 | 7.24 | 6.13 | 6.08 | 8 | 5.25 |
| 4 | 4.26 | 3.10 | 5.39 | 19 | 12.50 |
| 12 | 10.84 | 9.13 | 8.15 | 8 | 5.56 |
| 7 | 4.82 | 7.26 | 6.42 | 8 | 7.91 |
| 5 | 5.68 | 4.74 | 5.73 | 8 | 6.89 |
Cuidado: esto no significa que la estadística sea inútil
La lección no es "ignora los números". Los números son correctos en los cuatro conjuntos. La lección es usa los dos: calcula el resumen y dibuja el gráfico. Cada uno detecta lo que el otro pasa por alto. Ese fue exactamente el consejo de Anscombe en 1973.
¿Tuvo Anscombe simplemente suerte? Conoce el Datasaurus
En 2017, Justin Matejka y George Fitzmaurice, dos investigadores de Autodesk, llevaron la idea mucho más lejos. Publicaron el Datasaurus Dozen: trece conjuntos de datos con estadísticos resumen casi idénticos. Uno parece una estrella. Otro es un círculo. Otro es un dinosaurio. Diga lo que diga la pantalla de estadísticas, detrás puede haber un dinosaurio.
El ciclo de vida de los datos: un juego de crafteo¶
Anscombe entregó los números a sus lectores: limpios, en una tabla, listos para dibujar. La vida real es menos generosa. Antes de poder dibujar nada, tienes que encontrar los datos, llevártelos a casa y arreglarlos.
El ciclo de vida de los datos es el camino que siguen los datos desde el lugar donde viven hasta la pantalla donde alguien los lee.
Tiene cuatro etapas, y ya las conoces si alguna vez has jugado a un juego de crafteo como Minecraft o Stardew Valley. Nadie fabrica una espada de diamante con un bloque de piedra que acaba de mirar. Mantendremos esta única analogía durante todo el curso.
flowchart LR
O["<b>1 · Obtener</b><br>(cultivar y saquear)"] -- "datos en bruto" --> P["<b>2 · Preparar</b><br>(fundir, ordenar,<br>tirar la basura)"]
P -- "datos limpios" --> A["<b>3 · Analizar</b><br>(craftear,<br>comparar estadísticas)"]
A -- "resultados" --> R["<b>4 · Representar</b><br>(el HUD y<br>el minimapa)"]
| Etapa | En el juego | Con datos | Dónde se aprende |
|---|---|---|---|
| 1 · Obtener | Cultivar y saquear: extraer mineral, abrir cofres, comerciar con personajes | Conectarte a los lugares donde viven los datos y extraerlos (sacar lo que necesitas): bases de datos, archivos, servicios web | UT1, empezando por Fuentes de datos |
| 2 · Preparar | Fundir el mineral, ordenar el inventario, tirar la basura | Limpiar: valores ausentes, filas repetidas, formatos erróneos | UT2, empezando por Calidad de los datos |
| 3 · Analizar | Craftear: combinar materiales, comparar las estadísticas de dos objetos | Agrupar, contar, calcular y comparar: medias, totales, clasificaciones | UT2, en Estadística exploratoria |
| 4 · Representar | El HUD y el minimapa: barra de vida, mapa y puntuación de un vistazo | Gráficos y cuadros de mando (dashboards: varios gráficos en una pantalla) que responden a una pregunta | UT3, empezando por Percepción visual, y UT4, empezando por Cuadros de mando y KPI |
UT significa unidad de trabajo: un bloque de clases. La página Resultados de aprendizaje muestra cómo se corresponden las cuatro unidades con los tres resultados por los que se te evalúa. Esta página abre UT1 y enmarca todas.
¿Dónde encaja el cuarteto de Anscombe? En la etapa 4. La tabla resumen era la pantalla de estadísticas; los diagramas de dispersión eran el minimapa. El minimapa mostró lo que la pantalla de estadísticas ocultaba.
Cuidado: \"trabajar con datos son los gráficos\"
Es la idea más extendida sobre este trabajo, y pone el orden al revés. Los gráficos son el HUD: lo último que aparece en pantalla. Si el botín está mal, el HUD miente, por bonito que sea. Tres de las cuatro etapas ocurren antes de dibujar un solo gráfico, y la etapa 2 es la que los principiantes más quieren saltarse. Verás por qué en UT2.
Cada gráfico es un argumento¶
Los cuatro gráficos de Anscombe eran honestos. No todos los gráficos lo son.
Los mismos números se pueden dibujar para susurrar o para gritar. Empieza el eje vertical de un gráfico de barras en 95 en lugar de en 0 y una subida del 4 % parecerá una explosión. Nada cambió en los datos. Solo cambió el dibujo.
Así que quédate con tres hábitos desde el primer día:
- Mira antes de resumir. Dibuja los datos antes de fiarte de una media.
- Trata cada gráfico como un argumento. Alguien eligió qué mostrar y cómo. Pregúntate qué quiere que creas.
- Que la pregunta elija el gráfico. Una comparación, un cambio en el tiempo y una relación necesitan cada uno una imagen distinta. No decide la herramienta; decide la pregunta.
Entrenarás los tres hábitos en UT3: leer los tipos de gráfico principales, elegir el adecuado y cazar los trucos en Gráficos engañosos.
Pruébalo: reconstruye el cuarteto¶
Necesitas un programa de hojas de cálculo (LibreOffice Calc, Excel o Google Sheets) y el archivo anscombe.xlsx de la página de Recursos.
| Paso | Haz esto | Deberías ver |
|---|---|---|
| 1 | Abre anscombe.xlsx. No dibujes nada todavía. |
Cuatro tablas pequeñas, de 11 filas cada una |
| 2 | Para cada conjunto, calcula la media de x y de y con AVERAGE |
9 y 7.50, cuatro veces |
| 3 | Calcula la varianza de x y de y con VAR.S (en Calc también sirve VAR) |
11 y aproximadamente 4.12, cuatro veces |
| 4 | Calcula la correlación con CORREL |
Aproximadamente 0.816, cuatro veces |
| 5 | Calcula la recta de regresión con SLOPE e INTERCEPT. Ambas toman primero la columna y, luego la columna x. |
Aproximadamente 0.50 y 3.00, cuatro veces |
| 6 | Solo ahora: inserta un gráfico de dispersión para cada conjunto | Cuatro dibujos que no se parecen |
Después responde en una frase cada una: ¿qué creías después del paso 5 y qué crees después del paso 6?
Ideas clave¶
- Los datos son hechos en bruto; la información aparece cuando alguien los organiza para responder a una pregunta. Los datos no hablan solos.
- Un estadístico resumen (media, varianza, correlación, recta de regresión) comprime muchas filas en un número. Es una compresión, y comprimir pierde detalle.
- El cuarteto de Anscombe (Frank Anscombe, 1973): cuatro conjuntos de datos de 11 puntos con estadísticos resumen casi iguales y cuatro diagramas de dispersión completamente distintos.
- Los dibujos revelaron una curva, un valor atípico y una tendencia inventada por un único punto. Calcula y dibuja siempre.
- El ciclo de vida de los datos tiene cuatro etapas: obtener, preparar, analizar, representar. En el juego de crafteo: cultivar y saquear, fundir y ordenar, craftear, HUD y minimapa.
- Los gráficos son la última etapa, no todo el trabajo. Si las etapas anteriores fallan, el gráfico miente.
Comprobación rápida¶
1. ¿Qué tienen en común los cuatro conjuntos de datos del cuarteto de Anscombe?
- Exactamente los mismos 11 puntos, en distinto orden
- Estadísticos resumen casi idénticos: medias, varianzas, correlación y recta de regresión
- La misma forma cuando se dibujan
- Nada: se eligieron al azar
Los cuatro conjuntos comparten sus estadísticos resumen (media de x 9, media de y 7.50, correlación aproximadamente 0.816, recta y = 3.00 + 0.50x), pero sus puntos son distintos y también sus dibujos. Esa diferencia entre "mismos números" y "dibujos distintos" es el quid de la cuestión.
2. ¿Por qué dos conjuntos de datos muy distintos pueden tener la misma media?
- Porque la media suele calcularse mal
- Porque la media solo funciona con 11 valores
- Porque un estadístico resumen comprime muchos valores en un número y por el camino se pierde detalle
- Porque las hojas de cálculo redondean el resultado
Un estadístico resumen es una compresión: entran muchas filas y sale un número. Muchos conjuntos de filas distintos pueden dar el mismo número. La media está bien calculada en los cuatro conjuntos; simplemente no puede distinguirlos.
3. En el conjunto IV, diez puntos tienen x = 8 y un punto tiene x = 19. ¿Qué pasa con la tendencia si eliminas ese único punto?
- No cambia nada: un punto de once es demasiado poco para importar
- La tendencia se convierte en una curva
- La tendencia desaparece: ese único punto estaba creando la correlación
- La correlación sube a exactamente 1
Con todos los demás puntos apilados en x = 8, no queda nada que una recta ascendente pueda seguir. Un solo punto inventó la correlación, y solo el diagrama de dispersión lo muestra.
4. ¿Qué secuencia es el ciclo de vida de los datos, en orden?
- Representar → obtener → preparar → analizar
- Obtener → analizar → preparar → representar
- Preparar → obtener → representar → analizar
- Obtener → preparar → analizar → representar
Primero obtienes los datos (cultivar y saquear), luego los preparas (fundir, ordenar, tirar la basura), después analizas (craftear, comparar estadísticas) y solo entonces representas (el HUD y el minimapa).
5. En la analogía del juego de crafteo, ¿qué es el HUD y el minimapa?
- Obtener los datos de su fuente
- Limpiar los valores ausentes y repetidos
- Representar los datos con gráficos y cuadros de mando
- Guardar los datos en una base de datos
El HUD muestra salud, mapa y puntuación de un vistazo: eso es la etapa 4, representar. Es lo último que aparece en pantalla y solo es tan bueno como el botín que hay detrás.
6. Un compañero dice: \"Trabajar con datos es básicamente hacer gráficos bonitos.\" ¿Cuál es la mejor respuesta?
- Cierto: las demás etapas las hacen solas las herramientas
- Los gráficos son la última de cuatro etapas; si los datos se obtuvieron mal o no se limpiaron, el gráfico miente
- Falso: los gráficos no forman parte del trabajo con datos
- Cierto, siempre que el gráfico tenga título
Representar es la etapa 4 de 4. Obtener y preparar van antes, y un gráfico precioso construido sobre datos erróneos sigue siendo erróneo. Los gráficos importan (Anscombe lo demostró), pero no son todo el trabajo.
7. Una app de streaming te dice que dos de sus series tienen la misma valoración media, 7.5 sobre 10. Elige las dos afirmaciones verdaderas.
- Las dos series podrían tener valoraciones muy distintas episodio a episodio
- Las dos series tienen que haber sido valoradas por los mismos espectadores
- Un gráfico con la valoración de cada episodio mostraría diferencias que la media oculta
- Que la media sea igual demuestra que ambas series son igual de constantes en calidad
La misma lección que el cuarteto, en una situación nueva. Una media es un resumen: una serie podría ser un 7.5 constante mientras la otra oscila entre 5 y 10. Solo mirar los valores individuales, idealmente en un gráfico, permite distinguirlas.
Ya sabes por qué importa el dibujo y qué cuatro etapas llevan hasta él. La etapa 1 empieza con una pregunta sencilla: ¿dónde viven realmente los datos? A continuación: Fuentes de datos.