lección 8
Retrospectiva -- De junior a senior, preparación StreamVibe
Reflexión sobre tu carrera de 4.5 años: de subir CSVs en FreshMart a diseñar arquitecturas que mueven millones. Qué has aprendido, qué te falta, y qué viene en StreamVibe donde diseñarás TODO desde cero.
⏱ 25 min
### Viernes, 17:00 -- Cerveza con Kenji en la cafeteria de planta
La presentación fue bien. Fernando aprobó el roadmap, Patricia está entusiasmada con el modelo predictivo, y Klaus de BMW confirmó que el formato de exportación es correcto. Tu primera semana en SmartFactory ha sido intensa -- probablemente la más exigente de tu carrera. Kenji te invita a la cafetería de planta a tomar algo.
1Kenji: "Oye, buen trabajó está semana. En serio. Yo llevo un año2aquí y nunca había conseguido sentarme con Fernando a presentar un3roadmap completo. Tu llegas, y en 5 días tienes un ADR aprobado,4un pipeline de features, la exportación de BMW resuelta, un circuit5breaker y un plan de 6 meses con números. Como lo haces?"67Tu: "Experiencia. No es que sea más listo -- es que he visto estos8problemas antes en otros contextos. El circuit breaker es el mismo9patron que usabamos en FlashRoute para GPS anomalos. Las features de10streaming son una versión más compleja de lo que hacía en NeoBank11para fraude. Y presentar a un VP es algo que aprendi en MediTrack12cuando tuve que explicar GDPR al compliance board.1314Cada empresa me enseñó algo que uso en la siguiente. FreshMart me15enseñó que los datos reales son sucios. TaskFlow que los eventos16son complejos. AdPulse que las multiples fuentes nunca cuadran.17NeoBank que la regulación no es opcional. FlashRoute que el real-time18es difícil. MediTrack que la privacidad es responsabilidad. Y19SmartFactory que la arquitectura es decisión."2021Kenji: "Y que viene después de aquí?"2223Tu: "No lo se todavía. Pero tengo la sensacion de que el siguiente24pasó es construir algo DESDE CERO. No llegar a una plataforma25existente y mejorarla -- sino diseñar una de la nada."
La reflexion del viernes -- cada empresa te enseñó algo diferente.
### Lo que SmartFactory te enseñó
- 01.DECIDIR bajo incertidumbre: no siempre tienes todos los datos. A veces tienes que elegir con información incompleta y aceptar el riesgo. Documentar POR QUÉ elegiste es más importante que elegir "bien".
- 02.COMUNICAR a nivel ejecutivo: un VP no quiere saber que Kafka tiene 24 particiones. Quiere saber cuánto cuesta, cuánto ahorra y cuándo está listo. Aprende a traducir entre técnico y negocio.
- 03.DEFENDER decisiones: cuando Fernando cuestiona tu elección, no es un ataque -- es una prueba de resistencia. Si no puedes defender tu decisión con datos, quizás no es la correcta.
- 04.PENSAR en 5 dimensiones: rendimiento, fiabilidad, complejidad, coste, evolución. Ninguna decisión se evalúa en una sola dimensión. Los trade-offs son inevitables.
- 05.IMPACTO en P&L: por primera vez, tus decisiones técnicas mueven directamente los números financieros de la empresa. 36.000 EUR/hora de coste de fallo. 700K EUR de riesgo mitigado. Eso es responsabilidad real.
- 06.DISEÑAR para otros: los mid-level DEs implementan TUS diseños. Si tu diseño no es claro, ellos fallan. Documenta, simplifica, explica.
### Tu progresion en números
- FreshMart (mes 0): subir un CSV a S3 con Pandas. 50 KB de datos.
- TaskFlow (mes 3): pipeline de eventos Kafka -> warehouse. 100K eventos/día.
- AdPulse (mes 9): reconciliación de 3 fuentes de ads. 50K registros/día.
- NeoBank (mes 18): pipeline near-real-time de fraude. 500K transacciones/día.
- FlashRoute (mes 30): streaming GPS con Spark. 200 eventos/segundo.
- MediTrack (mes 42): gobernanza GDPR en streaming. Datos de 500K pacientes.
- SmartFactory (mes 54): arquitectura IoT, 10M eventos/hora, decisiones de millones de EUR.
- StreamVibe (mes 60+): TODO DESDE CERO. Tu decides el stack, la arquitectura, la estrategia.
### Lo que te queda por aprender
SmartFactory te ha confirmado como senior. Puedes tomar decisiones arquitectónicas, presentar a ejecutivos y liderar un equipo técnico. Pero hay algo que no has hecho todavía: EMPEZAR DESDE CERO. En todas tus empresas anteriores llegaste a una plataforma existente -- mejor o peor, pero existente. Nunca has tenido que responder a la pregunta: "No tenemos nada. Qué construimos primero?"
Esa es exactamente la pregunta que te va a hacer el CEO de StreamVibe. "Eres nuestro primer data engineer. No tenemos data lake, no tenemos warehouse, no tenemos pipelines. Tenemos una base de datos PostgreSQL con las reproducciones y un MongoDB con el catálogo. Diseña TODO desde cero." Y ahí es donde se separan los seniors buenos de los excepcionales.
Reflexión final: la diferencia entre un senior que mejora sistemas existentes y un senior que crea sistemas nuevos es la capacidad de lidiar con la AMBIGUEDAD total. Cuando no hay referencia, no hay patrón establecido, no hay "así lo hacíamos antes". Cuando eres tú y una hoja en blanco. Ese es el último nivel antes de ser staff/principal engineer.
### Hacia StreamVibe -- el último caso
Tres meses después de empezar en SmartFactory, el roadmap va según lo previsto. Mes 3: la exportación BMW está automatizada, el modelo predictivo en producción tiene 92% de precisión (ligeramente menos que offline, pero dentro del target de Patricia). El circuit breaker ha aislado 7 sensores anómalos sin intervención humana. Fernando está satisfecho.
Un domingo por la tarde recibes un LinkedIn InMail de alguien que no conoces:
1De: Laura Mendez, CEO @ StreamVibe2Asunto: Primer Data Engineer -- Diseña todo desde cero34Hola,56Soy Laura, CEO de StreamVibe. Somos una startup de streaming de7video con 30 personas y estamos en fase de buscar product-market-fit.8Tenemos 50K usuarios activos y crecemos 20% mensual.910Nuestro problema: no tenemos NADA de datos. Literalmente. Los eventos11de reproduccion van a un PostgreSQL que el backend escribe y nadie lee.12No sabemos cuanto engagement tienen los usuarios, que contenido13funciona, ni cuales son nuestras métricas reales.1415Necesito un primer data engineer que:161. Defina la estrategia de datos de la empresa172. Diseñe la arquitectura desde cero183. Implemente el primer pipeline (eventos -> métricas)194. Monte el primer dashboard que yo pueda usar con inversores2021Tu perfil me parece perfecto: has visto retail, SaaS, fintech,22logística, salud e industria. Sabes diseñar sistemas. Y lo más23importante: sabes DECIDIR que construir primero cuando no hay nada.2425Te interesaria hablar?2627Laura
El proximo reto: no mejorar lo existente sino CREAR desde cero.
Te interesa. Has pasado 4.5 años mejorando sistemas existentes -- algunos buenos, otros malos, pero siempre había algo. StreamVibe es la oportunidad de aplicar TODO lo que has aprendido en un lienzo en blanco. De decir "si yo diseñara esto desde el principio, cómo sería?". Es el último escalón antes de ser un arquitecto de datos en toda regla.
Pero eso es otra historia. Por ahora, disfruta la cerveza con Kenji y el hecho de que esta semana has diseñado una arquitectura que procesa 10 millones de eventos por hora, previene paradas de producción que cuestan 36.000 EUR/hora, y asegura el rating de proveedor con BMW. No está mal para 5 días de trabajo.
StreamVibe (Caso 8) es el nivel MAXIMO. No se te da ningún código, ningún schema, ninguna arquitectura de referencia. El CEO te dice "necesitamos datos" y tú diseñas TODO: stack, arquitectura, prioridades, presupuesto, roadmap. Es la prueba definitiva de que eres un senior data engineer completo. Prepárate.
## ejercicios
Auditoria de habilidades: que sabes hacer
Haz un inventario honesto de tus habilidades después de 7 empresas. Para cada area, evalua tu nivel (1-5) y da un ejemplo concreto de donde lo aprendiste. Esto te prepara para StreamVibe donde necesitarás TODAS.
Tu framework personal de decisión arquitectonica
Basandote en las decisiones que tomaste está semana (MQTT vs Kepware, particionado, watermark, circuit breaker), formaliza tu framework personal de decisión. Este es el modelo mental que usaras en StreamVibe cuando tengas que elegir stack desde cero.
Regístrate para guardar tu progreso.
## comentarios
Reporta erratas, ayuda a otros o comparte tu opinión. Sé constructivo.
Inicia sesión para comentar y responder.
cargando comentarios...