Curso de Creación de aplicaciones de procesamiento de flujo con Kafka Streams
Kafka Streams es una biblioteca del lado del cliente para crear aplicaciones y microservicios cuyos datos se pasan hacia y desde un sistema de mensajería de Kafka. Tradicionalmente, Apache Kafka se ha basado en Apache Spark o Apache Storm para procesar datos entre los productores de mensajes y los consumidores. Al llamar a la API de Kafka Streams desde una aplicación, los datos se pueden procesar directamente dentro de Kafka, evitando la necesidad de enviar los datos a un clúster independiente para su procesamiento.
En esta capacitación en vivo dirigida por un instructor, los participantes aprenderán cómo integrar Kafka Streams en un conjunto de aplicaciones de muestra Java que pasan datos hacia y desde Apache Kafka para el procesamiento de flujos.
Al final de esta formación, los participantes serán capaces de:
- Comprender las características y ventajas de Kafka Streams sobre otros marcos de procesamiento de flujos
- Procesar datos de flujo directamente dentro de un clúster de Kafka
- Escribir una aplicación o microservicio Java o Scala que se integre con Kafka y Kafka Streams
- Escribir código conciso que transforme temas de entrada de Kafka en temas de salida de Kafka
- Construir, empaquetar y desplegar la aplicación
Audiencia
- Desarrolladores
Formato del curso
- Parte teórica, parte discusión, ejercicios y práctica intensiva
Notas
- Para solicitar una formación personalizada para este curso, por favor contáctenos para coordinar
Programa del Curso
Introducción
- Kafka vs Spark, Flink y Storm
Descripción general de las características de Kafka Streams
- Procesamiento con estado y sin estado, procesamiento basado en tiempo de evento, DSL, operaciones de ventanas basadas en tiempo de evento, etc.
Caso de estudio: API de Kafka Streams para la elaboración de presupuestos predictivos
Configuración del entorno de desarrollo
Creación de una aplicación de secuencias
Iniciando el Cluster de Kafka
Preparación de los temas y los datos de entrada
Opciones para el procesamiento de datos de flujo
- DSL de alto nivel de Kafka Streams
- Nivel inferior del Procesador
Transformación de los datos de entrada
Inspección de los datos de salida
Detener el cúmulo de Kafka
Opciones para implementar la aplicación
- Herramientas clásicas de operaciones (Puppet, Chef y Salt)
- Docker
- Archivo WAR
Solución de problemas
Resumen y conclusión
Requerimientos
- Un entendimiento de Apache Kafka
- Experiencia en programación de Java
Los cursos de formación abiertos requieren más de 5 participantes.
Curso de Creación de aplicaciones de procesamiento de flujo con Kafka Streams - Booking
Curso de Creación de aplicaciones de procesamiento de flujo con Kafka Streams - Enquiry
Creación de aplicaciones de procesamiento de flujo con Kafka Streams - Consultas
Consultas
Testimonios (2)
Las explicaciones eran muy buenas, si bien algunas preguntas pudieron ahorrarse si se hubieran tocado esos puntos al inicio de los temas se notó un buen dominio y experiencia en el tema.
Alan Jaime Rodriguez Garcia - BANCO DE MEXICO
Curso - Stream Processing with Kafka Streams
Recordatorio/revisión de puntos clave de los temas discutidos.
Paolo Angelo Gaton - SMS Global Technologies Inc.
Curso - Building Stream Processing Applications with Kafka Streams
Traducción Automática
Próximos cursos
Cursos Relacionados
Apache Kafka Connect
7 HorasEsta capacitación en vivo dirigida por un instructor en Guatemala (en línea o en el sitio) está dirigida a desarrolladores que desean integrarse Apache Kafka con bases de datos y aplicaciones existentes para procesamiento, análisis, etc.
Al final de esta formación, los participantes serán capaces de:
- Utilizar Kafka Connect para ingregar grandes cantidades de datos desde una base de datos a temas de Kafka.
- Ingregar datos de registro generados por servidores de aplicaciones en temas de Kafka.
- Make cualquier dato recopilado disponible para el procesamiento de streams.
- Exportar datos desde temas de Kafka a sistemas secundarios para almacenamiento y análisis.
Unified Batch and Stream Processing with Apache Beam
14 HorasApache Beam es un modelo de programación unificado de código abierto para definir y ejecutar tuberías de procesamiento de datos paralelas. Su poder radica en su capacidad para ejecutar canalizaciones por lotes y de transmisión, y la ejecución la lleva a cabo uno de los back-ends de procesamiento distribuido compatibles con Beam: Apache Apex, Apache Flink, Apache Spark y Google Cloud Dataflow. Apache Beam es útil para tareas ETL (Extracción, Transformación y Carga), como mover datos entre diferentes medios de almacenamiento y fuentes de datos, transformar datos a un formato más deseable y cargar datos en un nuevo sistema.
En esta capacitación en vivo dirigida por un instructor (presencial o remota), los participantes aprenderán a implementar los SDK Apache Beam en una aplicación Java o Python que define una canalización de procesamiento de datos para descomponer un conjunto de datos grandes en fragmentos más pequeños para un procesamiento paralelo e independiente.
Al final de esta formación, los participantes serán capaces de:
- Instalar y configurar Apache Beam.
- Utilice un único modelo de programación para llevar a cabo el procesamiento por lotes y por secuencias desde su aplicación Java o Python.
- Ejecute canalizaciones en múltiples entornos.
Formato del curso
- En parte conferencia, en parte discusión, ejercicios y práctica práctica pesada
Nota
- Este curso estará disponible Scala en el futuro. Póngase en contacto con nosotros para organizarlo.
Building Kafka Solutions with Confluent
14 Horaseste entrenamiento en vivo (in situ o remoto) dirigido por un instructor está dirigido a ingenieros que deseen utilizar Confluent (una distribución de Kafka) para construir y administrar una plataforma de procesamiento de datos en tiempo real para sus aplicaciones.
al final de esta formación, los participantes podrán:
- Instalar y configurar Confluent Platform.
- Utilizar las herramientas y servicios de administración de Confluent para ejecutar Kafka de manera más sencilla.
- Almacenar y procesar datos de flujo entrantes.
- Optimizar y gestionar clústeres de Kafka.
- Seguridad de los flujos de datos.
Format del curso
- Conferencia interactiva y discusión.
- Numerosos ejercicios y práctica.
- Implementación práctica en un entorno de laboratorio en vivo.
Course
- Este curso se basa en la versión open source de Confluent: Confluent Open Source.
- Para solicitar una formación personalizada para este curso, por favor contáctenos para coordinar.
Flink para Flujo Escalable y Procesamiento de Datos por Lotes
28 HorasEsta capacitación en vivo dirigida por un instructor en Guatemala (en línea o presencial) presenta los principios y enfoques detrás del procesamiento de datos de flujo distribuido y por lotes, y guía a los participantes a través de la creación de una aplicación de transmisión de datos en tiempo real en Apache Flink.
Al final de esta formación, los participantes serán capaces de:
- Configure un entorno para desarrollar aplicaciones de análisis de datos.
- Comprender cómo funciona la biblioteca de procesamiento de gráficos (Gelly) de Apache Flink.
- Empaquete, ejecute y supervise aplicaciones de transmisión de datos tolerantes a errores y basadas en Flink.
- Administre diversas cargas de trabajo.
- Realizar analíticas avanzadas.
- Configure un clúster de Flink de varios nodos.
- Mida y optimice el rendimiento.
- Integre Flink con diferentes Big Data sistemas.
- Compare las capacidades de Flink con las de otros marcos de procesamiento de big data.
Una introducción práctica al procesamiento de flujo
21 HorasEn esta capacitación en vivo dirigida por un instructor en Guatemala (presencial o remoto), los participantes aprenderán cómo configurar e integrar diferentes marcos Stream Processing con los sistemas de almacenamiento de big data existentes y las aplicaciones de software y microservicios relacionados.
Al final de esta formación, los participantes serán capaces de:
- Instale y configure diferentes marcos Stream Processing, como Spark Streaming y Kafka Streaming.
- Comprender y seleccionar el marco más adecuado para el trabajo.
- Procesamiento de datos de forma continua, simultánea y registro por registro.
- Integre Stream Processing soluciones con bases de datos, almacenes de datos, lagos de datos, etc. existentes.
- Integre la biblioteca de procesamiento de flujos más adecuada con aplicaciones empresariales y microservicios.
Apache Kafka for Python Programmers
7 HorasEsta capacitación en vivo dirigida por un instructor en Guatemala (en línea o presencial) está dirigida a ingenieros de datos, científicos de datos y programadores que deseen utilizar las funciones Apache Kafka en la transmisión de datos con Python.
Al final de esta capacitación, los participantes podrán usar Apache Kafka para monitorear y administrar condiciones en flujos de datos continuos utilizando Python programación.
Confluent KSQL
7 HorasEsta capacitación en vivo dirigida por un instructor en Guatemala (en línea o presencial) está dirigida a desarrolladores que desean implementar Apache Kafka el procesamiento de flujos sin escribir código.
Al final de esta formación, los participantes serán capaces de:
- Instale y configure Confluent KSQL.
- Configure una canalización de procesamiento de secuencias utilizando solo los comandos SQL (sin codificación Java o Python).
- Lleve a cabo el filtrado de datos, las transformaciones, las agregaciones, las uniones, las ventanas y la sessionización íntegramente en SQL.
- Diseñe e implemente consultas interactivas y continuas para la transmisión de ETL y análisis en tiempo real.
Apache NiFi para administradores
21 HorasEn esta capacitación en vivo dirigida por un instructor en Guatemala (presencial o remoto), los participantes aprenderán cómo implementar y administrar Apache NiFi en un entorno de laboratorio en vivo.
Al final de esta formación, los participantes serán capaces de:
- Instala y configura Apachi NiFi.
- Obtenga, transforme y administre datos de fuentes de datos dispares y distribuidas, incluidas bases de datos y lagos de big data.
- Automatice los flujos de datos.
- Habilite el análisis de transmisión.
- Aplique varios enfoques para la ingesta de datos.
- Transforme Big Data y conviértase en información empresarial.
Apache NiFi para desarrolladores
7 HorasEn esta capacitación en vivo dirigida por un instructor en Guatemala, los participantes aprenderán los fundamentos de la programación basada en flujo a medida que desarrollan una serie de extensiones, componentes y procesadores de demostración utilizando Apache NiFi.
Al final de esta formación, los participantes serán capaces de:
- Comprenda la arquitectura de NiFi y los conceptos de flujo de datos.
- Desarrolle extensiones utilizando NiFi y API de terceros.
- Desarrollar a medida su propio procesador Apache Nifi.
- Ingiera y procese datos en tiempo real de formatos de archivo y fuentes de datos dispares y poco comunes.
Spark Streaming with Python and Kafka
7 HorasEsta capacitación en vivo dirigida por un instructor en Guatemala (en línea o en el sitio) está dirigida a ingenieros de datos, científicos de datos y programadores que deseen utilizar Spark Streaming funciones en el procesamiento y análisis de datos en tiempo real.
Al final de esta capacitación, los participantes podrán usar Spark Streaming para procesar flujos de datos en vivo para su uso en bases de datos, sistemas de archivos y paneles de control en vivo.