Struttura del corso
Introduzione
Comprensione Big Data
Panoramica di Spark
Panoramica di Python
Panoramica di PySpark
- Distribuzione dei dati tramite un framework di set di dati distribuiti resilienti
- Distribuzione del calcolo tramite gli operatori API Spark
Configurazione di Python con Spark
Impostazione PySpark
Utilizzo di Amazon Web Services (AWS) istanze EC2 per Spark
Impostazione Databricks
Configurazione del cluster AWS EMR
Imparare le basi di Python Programming
- Guida introduttiva Python
- Utilizzo di Jupyter Notebook
- Utilizzo di variabili e tipi di dati semplici
- Lavorare con gli elenchi
- Utilizzo delle istruzioni if
- Utilizzo degli input dell'utente
- Operazioni con i cicli while
- Implementazione delle funzioni
- Utilizzo delle classi
- Utilizzo di file ed eccezioni
- Utilizzo di progetti, dati e API
Apprendimento delle basi di Spark DataFrame
- Introduzione ai dataframe Spark
- Implementazione delle operazioni di base con Spark
- Utilizzo di operazioni di raggruppamento e aggregazione
- Utilizzo di timestamp e date
Utilizzo di un esercizio di progetto Spark DataFrame
Comprensione Machine Learning con MLlib
Utilizzo di MLlib, Spark e Python per Machine Learning
Informazioni sulle regressioni
- Apprendimento della teoria della regressione lineare
- Implementazione di un codice di valutazione della regressione
- Lavorare su un esempio di esercizio di regressione lineare
- Apprendimento della teoria della regressione logistica
- Implementazione di un codice di regressione logistica
- Utilizzo di un esempio di esercizio di regressione logistica
Comprendere gli Random Forest e gli alberi decisionali
- Teoria dei metodi dell'albero di apprendimento
- Implementazione degli alberi decisionali e dei codici Random Forest
- Lavorare su un campione Random Forest Esercizio di classificazione
Utilizzo del clustering K-means
- Comprendere la teoria del clustering K-means
- Implementazione di un codice di clustering K-means
- Utilizzo di un esercizio di clustering di esempio
Utilizzo dei sistemi di raccomandazione
Implementazione dell'elaborazione del linguaggio naturale
- Comprensione Natural Language Processing (NLP)
- Panoramica degli strumenti di NLP
- Lavorare su un esempio di esercizio di PNL
Streaming con Spark attivo Python
- Panoramica Streaming con Spark
- Esempio Spark Streaming Esercizio
Osservazioni conclusive
Requisiti
- Competenze generali di programmazione
Pubblico
- Gli sviluppatori
- Professionisti IT
- Scienziati dei dati
Recensioni (6)
I liked that it was practical. Loved to apply the theoretical knowledge with practical examples.
Aurelia-Adriana - Allianz Services Romania
Corso - Python and Spark for Big Data (PySpark)
The course was about a series of very complex related topics & Pablo has in-depth expertise of each of them. Sometimes nuances were lost in communication and/or due to time pressures and possibly expectations were not quite met due to this. Also there were some UHG/Azure Databricks setup issues however Pablo / UHG resolved these quickly once they became apparent - this to me showed a high level of understanding and professionalism between UHG & Pablo,
Michael Monks - Tech NorthWest Skillnet
Corso - Python and Spark for Big Data (PySpark)
Individual attention.
ARCHANA ANILKUMAR - PPL
Corso - Python and Spark for Big Data (PySpark)
Hands on Training..
Abraham Thomas - PPL
Corso - Python and Spark for Big Data (PySpark)
The lessons were taught in a Jupyter notebook. The topics were structured with a logical sequence and naturally helped develop the session from the easier parts to the more complex. I'm already an advanced user of Python with background in Machine Learning, so found the course easier to follow than, possibly, some of my classmates that took the training course. I appreciate that some of the most elementary concepts were skipped and that he focused on the most substantial matters.
Angela DeLaMora - ADT, LLC
Corso - Python and Spark for Big Data (PySpark)
practice tasks