Struttura del corso

Introduzione alle sfide Fine-Tuning

  • Panoramica del processo di messa a punto
  • Sfide comuni nella messa a punto di modelli di grandi dimensioni
  • Comprendere l'impatto della qualità dei dati e della pre-elaborazione

Affrontare gli squilibri dei dati

  • Identificazione e analisi degli squilibri dei dati
  • Tecniche per la gestione di set di dati sbilanciati
  • Utilizzo dell'aumento dei dati e dei dati sintetici

Gestione dell'overfitting e dell'underfitting

  • Capire l'overfitting e l'underfitting
  • Tecniche di regolarizzazione: L1, L2 e dropout
  • Regolazione della complessità del modello e della durata dell'addestramento

Miglioramento della convergenza dei modelli

  • Diagnosi dei problemi di convergenza
  • Scegliere il giusto tasso di apprendimento e ottimizzatore
  • Implementazione di programmi di apprendimento e riscaldamento

Debug Fine-Tuning Pipeline

  • Strumenti per il monitoraggio dei processi formativi
  • Registrazione e visualizzazione delle metriche del modello
  • Debug e risoluzione degli errori di runtime

Ottimizzazione dell'efficienza della formazione

  • Strategie di accumulo delle dimensioni dei lotti e dei gradienti
  • Utilizzo dell'allenamento di precisione misto
  • Training distribuito per modelli su larga scala

Casi di studio sulla risoluzione dei problemi nel mondo reale

  • Case study: Ottimizzazione per l'analisi del sentiment
  • Case study: Risoluzione dei problemi di convergenza nella classificazione delle immagini
  • Caso di studio: Affrontare l'overfitting nel riassunto del testo

Riepilogo e passaggi successivi

Requisiti

  • Esperienza con framework di deep learning come PyTorch o TensorFlow
  • Comprensione dei concetti di machine learning come formazione, convalida e valutazione
  • Familiarità con la messa a punto di modelli pre-addestrati

Pubblico

  • Scienziati dei dati
  • Ingegneri dell'intelligenza artificiale
 14 ore

Numero di Partecipanti


Prezzo per Partecipante

Corsi in Arrivo

Categorie relative