Skip to content

Corso completo in Intelligenza Artificiale Generativa, a partire da zero

License

Notifications You must be signed in to change notification settings

DennisRemigio/Verso-GPT-e-oltre

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

40 Commits
 
 
 
 
 
 

Repository files navigation

Corso completo, in italiano, sulla creazione di modelli di intelligenza artificiale, inizialmente seguendo ed adattando il corso di Andrej Karpathy Neural Networks: Zero to Hero, e proseguendo con successivi capitoli sulla generazione di immagini, generazioni di audio ed altro. Il corso, inizialmente, prepara principalmente sulla creazione di modelli di intelligenza artificiale generativa di tipo LLM, tuttavia, come vedremo nelle lezioni più avanzate del corso, le competenze saranno facilmente trasferibili ad altri ambiti dell'intelligenza artificiale.

Lezioni preparate:

  1. Demistificare le reti neurali e la back propagation (sviluppo di Micrograd)
  2. Introduzione ai modelli di linguaggio: Bigram Language Model (sviluppo di Makemore, parte 1)
  3. Aumentiamo il contesto: N-Gram Language Model (sviluppo di Makemore, parte 2)
  4. Fragilità delle reti neurali: attivazione, gradienti e normalizzazione (sviluppo di Makemore, parte 3)

Lezioni in programma (da adattare):

  1. Building makemore Part 4: Becoming a Backprop Ninja
  2. Building makemore Part 5: Building a WaveNet
  3. Let's build GPT: from scratch, in code, spelled out.
  4. Let's build the GPT Tokenizer
  5. Let's reproduce GPT-2 (124M)

Il corso è in fase di sviluppo, seguiranno aggiornamenti.