Lempel-Ziv-Welch Algorithm # Introduzione sul funzionamento # Primo scan con un dizionario indexato dei singoli caratteri Poi viene cercato di raggruppare caratteri a coppie. Se una coppia è già presente nel dizionario, allora aggiungo al dizionario una cosa più lunga e metto un…
I processi di Poisson sono dei processi stocastici , interpretabili come collezione indicizzata dal tempo di variabili aleatorie. Esempi semplici sono una uniforme, altri più complessi potrebbe essere una catena di Markov (see Markov Chains ) (utile per modellare cammini…
Scalare # Scalare e gradiente # Un campo scalare assegna a ogni punto dello spazio un valore reale , quindi è naturalmente rappresentabile tramite una funzione φ ( x , y , z ) : R 3 → R Un esempio abbastanza naturale è il gradiente del valore scalare che si indica con ∇ φ = ( δ…
Processo design del database # Il design # Some design steps (3) (non impo) # How to gather requirements? # Come si può raccogliere i dati degli utilizzatori? parlare col il personale che dovrà utilizzare questi sistemi Documentazione esistente Interview di persone che dovrà…
(Schulman et al. 2017) è uno degli articoli principali che praticamente hanno dato via al campo. Anche questo è buono per Policy gradients: https://lilianweng.github.io/posts/2018-04-08-policy-gradient/ See RL Function Approximation , this document is deprecated. References #…
https://huyenchip.com/2023/05/02/rlhf.html è un blog post che lo descrive in modo abbastanza dettagliato e buono. Introduzione a RLHF # Questo è il processo che è quasi la migliore per la produzione di LLM moderni (maggior parte si basano su questo per dire). Struttura generale…
Introduzione # Intuizione del campo elettrostatico # Elettrostatico vs elettrodinamico # Andiamo a chiamare elettrostatico perché nel nostro caso non si sta muovendo nessuna carica all'itnerno di questo campo. Proprietà del campo elettrostatico (5) # Le linee di forza in ogni…
Campo elettrico nei materiali # Se prendiamo un conduttore , gli elettroni in questi materiali sono liberi, significa che sono liberi di muoversi come vogliono, si può dire che "vadano in giro" (per esempio questo vale per il rame). il reticolo cristallino è al struttura…
Introduction to tokenization # Tokenization is the process of converting normal strings into small little pieces that could be fed into one of our models. It usually comes from a tradition in programming languages, as we can see in Automi e Regexp where we define a specific…
Introduzione al design logico # Conoscenze sul carico dell'applicazione, ossia se ha più read rispetto a writes per esempio, sono dei priors in pratica Un design concettuale spiegato in precedenza. E si avrà in output un design logico con anche un po' di documentazione. bisogna…