Notes

$$ x! \approx x^{x}e^{-x}\sqrt{ 2\pi x } \iff \ln x! \approx x\ln x - x + \frac{1}{2} \ln(2\pi x) $$This proof (more like an interesting justification). is taken from page 2 of (MacKay 2003). $$ P(r \mid \lambda) = \frac{e^{-\lambda}\lambda^{r}}{r!} $$$$ e^{-\lambda} \frac{\lambda^{\lambda}}{\lambda!} \approx \frac{1}{\sqrt{ 2\pi \lambda }} \implies \lambda! \approx \lambda^{\lambda}e^{-\lambda}\sqrt{ 2\pi \lambda } $$ Which finishes the derivation of the approximation. Approximation of the binomial A quick derivation with the Stirling’s approximation gives a nice approximation for log of the binomials ...

Def: Massimo minimo relativo (locale) $$ \exists r > 0 : f(x) \leq f(x_{0}), \, \forall x \in \mathcal{A} \cap I_{r}(x_{0}) $$ Dove $I_{r}(x_{0}) = \left[ x_{0} -r, x_{0} + r \right]$, è un intorno Def: Massimo minimo assoluto $$ f(x) \leq f(x_{0}), \, \forall x \in \mathcal{A} $$Fermat 6.2.1 Ipotesi Sia data una funzione $f: \left[ a, b \right] \to \mathbb{R}$ Se abbiamo che $x_{0} \in \left( a, b \right)$ è un punto di massimo o minimo relativo $f$ è derivabile in $x_{0}$ Implica che $f'(x_{0}) = 0$ ...

L’ottimizzazione combinatoria è un altro nome per la ricerca operativa. È uno strumento utile a prendere le decisioni migliori, fatto sta che è anche molto utile al machine learning e si potrebbe dire che ne sia una base, questa è una cosa molto buona. Ricerca operativa Questo è un campo a forte impatto economico perché prova a minimizzare i costi e massimizzare i profitti. Steps 🟩, 🟨 Individuazione del problema (almeno riconoscere che ci sia un problema) Raccoglimento dei dati Modellizzazione del problema Ricerca di una soluzione Analisi dei risultati della soluzione La ricerca operativa si interessa principalmente degli step 3 e 4, nonostante gli steps non sempre vengono eseguiti in maniera lineare, ma c’è un ciclo di feedback a riguardo. ...

Programmazione lineare Programmazione lineare contiene alcuni algoritmi utili per risolvere certi problemi di ottimizzazione. Introduzione Andiamo in questa sezione a definire un problema di programmazione lineare Definizione 🟩- Variabili reali che saranno le variabili del nostro problema, sono in numero finito (eg. tutti in Rn) Funzione obiettivo che ci definisce il costo $f: \R^n \to \R$ Vincoli lineari che limitano il dominio delle variabili reali e li mettono in relazione fra di loro Se le variabili appartengono agli interi andiamo a parlare di programmazione lineare intera. ...

Algoritmo del simplesso Ricerca della direzione migliore Ricerca dello step Pseudocodice Slide B sono gli indici di partenza, poi questi vengono aggiornati In riga 5 vado a checkare se ho direzioni di crescita possibili, se è tutto positivo non ne ho. in riga 6, si sceglie il più piccol per evitare loop. L’idea in generale va in questo modo Cerco di trovare il duale e confrontarlo con la x attuale Se sono uguali, allora ho trovato l’ottimo ed esco Altrimenti cerco una direzione di crescita che sia anche ammissibile Continuo fino a trovare un vertice, se ho il vertice allora mi muovo lì e riapplico, altrimenti è illimitata, se non esiste un vertice. Correttezza Slide ...

This documents attempts to briefly present the algorithm and some experiments found online about it. The following repo seems to be a good resource: here. Usually, PPO is explained as an actor critic framework. This means there is an agent that acts on the environment, and then there is a critic that collects the feedback from the environment. The main idea about this framework is to select a policy that is similar, so that it is less probable that a bad policy, a very different policy from the original is selected. This is achieved by clipping over the advantage. And then ...

Spire Spira quadrata Questo è descritto nell’esempio 8.1 del Mazzoldi. È stato descritto anche in un esercizio in classe (non è importante). Spira circolare 🟩 Vedere pagina 245 Vogliamo cercare il valore del campo sull’asse della spira circolare. Questo è semplice, basta usare la prima di Laplace e trovare l’apporto del campo magnetico al centro. Si può anche pensare come momento magnetico, allora si utilizza sempre lo stesso discorso per la spira quadrata classica e il suo momento. ...

Algebra modulare Assunzioni Andiamo ora ad assumere l’esistenza e correttezza di alcune cose di base. (in teoria si possono dimostrare da cose più di base, ma non ho tempo). Teorema fondamentale dell’algebra Ogni numero intero si fattorizza in modo unico. Algoritmo di Euclide La conseguenza più importante di questo teorema, dovuto ad Euclide è che se ho $a, b \in \mathbb{Z}$ allora esistono resto e dividendo fra i due. Ossia $\exists q, p : a\mid b = qk + p$ per qualche $k$ intero ...

3.1 Introduzione e definizione Si definisce applicazione lineare una funzione (omomorfica) che preserva la struttura dello spazio vettoriale, ossia vale che $$ f:V \to W, \text{ tale che } \\ f(u + v) = f(u) +f(v)\\, f(\lambda v) = \lambda f(v) $$ Vengono mantenute alcune caratteristiche principali. In modo simile si possono definire omomorfismi per tutte le altre strutture algebriche, la cosa importante è che lo spazio d’arrivo possieda ancora tutte le stesse operazioni. ...

2.1 Basi 2.1.1 Definizione Un insieme di vettori $v_1,...,v_n$ sono basi di uno spazio vettoriale $V$ se sono soddisfatte queste proprietà $V = \langle v_1,...,v_n\rangle$ $v_1,...,v_n$ sono linearmente indipendenti Dalla proprietà 2 potremmo anche dire che è il minimo insieme di vettori necessario per avere questa base. Finitamente generato Se l’insieme dei vettori nella base è finito allora posso dire che è finitamente generato Ma possiamo trovare anche spazi che non sono finitamente generati come $\R[x]$ che non hanno un numero finito di basi (perché dipende dal grado dei polinomi che può essere infinito). ...