Notes

Sembra essere molto simile a Central Limit Theorem and Law of Large Numbers però per Entropy. This is also called Shannon’s source coding theorem see here Enunciato AEP $$ -\frac{1}{n} \log p(X_{1}, X_{2}, \dots, X_{n}) \to H(X) $$ in probability (la definizione data in Central Limit Theorem and Law of Large Numbers#Convergence in probability). Un modo alternativo per enunciarla è così, segue il metodo in (MacKay 2003). $$ \left\lvert \frac{1}{N} H_{\delta}(X^{N}) - H(x) \right\rvert \leq \varepsilon $$Ossia a grandi linee: dato una variabile aleatoria $X$ e $N$ estrazioni della stessa, possiamo comprimere questa sequenza in $NH(X)$. ...

8.1 Introduzione 8.1.1 Il problema che risolve Vogliamo cercare di creare un metodo matematico che sia utile per calcolare area di qualunque curva. L’idea principale per risolvere questo problema è approssimare l’area, lo facciamo utilizzando rettangoli, la formalizzazione sarà molto aiutata dal limite. 8.1.2 Sottografico di funzione $$ A = \{ (x,y) \in \mathbb{R}^2 | x \in D(f(x)), 0\leq y \leq f(x)\} $$Praticamente sto prendendo tutti in punti positivi sotto al grafico. ...

Introduzione Definizione grammatica regolare 🟩 Definizione In pratica posso avere solamente come terminali a, oppure un suffisso a su un non terminale. Queste grammatiche sono interessanti perché è molto facile costruire un automa che sia in grado di riconoscere questo linguaggio. Seguendo una definizione più lasca possono anche accettare dei nonterminali epsilon Espressione regolare a NFA 🟩 Questa sezione è anche presente in Automi e Regexp, però è riportata qui così c’è l’insieme di tutte le cose in un unico posto. ...

7.1 De Hopital 7.1.1 Lemmi preliminari Questo lemma preliminare era già presente per la prova del teorema degli zeri Questo lemma è molto interessante perché mette in relazione il finito (le successioni) con l’infinito (i reali) In molte dimostrazioni si dà per scontato questo lemma, ma è una sottigliezza importante che giustifica l’utilizzo di successioni per limiti reali. Ci permette di semplificare molto le dimostrazioni perché riusciamo a trattare le successioni molto meglio. ...

Ci chiediamo come facciamo a rendere sistemi informatici accessibili a persone attraverso certe tecnologie. Slide esempi di disabilità È meglio renderlo accessibile perché è illegale (nel senso che stai facendo una discriminazione verso un certo insieme di persone). WGAC Queste sono alcuni principi di accessibilità, basati su 4 principi fondamentali 4 principi del WGAC POUR per facilità di ricordarsi Perceivable (che ci siano le informazioni necessarie per l’accessibilità) Operable Understandable Robus Linguaggio Il tag del linguaggio è utilizzato per sapere in che accento leggere e dare gli ordini. ...

Ambienti di sviluppo Ambiente di sviluppo è diverso rispetto all’ambiente di deploy! bisognare fare delle differenze, sono dell macchine diverse, in questa sezione di documenti andiamo a parlare di norme e modi di lavorare per facilitare il metodo di sviluppo. Note di compatibilità Front-end Le compatibilità, soprattutto per cose browser (quindi front-end) cambiano molto spesso, come fare a trackare queste cose? C’è un sito molto carino come https://caniuse.com/ . La browser list, è utilizzata per specificare unt browser di target per la nostra applicazione, non ho capito bene cosa serve. ...

Cookies Gli utilizzi più soliti sono per Autenticazione e per Autorizzazione, perché sono delle informazioni che il server genera e mette al client, come se fossero dei segreti cifrati. Cookie Questi sono una estensione di netscape, che si appoggiano al protocollo HTTP per implementare certe funzionalità (soprattutto il fatto di essere stateless, quindi è utile per avere informazioni sugli stati su qualcosa.) Slide cookie Vengon utilizzati header specifici per settare il cookie. ...

Javascript Obiettivo principale è esegurie codice clientside Un pò di storia nato all’inizio della prima guerra dei browser (da netscape, explorer è in visual basic comunque non compatibile con JS) come il fratellino di java nel senso che runnava ovunque, attualmente è ECMAScript, ed è la versione migliore. (era pensato per fare microscript!) ECMAScript quando è nato è il nucleo a tutte le implementazioni JS eseistenti fino a quel momento (che è stato molto caotico!) ...

Queste note sono molto di base. Per cose leggermente più avanzate bisogna guardare Bayesian Linear Regression, Linear Regression methods. Introduzione alla logistic regression Giustificazione del metodo Questo è uno dei modelli classici, creati da Minsky qualche decennio fa In questo caso andiamo direttamente a computare il valore di $P(Y|X)$ durante l’inferenza, quindi si parla di modello discriminativo. Introduzione al problema Supponiamo che $Y$ siano variabili booleane $X_{i}$ siano variabili continue $X_{i}$ siano indipendenti uno dall’altro. $P(X_{i}| Y= k)$ sono modellate tramite distribuzioni gaussiane $\mathbb{N}(\mu_{ik}, \sigma_{i})$ NOTA! la varianza non dipende dalle feature!, questo mi permetterebbe di poi togliere la cosa quadratico dopo, rendendo poi l’approssimazione lineare Per esempio se utilizziamo nelle immagini, avrebbe senso normalizzare pixel by pixel, e non image wide con un unico valore, è una assunzione, che se funziona dovrebbe poi far andare meglio la regressione logistica! $Y$ è una distribuzione bernoulliana. Ci chiediamo come è fatto $P(Y|X)$? ...

This note will mainly attempt to summarize the introduction of some intuitive notions of probability used in common sense human reasoning. Most of what is said here is available here (Jaynes 2003). Three intuitive notions of probability Jaynes presents some forms of inference that are not possible in classical first order or propositional logic, yet they are frequent in human common sense reasoning. Let’s present some rules and some examples along them: ...