Fatou's Lemma

Fatou’s lemma is a fundamental result in measure theory that deals with the relationship between limits and integrals of sequences of non-negative measurable functions. See the wikipedia page for further info. Statement of Fatou’s Lemma Let $(f_n)$ be a sequence of non-negative measurable functions on a measure space $(X,\mu)$. Then: $$\int \liminf_{n \to \infty} f_n \,d\mu \leq \liminf_{n \to \infty} \int f_n \,d\mu$$In words, this means that the integral of the limit inferior of a sequence of functions is less than or equal to the limit inferior of their integrals. ...

4 min · Xuanqiang 'Angelo' Huang

Limiti

Riguardare Successioni per avere primo attacco sui limiti 4.1 Limiti finiti al finito 4.1.1 Intorno sferico Dato l’insieme $\mathbb{R}$ si definisce l’intorno sferico aperto di $x \in \mathbb{R}$ di raggio $r \in \mathbb{R}$ l’insieme $I_r(x) = (x -r, x + r)$ questa nozione è molto importante per definire il limite. Lo useremo subito su un punto di accumulazione 4.1.2 Punto di accumulazione Un punto di accumulazione $x$ di un insieme $A \subseteq \mathbb{R}$ è un punto tale per cui mi posso avvicinare in modo indefinito in quel punto. Infatti deve $\forall r > 0 \in R, \exists x_ 1 \in A : x_1 \in I_r(x) \wedge x_1 \not= x$ ossia per cui $A \cap I_r(x) \not= \varnothing$. ...

12 min · Xuanqiang 'Angelo' Huang

Serie

Questo è un tentativo di aggiungere un argomento che non era presente quando abbiamo fatto il corso due anni fa. Inizio la scrittura il 2024-03-03. Questo non è stato trattano nel corso, ma è importante per molte cose. Quindi introduco questo appunto. Introduzione alle serie Le serie infinite sono dei mostri strani perché non si comportano spesso come dovrebbero. Definizione di convergenza $$ \lim_{ n \to \infty } f_{n} = c $$ con $c$ un numero reale. ...

5 min · Xuanqiang 'Angelo' Huang

Spazi vettoriali

Spazi vettoriali 1.1 Piano cartesiano 1.1.1 Definizione Possiamo considerare il piano cartesiano come l’insieme $\R^2$ potremmo dire che esiste una corrispondenza fra una coordinata e un punto del piano, una volta che abbiamo definito un punto di origine. Si può vedere anche come corrispondenza biunivoca con vettori del piano per l’origine (parte dall’origine). Questa cosa vale anche per uno spazio n-dimensionale, non soltanto due, ma per semplicità di introduzione di questo lo faccio con 2 ...

7 min · Xuanqiang 'Angelo' Huang

Convolutional NN

Introduction to convolutional NN The convolution operator 🟩- Il prodotto di convoluzione è matematicamente molto contorto, anche se nella pratica è una cosa molto molto semplice. In pratica voglio calcolare il valore di un pixel in funzione di certi suoi vicini, moltiplicati per un filter che in pratica è una matrice di pesi, che definisce un pattern lineare a cui sarei interessato di cercare nell’immagine. Slides ed esempi (molto più chiaril) ...

6 min · Xuanqiang 'Angelo' Huang

Derivate

Geometria introduttiva Tangente e pendenza Si può trovare la relazione fra la pendenza della retta e la tangente. Possiamo analizzare la retta dal punto di vista analitico, della formula e si può dimostrare che data una retta nella forma $y = mx + q$ $m$ è la pendenza della retta. Formula generale delle rette Dati qualunque due punti .$(x_1, y_1), (x_2, y_2)$ possiamo dire che la pendenza è esprimibile come ...

4 min · Xuanqiang 'Angelo' Huang

Maximum Entropy Principle

The maximum entropy principle is one of the most important guiding motives in artificial artificial intelligence. Its roots emerge from a long tradition of probabilistic inference that goes back to Laplace and Occam’s Razor, i.e. the principle of parsimony. Let’s start with a simple example taken from Andreas Kraus’s Lecture notes in the ETH course of Probabilistic Artificial Intelligence: Consider a criminal trial with three suspects, A, B, and C. The collected evidence shows that suspect C can not have committed the crime, however it does not yield any information about sus- pects A and B. Clearly, any distribution respecting the data must assign zero probability of having committed the crime to suspect C. However, any distribution interpolating between (1, 0, 0) and (0, 1, 0) respects the data. The principle of indifference suggests that the desired distribution is $(\frac{1}{2}, \frac{1}{2}, 0)$, and indeed, any alterna- tive distribution seems unreasonable. ...

2 min · Xuanqiang 'Angelo' Huang

Multi Variable Derivatives

Multi-variable derivative To the people that are not used to matrix derivatives (like me) it could be useful to see how $$ \frac{ \partial u^{T}Su }{ \partial u } = 2Su $$ First, we note that if you derive with respect to some matrix, the output will be of the same dimension of that matrix. That notation is just deriving every single component independently and then joining them together, so it will be better understood as as $$ \frac{ \partial u^{T}Su }{ \partial u } = \begin{bmatrix} \frac{ \partial u^{T}Su }{ \partial u_{1} } \ \dots \ \frac{ \partial u^{T}Su }{ \partial u_{M} } \ \end{bmatrix} $$ So we can prove each derivative independently, it's just a lot of manual work! We see that $u^{T}Su$ is just a quadratic form, studied in Massimi minimi multi-variabile#Forme quadratiche so it is just computing this: $$ u^{T}Su = \sum_{i, j = 1, 1}^{M} u_{i}u_{j}S_{ij} \implies \frac{ \partial u^{T}Su }{ \partial u_{1} } =2u_{1}S_{11} + \sum_{j \neq 1}^{M}(u_{j}S_{1j} + u_{j}S_{j1}) = 2\left( u_{1}S_{11} + \sum_{j \neq 1}u_{j}S_{1j} \right) = 2(Su)_{1} $$ Last equation is true because $S$ is a symmetric matrix, then we easily see that indeed it’s true that indeed it’s the first row of the $Su$ matrix multiplied by 2. ...

5 min · Xuanqiang 'Angelo' Huang

Optimal Minimax Facility Location

In this note we will briefly present one problem common in operation research. The practical needs that formulated this problem are quite obvious: choosing the best location to build some important services for communities. The optimal minimax facility location refers to the placement of a facility (such as a warehouse, hospital, or service center) in such a way that the maximum distance or cost between the facility and any of the demand points (such as customers, patients, or users) is minimized. This approach is particularly useful when the goal is to ensure that no demand point is too far from the facility, thus providing a form of equity in service delivery. ...

3 min · Xuanqiang 'Angelo' Huang

Structured Query Language

Little bits of history It was invented in 1970 in Almaden (San Jose) by IBM (Don Chamberlin, Raymond Boyce worked on this) for the first relational database, called system R. Then for copyright issues it hasn’t been called SEQUEL, so they branded it as SQL. SQL is a declarative language With declaratives language there is a separation between what I call the intentionality and the actual process. In declarative languages we just say what we want the result to be, and don’t care what the actual implementation is like. This allows queries to be executed and optimized in different ways, even if the query on the surface is the same ...

7 min · Xuanqiang 'Angelo' Huang