Autovalori e Autovettori

Ha senso solamente parlare di autovettori quando si ha una applicazione lineare con stesso dominio e stesso codominio. Vorremmo trovare una buona matrice che sia diagonale. 6.1 Diagonalizzabilità 6.1.1 Definizione per funzione e matrice Questo perché vorrei una base in cui si abbia un matrice diagonale. (quindi probabilmente P è una matrice identità). ...

7 min · Xuanqiang 'Angelo' Huang

Backpropagation

Backpropagation is perhaps the most important algorithm of the 21st century. It is used everywhere in machine learning and is also connected to computing marginal distributions. This is why all machine learning scientists and data scientists should understand this algorithm very well. An important observation is that this algorithm is linear: the time complexity is the same as the forward pass. Derivatives are unexpectedly cheap to calculate. This took a lot of time to discover. See colah’s blog. Karpathy has a nice resource for this topic too! ...

7 min · Xuanqiang 'Angelo' Huang

Bag of words

Bag of words only takes into account the count of the words inside a document, ignoring all the syntax and boundaries. This method is very common for email classifications techniques. We can say bag of words can be some sort of pooling, it’s similar to the computer vision analogue. It’s difficult to say what is the best method (also a reason why people say NLP is difficult to teach). Introduction to bag of words Faremo una introduzione di applicazione di Naïve Bayes applicato alla classificazione di documenti. ...

2 min · Xuanqiang 'Angelo' Huang

Banach Spaces

What are Banach Spaces? A Banach space is a complete normed vector space, meaning that every Cauchy sequence in the space converges to a limit within the space. See Spazi vettoriali for the formal definition. Examples of Banach Spaces In this section, we list some examples of the most common Banach Spaces $\ell^p$ Spaces (Sequence Spaces) Defined as: $$ \ell^p = \left\{ (x_n)_{n\in \mathbb{N}} \mid \sum_{n=1}^{\infty} |x_n|^p < \infty \right\}, \quad 1 \leq p < \infty $$ The norm is given by: $$ \|x\|_p = \left( \sum_{n=1}^{\infty} |x_n|^p \right)^{1/p} $$ When $p = \infty$, we define: $$ \ell^\infty = \left\{ (x_n)_{n\in \mathbb{N}} \mid \sup_n |x_n| < \infty \right\} $$ with the norm $\|x\|_{\infty} = \sup_n |x_n|$. These spaces are Banach under their respective norms. $L^p$ Spaces (Function Spaces) ...

2 min · Xuanqiang 'Angelo' Huang

Base e dimensione

2.1 Basi 2.1.1 Definizione Un insieme di vettori $v_1,...,v_n$ sono basi di uno spazio vettoriale $V$ se sono soddisfatte queste proprietà $V = \langle v_1,...,v_n\rangle$ $v_1,...,v_n$ sono linearmente indipendenti Dalla proprietà 2 potremmo anche dire che è il minimo insieme di vettori necessario per avere questa base. Finitamente generato Se l’insieme dei vettori nella base è finito allora posso dire che è finitamente generato Ma possiamo trovare anche spazi che non sono finitamente generati come $\R[x]$ che non hanno un numero finito di basi (perché dipende dal grado dei polinomi che può essere infinito). ...

6 min · Xuanqiang 'Angelo' Huang