Apuntes
Apuntes de estudio de mis cursos, con figuras interactivas para explorar.
Visión por Computador
6 apuntes
Geometría
-
1
Coordenadas homogéneas
Tres números para cada punto y cada recta del plano, para que unir dos puntos y cortar dos rectas tome un solo producto cruz.
-
2
Transformaciones 2D
Cuatro maneras en que puede cambiar una figura plana, desde un giro hasta la vista de una cámara, y cómo encontrar y deshacer una a partir de cuatro pares de puntos.
-
3
Transformaciones 3D
Rotaciones y traslaciones en el espacio, proyección en perspectiva y el modelo de cámara, con figuras interactivas.
-
4
Calibración de cámaras
Cómo estimar la matriz de proyección de una cámara y sus once parámetros a partir de puntos de un objeto conocido, con una figura interactiva.
-
5
Geometría epipolar
Dónde puede aparecer en una segunda imagen un punto visto en la primera, la matriz fundamental que lo dice y cómo estimarla, con figuras interactivas.
-
6
Múltiples vistas
Cómo encontrar un punto del espacio a partir de sus imágenes en dos o más vistas, y predecir dónde aparece en una tercera, con una figura interactiva.
Aprendizaje Reforzado
10 apuntes
Bandits de múltiples brazos
-
1
Bandits de múltiples brazos
Cómo elegir una y otra vez entre opciones cuyo rendimiento solo se conoce probándolas, estimando cuánto vale cada una y equilibrando probar las demás con usar la mejor encontrada hasta ahora.
Métodos Monte Carlo
-
2
Predicción y control con Monte Carlo
Aprender cuán bueno es cada estado y cada acción promediando los retornos de episodios completos, y mejorar la política con esos promedios, sin un modelo del mundo.
Aprendizaje por diferencias temporales
-
3
Predicción TD y Sarsa
Actualizar una estimación después de cada paso, hacia la recompensa recién recibida más la estimación del estado siguiente, en vez de esperar al final del episodio, y la misma idea para aprender a actuar.
-
4
Q-learning
Cómo un agente aprende los valores de la mejor conducta a partir de su propia experiencia, paso a paso, mientras sigue probando otras acciones.
-
5
n-step bootstrapping
Usar n recompensas reales antes de confiar en una estimación: los métodos que van de TD de un paso a Monte Carlo.
-
6
Eligibility traces
Promediar todos los retornos de n pasos con pesos que decaen por λ, y aprender de ese promedio mientras avanza el episodio, con una memoria que se desvanece de los pares recién visitados.
Planning y aprendizaje
-
7
Model-based RL: R-Max y Dyna
Aprender cómo responde el mundo a cada acción, y planear con ese modelo: R-Max va a buscar lo que no ha probado, y Dyna aprende dos veces de cada paso real, una del paso mismo y otra de repeticiones de lo que recuerda.
Métodos aproximados
-
8
Predicción on-policy con aproximación
Estimar valores cuando hay demasiados estados para una tabla: unos pocos pesos le dan su valor a cada estado, aprendidos de retornos o de la estimación siguiente, y los dos tipos de aprendizaje terminan en pesos distintos.
-
9
Control on-policy con aproximación
Aprender a actuar cuando hay demasiados estados para una tabla: valores de acciones a partir de unos pocos pesos, Sarsa que los aprende mientras actúa con ellos y, para una tarea que no termina, valores medidos frente a la recompensa promedio.
Papers
-
1
Jugar Atari con aprendizaje reforzado profundo
Cómo un agente aprende a jugar videojuegos solo a partir de los cuadros del juego: una red que convierte los últimos cuadros en un valor para cada movimiento, entrenada con Q-learning sobre momentos sacados al azar de una memoria de su propio juego.
Procesamiento de Lenguaje Natural
8 apuntes
Leyes del texto, recursos y tareas de NLP
-
1
Las leyes del texto: Zipf y Heaps
Cuán seguido aparecen las palabras y cuán rápido crece un vocabulario, y por qué unas pocas palabras llenan cerca de un cuarto de un texto largo mientras siguen llegando palabras nuevas.
-
2
Palabras, lemas y WordNet
De qué está hecha una palabra, cómo los stems y los lemas reúnen sus formas, cómo se etiquetan las palabras de una oración y cómo WordNet relaciona sus significados.
-
3
El modelo de espacio vectorial
Cómo un buscador encuentra el capítulo del que trata una consulta, convirtiendo palabras en pesos, capítulos en vectores y la relevancia en un ángulo, y cómo BM25 refina los pesos.
Encoders de texto
-
4
Clasificar documentos con modelos lineales
Cómo una suma ponderada de las palabras de un documento decide a cuál de dos clases pertenece, cómo la regresión logística convierte esa suma en una probabilidad y cómo el descenso de gradiente aprende los pesos.
-
5
word2vec: aprender de las vecinas de una palabra
Cómo una bolsa de palabras pierde el orden de un texto, cómo los n-gramas y los skip-gramas recuperan parte de él, y cómo word2vec aprende un vector para cada palabra adivinando las que la rodean, un entrenamiento que el muestreo negativo abarata.
-
6
Lo que capturan los vectores de palabras
Lo que terminan capturando los vectores que word2vec aprende del Quijote, por qué las palabras relacionadas apuntan igual aunque nunca aparezcan juntas, cómo sumas y diferencias de vectores encuentran la palabra que sobra en una lista y completan analogías, qué no sabe un solo libro y sí saben los vectores entrenados con mucho más texto, y cómo el pooling le da a un texto entero un solo vector.
-
7
Subwords y fastText
Cómo una palabra para la que ninguna tabla tiene vector recibe uno a partir de sus subwords, tramos de tres a seis caracteres que comparte con otras palabras, cómo los entrena fastText, con qué se entrenaron los vectores que se descargan, y cuándo compartir letras es compartir significado.
-
8
Etiquetado de secuencias: CRF, HMM y Viterbi
Cómo un modelo le da una etiqueta a cada token de una oración, como el comienzo de un nombre o su categoría gramatical: un cabezal que puntúa cada token, una tabla que puntúa qué etiqueta puede seguir a cuál, la probabilidad de una secuencia de etiquetas entera calculada sin enumerarlas todas, y el modelo oculto de Markov, entrenado contando y decodificado con Viterbi.
Son apuntes personales de estudio, escritos con ayuda de IA. Pueden contener errores.