Apuntes

Apuntes de estudio de mis cursos, con figuras interactivas para explorar.

Read in English

Visión por Computador

6 apuntes

Geometría

  1. 1
    Coordenadas homogéneas

    Tres números para cada punto y cada recta del plano, para que unir dos puntos y cortar dos rectas tome un solo producto cruz.

  2. 2
    Transformaciones 2D

    Cuatro maneras en que puede cambiar una figura plana, desde un giro hasta la vista de una cámara, y cómo encontrar y deshacer una a partir de cuatro pares de puntos.

  3. 3
    Transformaciones 3D

    Rotaciones y traslaciones en el espacio, proyección en perspectiva y el modelo de cámara, con figuras interactivas.

  4. 4
    Calibración de cámaras

    Cómo estimar la matriz de proyección de una cámara y sus once parámetros a partir de puntos de un objeto conocido, con una figura interactiva.

  5. 5
    Geometría epipolar

    Dónde puede aparecer en una segunda imagen un punto visto en la primera, la matriz fundamental que lo dice y cómo estimarla, con figuras interactivas.

  6. 6
    Múltiples vistas

    Cómo encontrar un punto del espacio a partir de sus imágenes en dos o más vistas, y predecir dónde aparece en una tercera, con una figura interactiva.

Aprendizaje Reforzado

10 apuntes

Bandits de múltiples brazos

  1. 1
    Bandits de múltiples brazos

    Cómo elegir una y otra vez entre opciones cuyo rendimiento solo se conoce probándolas, estimando cuánto vale cada una y equilibrando probar las demás con usar la mejor encontrada hasta ahora.

Métodos Monte Carlo

  1. 2
    Predicción y control con Monte Carlo

    Aprender cuán bueno es cada estado y cada acción promediando los retornos de episodios completos, y mejorar la política con esos promedios, sin un modelo del mundo.

Aprendizaje por diferencias temporales

  1. 3
    Predicción TD y Sarsa

    Actualizar una estimación después de cada paso, hacia la recompensa recién recibida más la estimación del estado siguiente, en vez de esperar al final del episodio, y la misma idea para aprender a actuar.

  2. 4
    Q-learning

    Cómo un agente aprende los valores de la mejor conducta a partir de su propia experiencia, paso a paso, mientras sigue probando otras acciones.

  3. 5
    n-step bootstrapping

    Usar n recompensas reales antes de confiar en una estimación: los métodos que van de TD de un paso a Monte Carlo.

  4. 6
    Eligibility traces

    Promediar todos los retornos de n pasos con pesos que decaen por λ, y aprender de ese promedio mientras avanza el episodio, con una memoria que se desvanece de los pares recién visitados.

Planning y aprendizaje

  1. 7
    Model-based RL: R-Max y Dyna

    Aprender cómo responde el mundo a cada acción, y planear con ese modelo: R-Max va a buscar lo que no ha probado, y Dyna aprende dos veces de cada paso real, una del paso mismo y otra de repeticiones de lo que recuerda.

Métodos aproximados

  1. 8
    Predicción on-policy con aproximación

    Estimar valores cuando hay demasiados estados para una tabla: unos pocos pesos le dan su valor a cada estado, aprendidos de retornos o de la estimación siguiente, y los dos tipos de aprendizaje terminan en pesos distintos.

  2. 9
    Control on-policy con aproximación

    Aprender a actuar cuando hay demasiados estados para una tabla: valores de acciones a partir de unos pocos pesos, Sarsa que los aprende mientras actúa con ellos y, para una tarea que no termina, valores medidos frente a la recompensa promedio.

Papers

  1. 1
    Jugar Atari con aprendizaje reforzado profundo

    Cómo un agente aprende a jugar videojuegos solo a partir de los cuadros del juego: una red que convierte los últimos cuadros en un valor para cada movimiento, entrenada con Q-learning sobre momentos sacados al azar de una memoria de su propio juego.

Procesamiento de Lenguaje Natural

8 apuntes

Leyes del texto, recursos y tareas de NLP

  1. 1
    Las leyes del texto: Zipf y Heaps

    Cuán seguido aparecen las palabras y cuán rápido crece un vocabulario, y por qué unas pocas palabras llenan cerca de un cuarto de un texto largo mientras siguen llegando palabras nuevas.

  2. 2
    Palabras, lemas y WordNet

    De qué está hecha una palabra, cómo los stems y los lemas reúnen sus formas, cómo se etiquetan las palabras de una oración y cómo WordNet relaciona sus significados.

  3. 3
    El modelo de espacio vectorial

    Cómo un buscador encuentra el capítulo del que trata una consulta, convirtiendo palabras en pesos, capítulos en vectores y la relevancia en un ángulo, y cómo BM25 refina los pesos.

Encoders de texto

  1. 4
    Clasificar documentos con modelos lineales

    Cómo una suma ponderada de las palabras de un documento decide a cuál de dos clases pertenece, cómo la regresión logística convierte esa suma en una probabilidad y cómo el descenso de gradiente aprende los pesos.

  2. 5
    word2vec: aprender de las vecinas de una palabra

    Cómo una bolsa de palabras pierde el orden de un texto, cómo los n-gramas y los skip-gramas recuperan parte de él, y cómo word2vec aprende un vector para cada palabra adivinando las que la rodean, un entrenamiento que el muestreo negativo abarata.

  3. 6
    Lo que capturan los vectores de palabras

    Lo que terminan capturando los vectores que word2vec aprende del Quijote, por qué las palabras relacionadas apuntan igual aunque nunca aparezcan juntas, cómo sumas y diferencias de vectores encuentran la palabra que sobra en una lista y completan analogías, qué no sabe un solo libro y sí saben los vectores entrenados con mucho más texto, y cómo el pooling le da a un texto entero un solo vector.

  4. 7
    Subwords y fastText

    Cómo una palabra para la que ninguna tabla tiene vector recibe uno a partir de sus subwords, tramos de tres a seis caracteres que comparte con otras palabras, cómo los entrena fastText, con qué se entrenaron los vectores que se descargan, y cuándo compartir letras es compartir significado.

  5. 8
    Etiquetado de secuencias: CRF, HMM y Viterbi

    Cómo un modelo le da una etiqueta a cada token de una oración, como el comienzo de un nombre o su categoría gramatical: un cabezal que puntúa cada token, una tabla que puntúa qué etiqueta puede seguir a cuál, la probabilidad de una secuencia de etiquetas entera calculada sin enumerarlas todas, y el modelo oculto de Markov, entrenado contando y decodificado con Viterbi.

Son apuntes personales de estudio, escritos con ayuda de IA. Pueden contener errores.