Uno de mis motivos para aprender Inteligencia Artificial es el desarrollo de mi proyecto de grado de la Universidad, este busca optimizar el proceso al evaluar a los docentes en mi Universidad. Para este proyecto se busca analizar los comentarios de los estudiantes y generar información valiosas para los directivos.
Mi primer vistazo en la IA es por medio de cursos, especialmente en Platzi, tome dos cursos: Fundamentos de AI para Data y Machine Learning y NLP con Python, este ultimo muy importante ya que toca temas de procesamiento de texto. En estos cursos comprendí los conceptos de forma general y una introducción practica a los temas.
Temas importantes como Tokenization, el cual busca dividir las palabras en partes mas pequeñas llamadas tokens para usar de manera eficientes los recursos computacionales, en esta web se puede entender de mejor manera https://gpt-tokenizer.dev/ .
Word2Vec
Esta fue de la cosas que me impresionó al ver, la imagen muestra Word2Vec el cual es un modelo que convierte palabras en vectores numéricos (embeddings) y muestra como se interconectan las palabras, por ejemplo "King" esta muy cercano de palabras como "Kings", "Queen". Puedes visitar la herramienta aquí: https://projector.tensorflow.org/ .
Transformers
Este concepto fue conocido en el paper "Attention is All You Need", el cual permite procesar secuencias de palabras simultáneamente entendiendo todo el contexto en lugar de solo ver palabra por palabra.
Un tema clave es el Self Attention que permite que cada token observe al resto de tokens y decida cual es el mas importante para su contexto. Y otro concepto es el embedding que convierte las palabras en vectores numéricos para representar su significa en un espacio matemático.
Todavía me quedan muchas cosas por aprender las cuales ire documentando mas adelante y compartiéndolo.