Regresar

Afinamiento de los modelos de transformadores integrando características lingüísticas para mejorar el rendimiento en la predicción de la complejidad léxica.

Abstract:

Las palabras complejas presentes en un texto, libro, artículo científico, entre otras fuentes de información pueden influir en el grado de comprensión de estos, puesto que sino se entiende un término, una oración entera podría perder sentido. A este suceso se lo denomina complejidad léxica, y dependiendo del nivel de complejidad de las palabras de un determinado texto, este será más fácil o más complejo de comprender. En deep learning existen métodos para determinar la complejidad de las palabras, y ello se logra empleando modelos de transformadores lingüisticos los cuales a través de entrenamiento pueden llegar a determinar que palabra puede ser menos o más compleja que otra. El trabajo investigativo de titulación en cuestion se basa en la mejora, o mejor dicho, afinamiento de resultados de predicción de palabras complejas a través del uso de modelos de transformadores, en el presente caso, los transformadores BERT y XLM-RoBERTa. A partir de la obtención de los datos de estos modelos, se usarán posteriormente para hacer ejecuciones de pruebas a través de diferentes algoritmos de aprendizaje supervisado, con el objetivo de determinar que tan precisa fue la predicción de los algoritmos respecto a los datos obtenidos de los modelos de transformadores BERT y XLM-RoBERTa y los datos obtenidos con las ejecuciones de los algoritmos de aprendizaje supervisado. Así se comprobará el nivel de afinamiento de datos realizado en esta investigación