Método para la clasificación de opiniones basado en redes neuronales profundas con entrenamiento mediante algoritmos de estimación de distribución

Abstract

La clasificación de textos ha cobrado relevancia en los últimos años por su utilidad para soportar diferentes soluciones de minería de textos, como el análisis de opinión, donde se puede categorizar un texto según las emociones expresadas en ellos. Diferentes plataformas en la web permiten a los usuarios plasmar opiniones sobre viajes, servicios o productos, convirtiéndose en una fuente de datos a considerar para la toma de decisiones. Los textos de las opiniones son datos no estructurados que se caracterizan por la alta dimensionalidad, tamaño variable y relaciones semánticas complejas entre las palabras, lo que ha llevado al desarrollo de arquitecturas neuronales sobreparametrizadas. El entrenamiento de Redes Neuronales Profundas ha sido abordado por métodos basados en derivadas parciales de la función objetivo y presenta varias limitaciones teóricas y prácticas, como la probabilidad de convergencia a mínimos locales. En este trabajo se propone un método híbrido basado en Algoritmos de Estimación de Distribución para el entrenamiento de Redes Neuronales Profundas para la clasificación de opiniones. El método de entrenamiento divide el proceso en dos fases, combinando métodos basados en el gradiente descendente de primer orden y Algoritmos de Estimación de Distribución. Las variantes desarrolladas muestran mejoras significativas con respecto a los métodos basados en el gradiente descendente de primer orden e incrementa la velocidad de convergencia del entrenamiento. Finalmente, se introduce un nuevo método para la clasificación de opiniones a partir de reseñas de viajes en línea con resultados comparables a referentes del estado del arte