Diseño y análisis de redes neuronales convolucionales ordinales: aplicaciones

Abstract

En los últimos años, se están utilizando técnicas de aprendizaje profundo para mejorar diferentes procesos y resolver diferentes tareas del mundo real. El crecimiento exponencial del volumen de información generada por procesos del día a día constituye la principal causa para la adopción de este tipo de técnicas. Sin la existencia de las técnicas de aprendizaje profundo, el procesamiento manual de tal volumen de datos sería inviable. Los métodos de aprendizaje automático tradicionales requerían un preprocesamiento previo de la información por parte de los humanos para poder utilizarla para entrenar modelos que sean capaces de extraer conocimiento a partir de los datos generados. Sin embargo, la utilización de técnicas de aprendizaje profundo elimina la necesidad de este paso previo, permitiendo a los modelos procesar directamente la información en bruto. Como consecuencia, estos modelos permiten abordar una amplia gama de problemas de aprendizaje automático, incluyendo clasificación, regresión o clustering, así como tareas específicas de aprendizaje profundo como localización y segmentación. Esta Tesis se centra principalmente en la resolución de tareas de clasificación, en las que el objetivo es asignar la etiqueta correcta a cada patrón a partir de un conjunto discreto de posibles categorías basadas en las características de entrada asociadas. Más concretamente, esta Tesis aborda problemas de clasificación ordinal, que son variantes de los problemas de clasificación en los que las categorías siguen un orden que viene determinado por cada problema concreto. En estos casos, el objetivo es predecir la clase correcta o, en su defecto, una clase cercana para minimizar el coste de los errores. Los errores en clases lejanas suponen costes mucho mayores que los errores en clases adyacentes. Además, en este tipo de problemas existe cierta incertidumbre en el etiquetado de clases vecinas debido a la similitud de las mismas. Por ello, esta Tesis propone diversas metodologías de aprendizaje profundo para clasificación ordinal. Este tipo de metodologías consideran las características propias de los problemas ordinales con el fin de minimizar los costes de los errores cometidos. Las comparaciones experimentales realizadas en esta Tesis muestran que las metodologías ordinales propuestas mejoran el rendimiento frente a las nominales. Por otro lado, también se explora la influencia de las funciones de activación en el rendimiento de los modelos de aprendizaje profundo. Estas funciones modifican la salida de cada neurona para introducir transformaciones no lineales que permiten capturar información más compleja, por lo que cumplen un papel fundamental en los modelos de aprendizaje profundo. Por ello, esta Tesis también explora el uso de metaheurísticas que determinan la arquitectura óptima y los valores de los hiperparámetros sin requerir la especificación manual de los parámetros. Por ´ultimo, las metodologías desarrolladas en esta tesis se aplican a diferentes problemas del mundo real relacionados con los campos de la biomedicina y la industria.

In recent years, numerous domains have embraced the application of deep learning techniques to enhance their processes and tackle diverse tasks. The exponential growth of information generated is a key driving force behind the adoption of these techniques, rendering manual processing by humans infeasible. Traditional machine learning methods necessitated prior data pre-processing by humans to train models capable of extracting knowledge from the information generated. However, the utilisation of deep learning techniques eliminates the need for this pre-processing step, allowing models to directly process raw information. Consequently, a wide range of machine learning problems, including classification, regression, clustering, as well as deep learning-specific tasks like localisation and segmentation, can be addressed. This Thesis primarily focuses on solving classification tasks, whereby the objective is to assign the correct label to each pattern from a discrete set of possible categories based on associated input features. More specifically, this Thesis tackles ordinal classification problems, which are variants of classification problems where categories follow an order determined by the specific problem. In such cases, the aim is to predict the correct class or a nearby class to minimise the cost of errors. Errors in distant classes incur greater costs compared to errors in adjacent classes. Additionally, similarity between neighbouring classes introduces uncertainty during the labelling process due to the difficulty in distinguishing between them. Therefore, this Thesis proposes various deep learning methodologies for ordinal classification, considering the characteristics unique to this problem type, in order to minimise error costs associated with such tasks. Furthermore, the experimental comparisons carried out in this Thesis show that the proposed methodologies improve performance over standard classification techniques. Furthermore, the influence of activation functions on the performance of deep learning models is explored. These functions modify the output of each neuron to introduce nonlinear transformations that capture more complex information. Activation functions play a critical role in the selection of deep learning models. Thus, this Thesis also examines the use of metaheuristics that determine the optimal architecture and hyperparameter values without requiring manual parameter specification. Finally, the methodologies developed in this Thesis are applied to real-world problems in the fields of biomedicine and industry.