Deep learning techniques for ordinal spatial data and applications in medical imaging

Abstract

This thesis navigates the intersection of deep learning and ordinal regression, aiming to address the challenges inherent in ordinal tasks, particularly within medical image diagnosis. The primary contributions unfold across three interconnected chapters, each designed to tackle a distinct facet of the overarching problem. First, a new breed of Convolutional Neural Network (CNN) architectures tailored for ordinal regression is introduced. The superior performance of the proposed Ordinal Binary Decomposition (OBD) model, coupled with an Error Correcting Output Codes (ECOC) scheme for label assignment, is demonstrated across diverse tasks. Notably, it achieves superior ordinal performance metrics without compromising traditional classification ones, offering a flexible and efficient solution to the challenges of ordinal regression problems. The next chapter extends this methodology to a real medical application: the diagnosing of Parkinson’s disease. Faced with the challenges of volumetric brain scans, a native 3D CNN architecture is introduced, along with an innovative data augmentation algorithm (OGO-SP-𝛽) that exploits ordinal information. This methodology showcases significant advancements in assessing dopaminergic brain activity, demonstrating adaptability to diverse input types and resilience against class imbalance challenges. Finally, the next chapter delves into the often-neglected realm of interpretability in ordinal CNN models. Existing explanation methods are rigorously validated, and two novel techniques, GradOBD-CAM and OIBA, are introduced to shed light on the decision-making processes of these models. GradOBD-CAM outperforms existing methods, providing nuanced insights into feature importance in the context of ordinal regression. As a whole, this thesis contributes to advancing the understanding and application of ordinal regression classifiers within deep learning. The developed methodologies, spanning novel architectures, data augmentation techniques, and explanation methods, generally enhance the performance, adaptability, and explainability of CNN models in the ordinal domain. The successful application of these methodologies to real medical challenges underscores their practical utility, with implications extending beyond the medical realm. As the research unfolds, this thesis lays the groundwork for future explorations, suggesting avenues for refining methodologies, expanding applications, and delving deeper into the interpretability of ordinal CNN models. In conclusion, this thesis provides a comprehensive and nuanced exploration of ordinal regression challenges, offering tangible solutions and insights that contribute to the evolving landscape of deep learning applications.

Esta tesis navega por la intersección del aprendizaje profundo y la regresión ordinal, con el objetivo de abordar los retos inherentes a las tareas ordinales, en particular en el diagnóstico de imágenes médicas. Las principales contribuciones se desarrollan a lo largo de tres capítulos interconectados, cada uno diseñado para abordar una faceta distinta del problema general. En primer lugar, se presenta una nueva variedad de arquitecturas de Redes Neuronales Convolucionales (CNN) adaptadas a la regresión ordinal. El rendimiento superior del modelo de Descomposición Ordinal Binaria (OBD) propuesto, junto con un esquema de asignación de etiqueta basado en Códigos de Salida de Corrección de Errores (ECOC), se demuestra a través de diversas tareas. En particular, logra métricas de rendimiento ordinal superiores sin comprometer las métricas de clasificación tradicionales, ofreciendo una solución flexible y eficiente a los retos de los problemas de regresión ordinal. El siguiente capítulo amplía esta metodología a una aplicación médica real: el diagnóstico de la enfermedad de Parkinson. Enfrentados a los retos de los escáneres cerebrales volumétricos, se introduce una arquitectura de CNN nativa 3D así como un innovador algoritmo de aumento de datos (OGO-SP-𝛽) que explota la información ordinal. Esta metodología muestra avances significativos en la evaluación de la actividad cerebral dopaminérgica, demostrando su adaptabilidad a diversos tipos de datos de entrada y su resistencia frente a los desafíos del desequilibrio de clases. Por último, el siguiente capítulo se adentra en el ámbito, a menudo descuidado, de la explicabilidad en los modelos CNN ordinales. Se validan rigurosamente los métodos de explicación existentes y se introducen dos técnicas novedosas, GradOBD-CAM y OIBA, para arrojar luz sobre los procesos de toma de decisiones de estos modelos. GradOBD-CAM supera a los métodos existentes, proporcionando información matizada sobre la importancia de las características en el contexto de la regresión ordinal. En conjunto, esta tesis contribuye a avanzar en la comprensión y aplicación de modelos de regresión ordinal dentro del aprendizaje profundo. Las metodologías desarrolladas, que abarcan arquitecturas novedosas, técnicas de aumento de datos y métodos de explicación, mejoran generalmente el rendimiento, la adaptabilidad y la interpretabilidad de los modelos CNN en el dominio ordinal. La aplicación con éxito de estas metodologías a retos médicos reales subraya su utilidad práctica, con implicaciones que se extienden más allá del ámbito médico. A medida que se desarrolla la investigación, esta tesis sienta las bases para futuras exploraciones, sugiriendo vías para refinar las metodologías, ampliar las aplicaciones y profundizar en la interpretabilidad de los modelos CNN ordinales. En conclusión, esta tesis proporciona una exploración completa y matizada de los retos de regresión ordinal, ofreciendo soluciones tangibles y conocimientos que contribuyen al panorama en evolución de las aplicaciones de aprendizaje profundo.