Digital breast tomosynthesis (DBT) and full-field digital mammography (FFDM) are the most commonly used exams for breast cancer screening. In these systems, achieving high image quality is crucial for radiologists to detect the earliest signs of breast cancer and improve the patient's prognosis. The radiation dose is also a concern, given that these systems employ ionizing radiation. While current systems operate within safe radiation margins, there is a growing desire to minimize radiation dose without compromising image quality. To address this challenge, image restoration techniques have emerged as valuable tools to enhance image quality from low-dose (LD) acquisitions. Traditional restoration methods rely on mathematical models that represent the underlying physics of the acquisition system. Convolutional neural networks (CNN), employing modern deep learning (DL) techniques, are capable of learning the image restoration task from data and have exhibited substantial progress in recent years. This work proposes a hybrid model-based deep learning (MBDL) framework for the restoration of DBT images acquired with reduced radiation doses, benefiting from the advantages of both fields. Specifically, our hypothesis is that the combination of known mathematical models with data-based (DB) models can improve the results of purely MB or DB approaches. First, we investigate the application of a CNN architecture to restore FFDM images, also evaluating the influence of various loss functions and diverse training strategies. Second, we introduce an MBDL approach inspired by a pipeline designed to restore LD mammographic images. We use a variance stabilization transformation (VST) and known system-related parameters to introduce priors implemented as neural network layers. Considering a Poisson-Gaussian noise model, this framework operates within a VST domain, where the noise becomes approximately Gaussian, signal-independent, and with unity variance, enhancing the stability and simplicity of the learning process. Moreover, we propose a bias-residual noise loss function to control the final noise characteristics. Three different CNN architectures were tested and resulted in better performance compared with solely DB approaches. Finally, we also propose an MBDL method to restore mammographic images corrupted with spatially correlated noise. Although further validation is necessary, preliminary results indicate that the MBDL may be suitable for this task. In conclusion, the synergy of MB methods and DB approaches has great potential to be explored within the DL domain, demonstrated by the improved results over models that do not benefit from those priors.

A tomossíntese digital da mama (DBT) e a mamografia digital de campo total (FFDM) são os exames mais utilizados para rastreamento do câncer de mama. A dose de radiação é uma preocupação, visto que estes sistemas utilizam radiação ionizante. Embora os sistemas atuais operem dentro de margens seguras de radiação, há um desejo crescente de minimizar a dose de radiação sem comprometer a qualidade da imagem. As técnicas de restauração de imagens surgiram como ferramentas para melhorar a qualidade da imagem a partir de aquisições de baixa dose. Os métodos tradicionais de restauração baseiam-se em modelos matemáticos que representam a física de aquisição do sistema. As redes neurais convolucionais (CNN) são capazes de aprender a partir de dados e têm apresentado progresso substancial nos últimos anos. Este trabalho propõe uma estrutura híbrida de aprendizagem profunda baseada em modelo (MBDL) para a restauração de imagens DBT adquiridas com doses reduzidas de radiação, beneficiando-se das vantagens de ambos os campos. Especificamente, nossa hipótese é que a combinação de modelos matemáticos conhecidos com modelos baseados em dados (DB) pode melhorar os resultados de abordagens puramente MB ou DB. Primeiramente, investigamos a aplicação de uma arquitetura CNN para restaurar imagens FFDM, avaliando também a influência de diversas funções de custo e diversas estratégias de treinamento. Em segundo lugar, apresentamos uma abordagem MBDL inspirada em um framework projetado para restaurar imagens mamográficas de baixa dose. Usamos um transformada de estabilização de variância (VST) e parâmetros conhecidos relacionados ao sistema para introduzir conhecimentos a priori implementados como camadas da rede neural. Três arquiteturas diferentes foram testadas e resultaram em um melhor desempenho em comparação com abordagens exclusivamente baseadas em dados. Finalmente, também propomos um método MBDL para restaurar imagens mamográficas corrompidas com ruído correlacionado espacialmente. Embora seja necessária uma validação adicional, os resultados preliminares indicam que o MBDL pode ser adequado para esta tarefa. Em conclusão, a sinergia entre métodos MB e abordagens de DB tem grande potencial a ser explorada, demonstrado pelos melhores resultados em relação aos modelos que não se beneficiam desses conhecimentos a priori.