Deep Neural Networks have achieved impressive results in a wide range of applications over the past few years, being responsible for many advances in computational technology. However, debugging and understanding the inner workings from these models is a complex task, as there are often millions of variables involved in every decision. Aiming to solve this problem, researchers from the fields of Visual Analytics and Explainable Artificial Intelligence have proposed several approaches to visualize and explain different aspects of DNN models. One of such approaches is the use of Dimensionality Reduction techniques for hidden layer output visualization, which has been employed in literature with relative success. However, there are certain limitations to applying these techniques in this context that need to be addressed, such as the visual comparison between multiple multidimensional projections. Furthermore, the particular characteristics of this domain can be taken into account to generate specialized visual representations that are more informative. This doctorate thesis shows the process of investigating problems and opportunities in DNN visualization using dimensionality reduction and the development of improved visualization methods for this domain.

Redes neurais profundas tem demonstrado resultados impressionantes em uma grande variedade de aplicações computacionais nos últimos anos, sendo responsáveis por diversos avanços em tecnologia. No entanto, testar e entender os mecanismos internos destes modelos é uma tarefa complexa, uma vez que o número de variáveis envolvidas em cada decisão pode chegar aos milhões. Visando resolver este problema, pesquisadores dos campos de Visual Analytics e Explainable Artificial Intelligence tem proposto várias abordagens para visualizar e explicar diferentes aspectos de modelos de redes neurais. Uma destas abordagens é o uso de técnicas de redução de dimensionalidade para a visualização do comportamento de camadas ocultas, empregado com relativo sucesso na literatura. Porém, aplicar tais técnicas neste contexto implica em certas limitações que precisam ser tratadas, principalmente no que diz respeito à comparação visual entre múltiplas projeções multidimensonais. Adicionalmente, certas características particulares deste domínio podem ser utilizadas para gerar visualizações especializadas mais informativas. Esta tese de doutorado mostra o processo de investigação de problemas e oportunidades em visualização de redes neurais utilizando redução de dimensionalidade e o desenvolvimento de métodos de visualização aprimorados para este domínio.