• JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
 
  Bookmark and Share
 
 
Doctoral Thesis
DOI
https://doi.org/10.11606/T.45.2023.tde-25092023-112802
Document
Author
Full name
Julissa Giuliana Villanueva Llerena
E-mail
Institute/School/College
Knowledge Area
Date of Defense
Published
São Paulo, 2023
Supervisor
Committee
Mauá, Denis Deratani (President)
Antonucci, Alessandro
Campos, Cassio Polpo de
Cerri, Ricardo
Vergari, Antonio
Title in English
Qualitative global sensitivity analysis for probabilistic circuits
Keywords in English
Credal probabilistic circuits
Non-ignorable missing data
Probabilistic circuits
Sensitivity analysis
Abstract in English
A Probabilistic Circuit (PC) is an expressive generative model that encodes a probability distribution through an structure of weighted sums, products and univariate or multivariate distributions. Subject to some restrictions, PCs are tractable for large classes of queries. The most popular examples of PCs are Sum-Product Networks, Probabilistic Sentential Decision Diagrams, and Generative Random Forests. These models have shown competitive performance in several machine learning tasks. Despite the relative success of PCs, several issues can affect the quality of their predictions. In this work, we focus on two relevant issues. (i) PCs with a high number of parameters and scarce data can produce unreliable and overconfident inferences. (ii) Typical approaches treat missing data either by marginalization or heuristically, assuming that the missingness process is ignorable or uninformative; however, data is often missing in a non-ignorable way, which introduces bias into the prediction if not handled properly. To address these issues, we developed two algorithms based on Credal Probabilistic Circuits, which are sets of PCs obtained by a simultaneously perturbing of all model parameters (with the model structure fixed). Our first algorithm performs a qualitative global sensitivity analysis on the model parameters, measuring the variability of the predictions to perturbations of the model weights. To mitigate the second issue, we propose a procedure to perform tractable predictive inference under non-ignorable missing data. We evaluate our algorithms on challenging tasks such as image completion, multi-label classification, and multi-class classification.
Title in Portuguese
Análise de sensibilidade global e qualitativa para circuitos probabilísticos
Keywords in Portuguese
Análise de sensibilidade
Circuitos probabilisticos
Circuitos probabilisticos credais
Dados faltantes não ignoráveis
Abstract in Portuguese
Um Circuito Probabilístico (CP) é um modelo generativo expressivo que codifica uma distribuição de probabilidade através de uma estrutura de somas ponderadas, produtos e distribuições univariadas ou multivariadas. Sujeitos a algumas restrições, os CPs são tratáveis para varias classes de consultas. Os exemplos mais populares de CPs são Redes de Soma-Produto, Diagramas de Decisão Sentenciais Probabilísticos e Florestas Aleatórias Gerativas. Esses modelos têm mostrado desempenho competitivo em diversas tarefas de aprendizado de máquina. Apesar do relativo sucesso dos CPs, vários problemas podem afetar a qualidade de suas previsões. Neste trabalho, nos concentramos em duas questões relevantes. (i) CPs com um alto número de parâmetros e dados escassos podem produzir inferências não confiáveis e com excesso de confiança. (ii) Abordagens típicas tratam dados faltantes por marginalização ou heuristicamente, assumindo que o processo de falta é ignorável ou não informativo; no entanto, os dados geralmente estão ausentes de maneira não ignorável, o que introduz viés na previsão se não for tratado adequadamente. Para resolver essas questões, desenvolvemos dois algoritmos baseados em Circuitos Probabilísticos Credais, que são conjuntos de CPs obtidos pela perturbação simultânea de todos os parâmetros do modelo (com a estrutura do modelo fixa). Nosso primeiro algoritmo realiza uma análise de sensibilidade global qualitativa nos parâmetros do modelo, medindo a variabilidade das previsões para perturbações dos pesos do modelo. Para mitigar o segundo problema, propomos um procedimento para realizar inferência preditiva tratável sob dados ausentes não ignoráveis. Avaliamos nossos algoritmos em tarefas desafiadoras, como compleção de imagem, classificação multirótulo e classificação multiclasse.
 
WARNING - Viewing this document is conditioned on your acceptance of the following terms of use:
This document is only for private use for research and teaching activities. Reproduction for commercial use is forbidden. This rights cover the whole data about this document as well as its contents. Any uses or copies of this document in whole or in part must include the author's name.
teseVillanueva.pdf (1.85 Mbytes)
Publishing Date
2023-09-28
 
WARNING: Learn what derived works are clicking here.
All rights of the thesis/dissertation are from the authors
CeTI-SC/STI
Digital Library of Theses and Dissertations of USP. Copyright © 2001-2024. All rights reserved.