O uso de aprendizado de máquina em domínios diversos é cada vez mais comum. No entanto, muitas aplicações críticas não podem usufruir desta tecnologia sem que as decisões de um classificador sejam interpretáveis. O problema é que a maioria dos modelos se comporta como uma caixa-preta cujas decisões não são facilmente interpretáveis, o que limita sua efetividade apesar do bom desempenho. Diversos trabalhos na literatura buscam resolver este problema propondo técnicas de decisão que explicam o comportamento de modelos caixa-preta quando estes são aplicados a um determinado exemplo. Uma delas é a técnica Local Rule Based Explanations (LORE) que gera explicações locais, utilizando uma Árvore de Decisão treinada a partir de dados artificiais gerados por um algoritmo genético (AG). O método LORE utiliza um algoritmo genético padrão, que não preserva necessariamente a diversidade das soluções na população final. A hipótese investigada neste trabalho é que a diversidade é importante para gerar árvores de decisão que consigam reproduzir com maior precisão as fronteiras de decisão do classificador localizadas perto do exemplo a ser explicado. Este trabalho mostra que os exemplos artificiais gerados pelos AGs em LORE não são necessariamente diversos. É proposto então o uso da técnica de fitness sharing no AG para gerar exemplos artificiais mais diversos. Consequentemente, as fronteiras de decisão locais da Árvore de Decisão devem ser mais semelhantes aos do classificador caixa-preta. Resultados experimentais com dois classificadores (Perceptron Multicamadas e Florestas Aleatórias) e quatro problemas de classificação indicam que LORE com fitness sharing produz populações de AG mais diversas e melhores explicações locais.

The use of machine learning in diverse domains is increasingly common. However, many critical applications cannot take advantage of this technology without the decisions of a classifier being interpretable. The problem is that most models behave like a black box whose decisions are not easily interpretable, which limits its effectiveness despite good performance. Several works in the literature seek to solve this problem by proposing decision techniques that explain the behavior of black box models when they are applied to a given example. One of them is the Local Rule Based Explanations (LORE), a technique that generates local explanations using a Decision Tree trained on artificial data generated by a genetic algorithm. The LORE method uses a standard genetic algorithm, which does not necessarily preserve the diversity of solutions in the final population. The hypothesis investigated in this work is that diversity is important to generate decision trees that can more accurately reproduce the classifier's decision boundaries located close to the example to be explained. This work shows that the artificial examples generated by the GA in LORE are not necessarily diverse. The Fitness Sharing technique is then used to generate more diverse artificial GA examples. Consequently, the local decision boundaries of the Decision Tree should be more similar to those of the black-box classifier. Experimental results with two classifiers (Multilayer Perceptron and Random Forests) and four classification problems indicate that LORE with fitness sharing produces more diverse GA populations and better local explanations.