• JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
 
  Bookmark and Share
 
 
Master's Dissertation
DOI
https://doi.org/10.11606/D.55.2023.tde-18122023-153735
Document
Author
Full name
Kenzo Miranda Sakiyama
E-mail
Institute/School/College
Knowledge Area
Date of Defense
Published
São Carlos, 2023
Supervisor
Committee
Romero, Roseli Aparecida Francelin (President)
Marcacini, Ricardo Marcondes
Moreira, Viviane Pereira
Ruiz, Evandro Eduardo Seron
Title in Portuguese
Geração Automática de Verbetações para Recuperação de Informações no Domínio Jurídico Brasileiro
Keywords in Portuguese
Aprendizado de máquina
Aprendizado profundo
Geração de texto
Processamento de linguagem natural
Recuperação de informações
Abstract in Portuguese
A grande quantidade de processos jurídicos em trânsito no Brasil, evidencia a grande lentidão do sistema judiciário brasileiro. Sendo assim, há uma grande necessidade em desenvolver formas de automatizar e melhorar processos existentes. Os recentes avanços em Processamento de Linguagem Natural (PLN), possibilitam a aplicação dos métodos do estado da arte para automatizar tarefas em diferentes domínios. Assim, neste trabalho, abordamos o problema da automatização da escrita de verbetações: sequência de termos-chave presentes em documentos utilizados em tribunais de todo o Brasil. Para tanto, propusemos a utilização de um framework texto-para-texto baseado em Transformers generativos. Avaliamos diferentes modelos generativos (PTT5, mT5, OPT e BLOOM) e comparamos seus desempenhos para a tarefa proposta. O modelo PTT5 foi escolhido como gerador de verbetações, pois alcançou uma pontuação BLEU de 37,54% no conjunto de teste, superando os demais modelos avaliados em até 24,6%. Por fim, para avaliar a influência e a qualidade das verbetações geradas, realizamos quatro experimentos baseados em um caso real de recuperação de informações no domínio jurídico. Empregando métodos tradicionais de recuperação de informações (TF-IDF e BM25); em combinação com as verbetações originais, geradas, ou ambas; observamos ganhos estatisticamente significativos (p-valor < 0,05) em todos os experimentos realizados.
Title in English
Automated Keyphrase Generation for Brazilian Legal Information Retrieval
Keywords in English
Deep learning
Information retrieval
Machine learning
Natural language processing
Text generation
Abstract in English
The large quantity of legal processes in transit in Brazil highlights the slowness of the Brazilian judicial system. Therefore, there is a great need to develop ways to automate and improve existing processes. The recent advancements in Natural Language Processing (NLP) enable the application of state-of-the-art methods to automate tasks in different domains. Thus, in this work, we address the problem of automating the writing of keyphrases: a sequence of key terms present in documents used in courts throughout Brazil. For this, we proposed the use of a text-to-text framework based on generative Transformers. We evaluated several generative models (PTT5, mT5, OPT, and BLOOM) and compared their performances for the proposed task. PTT5 was chosen as the keyphrase generator, as it achieved a BLEU score of 37.54% on the test set, outperforming the other evaluated models by up to 24.6%. Finally, to assess the influence and quality of the generated keyphrases, we performed four experiments based on a real case of information retrieval in the legal domain. By using traditional information retrieval methods (TF-IDF and BM25); in combination with the original, generated keyphrases, or both; we observed statistically significant gains (p-value < 0.05) in all experiments.
 
WARNING - Viewing this document is conditioned on your acceptance of the following terms of use:
This document is only for private use for research and teaching activities. Reproduction for commercial use is forbidden. This rights cover the whole data about this document as well as its contents. Any uses or copies of this document in whole or in part must include the author's name.
Publishing Date
2023-12-18
 
WARNING: Learn what derived works are clicking here.
All rights of the thesis/dissertation are from the authors
CeTI-SC/STI
Digital Library of Theses and Dissertations of USP. Copyright © 2001-2024. All rights reserved.