• JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
 
  Bookmark and Share
 
 
Master's Dissertation
DOI
https://doi.org/10.11606/D.3.2022.tde-04052023-091217
Document
Author
Full name
Michel Andre Lima Vinagreiro
E-mail
Institute/School/College
Knowledge Area
Date of Defense
Published
São Paulo, 2022
Supervisor
Committee
Yoshioka, Leopoldo Rideki (President)
Thomaz, Carlos Eduardo
Zampirolli, Francisco de Assis
Title in Portuguese
Classificação baseada em espaços de camadas convolucionais de redes CNNs densas.
Keywords in Portuguese
Análise de componentes principais
Redes neurais convolucionais profundas
Sistema avançado de assistência à direção
Abstract in Portuguese
Muitos sistemas utilizados em tarefas de classificação de imagens utilizam-se de redes neurais convolucionais profundas. Contudo, é requerida a utilização de plataformas de alto poder computacional para treinar e utilizar estes algoritmos. Buscando reduzir os esforços computacionais e acelerar o processamento desses algorítmos, tem sido apresentadas na literatura muitas técnicas de redução de tamanho de arquiteturas de redes neurais convolucionais profundas. Apesar dos grandes esforços e avanços neste caminho, os métodos atuais necessitam de constantes retreinamentos e são iterativos, muitas vezes não alcançando os resultados de forma satisfatória, sendo necessário o desenvolvimento de novos métodos. O objetivo deste trabalho, diferentemente dos métodos de redução mais difundidos, é extrair a capacidade de classificação de grandes arquiteturas de redes neurais convolucionais profundas de forma otimizada e utiliza-la para realizar classificações de forma acelerada. Este trabalho apresenta uma abordagem baseada em um espaço de características multilinear que se utiliza do conhecimento extraído de grandes arquiteturas de redes neurais convolucionais profundas. A metodologia proposta utiliza a rede VGG-16 para geração de mapas de características. Quando o processo de treinamento da rede termina, os mapas de características gerados pelos kernels são utilizados para encontrar um novo espaço de características. Os espaços são utilizados para projetar novas amostras e as classificar utilizando classificadores de baixa complexidade, sendo que tanto a arquitetura VGG-16, quanto seus respectivos pesos são descartados após o término de todos os processos. Esta abordagem dispensa a necessidade de podar ou retreinar arquiteturas profundas para classificar uma nova amostra, algo que a torna única. O novo método reduz significativamente o tempo geral de classificação comparado à rede VGG-16, apresentando mínimas perdas de acurácia comparadas ao desempenho da rede. Os experimentos para testar a eficácia do método foram realizados utilizando-se os bancos de imagens Vehicle Image Database e o conjunto de imagens German Traffic Sign Recognition Benchmark. Os resultados da aplicação da metodologia proposta alcançaram a aceleração do tempo de classificação para todos os conjuntos de imagens. No conjunto de imagens Vehicle Image Database, a rede VGG-16 atingiu acurácia de 98,8% enquanto a metodologia proposta acelerou o tempo de classificação em 16,9 vezes, atingindo acurácia de 97,73%. No conjunto de imagens German Traffic Sign Recognition Benchmark a rede VGG-16 atingiu acurácia de 98.6% enquanto a metodologia proposta atingiu 97,84% com aceleração de 16,8 vezes. Embora os resultados alcançados sejam promissores, o método necessita de alta ocupação de memória para a extração de autovetores e vetores média.
Title in English
A multilinear CNN layer space approach for classification task.
Keywords in English
Advanced driver-assistance system
Deep convolutional neural networks
Principal components analysis
Abstract in English
The Deep Convolutional Neural Networks are the basis of most image classification systems. However, demanding high computational costs. To improve this drawback, network reduction techniques are proposed. Although the evolution of reduction methods, the iterative and retraining processes turns the application slow and unfeasible. Different from the well-known reduction techniques, our proposed method extract and translate the knowledge of the trained VGG-16 model on a low-dimensional feature space. This space is used to accelerate the classification time. This work presents an alternative approach based on the Multilinear Feature Space (MFS) method to utilize the knowledge of VGG-16 architecture. When the VGG-16 training process end, we use the feature maps generated by the adjusted kernels to encounter the feature space. We use these spaces to make projections of new samples and classify them with low dimensionality classifiers. The VGG-16 architecture and its weights are left aside when all processes end. Unlike some reduction methods found in the literature, our approach uses feature maps to extract kernel knowledge. The proposed framework dispenses the necessity of retraining or pruning dense architectures to classify new image samples, which turns this approach unique. The proposed method significantly reduces overall the time of classification compared with VGG-16 architecture, with minimal loss in the classification accuracy. For the experiments we use the well-known Vehicle Image Database and the German Traffic Sign Recognition Benchmark. The experiments with the proposed method achieved a speedup of the classification time for all databases with a minimal loss compared with the VGG-16 model. In the Vehicle Image Database, the VGG-16 model achieved 98.8% while the proposed method was 16,9 times faster and achieved 97.3% of accuracy. In the German Traffic Sign Recognition Benchmark, using four classes, the VGG-16 model achieved 98.6% overall accuracy while the proposed method reached 97.84% with 16.8 times of speed up. As mentioned early, the proposed method achieved high speed up with a minimal loss. However, the method is limited when the used databases have a high number of samples.
 
WARNING - Viewing this document is conditioned on your acceptance of the following terms of use:
This document is only for private use for research and teaching activities. Reproduction for commercial use is forbidden. This rights cover the whole data about this document as well as its contents. Any uses or copies of this document in whole or in part must include the author's name.
Publishing Date
2023-05-04
 
WARNING: Learn what derived works are clicking here.
All rights of the thesis/dissertation are from the authors
CeTI-SC/STI
Digital Library of Theses and Dissertations of USP. Copyright © 2001-2024. All rights reserved.