• JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
 
  Bookmark and Share
 
 
Doctoral Thesis
DOI
https://doi.org/10.11606/T.55.2023.tde-12092023-210015
Document
Author
Full name
Diana Carolina Roca Arroyo
E-mail
Institute/School/College
Knowledge Area
Date of Defense
Published
São Carlos, 2023
Supervisor
Committee
Liang, Zhao (President)
Martinez, Alexandre Souto
Murta Junior, Luiz Otavio
Quiles, Marcos Gonçalves
Title in English
A Modified Echo State Network Model Using Non-Random Topology
Keywords in English
Clustering
Echo state network
Recurrent neural network
Reservoir computing
Abstract in English
Reservoir Computing is a type of recurrent neural networks suitable for temporal/sequential data processing. One of the representative Reservoir Computing models is the Echo State Network (ESN), which maps the input-output patterns through a high dimensional nonlinear projection, called reservoir. In the classic model of ESN, the reservoir is compound of a large number of neurons with random connections, forming a Erdös-Rényi random complex network. In this way, the reservoir maps the input data into a higher dimensional space to overcome the linear inseparable problem by applying a simple linear regression algorithm in the training phase. Inspired by the modular structure of a human brain, we propose new ESNs using non-random typology as reservoir by complex network models and clustering models. The connectivity topology based on complex networks in the reservoir are: random networks, scale-free networks, and small-world networks. To generate the clustered reservoirs, we propose to use the classic data clustering algorithms: K-means, Partitioning Around Medoids, and Ward algorithm to simulate community structures. We also generate the clustered scale-free and small-world networks as reservoirs. The main hypothesis of this approach is that the non-random network structures, especially, the clustered networks as reservoirs can better capture the information of different classes of the training data in such a way that each of a group of network communities may be served to encode a certain class of data. Numerical experiments in signal prediction applications show that the proposed models have an improvement in its performance and lower computational cost compared to the classical ESNs. The utility of our ESN-based methods has been shown by considering the tissue classification on hematoxylin and eosin (H&E) stained histopathological whole slide images (WSI). The proposed models to classify tissue components on WSI provide results that overcome classical and the state-of-the-art techniques.
Title in Portuguese
Um Modelo de Redes de Estado de Eco Modificado Usando Topologías Não Aleatórias
Keywords in Portuguese
Clusterização
Computação de reservatório
Redes de estado de eco
Redes neurais recorrentes
Abstract in Portuguese
A computação de reservatório é um tipo de redes neurais recorrentes adequadas para o processamento de dados temporais/sequenciais. Um dos modelos representativos da computação de reservatório é a rede de estado de eco (no inglês Echo State Network, ESN), que mapeia os padrões de entrada-saída através de uma projeção não linear de alta dimensão, denominada reservatório. No modelo clássico de ESN, o reservatório é composto por um grande número de neurónios com ligações aleatórias, formando uma rede complexa aleatória do tipo Erdös-Rényi. Desta forma, o reservatório mapeia os dados de entrada num espaço de dimensão superior para resolver o problema da inseparabilidade linear, aplicando um algoritmo de regressão linear simples na fase de treino. Inspirados na estrutura modular de um cérebro humano, propomos novas ESNs utilizando topologia não aleatória como reservatório por modelos de redes complexas e modelos gerados via agrupamento de dados. A topologia de conetividade baseada em redes complexas no reservatório são: redes aleatórias, redes livre de escala e redes de mundo pequeno. Para gerar os reservatórios com clusters, propomos utilizar os algoritmos clássicos de agrupamento de dados: K-means, Partitioning Around Medoids, e algoritmo de Ward para simular estruturas de comunidades. Também geramos as redes livre de escala e de pequeno mundo agrupadas como reservatórios. A principal hipótese desta abordagem é que as estruturas de rede não aleatórias, especialmente as redes com clusters como reservatórios, podem captar melhor a informação de diferentes classes dos dados de treino, de tal forma que um grupo de comunidades da rede pode servir para codificar uma determinada classe de dados. Simulações numéricas em aplicações de previsão de sinais mostram que os modelos propostos apresentam uma melhoria no seu desempenho e um custo computacional mais baixo em comparação com as ESN clássicas. A utilidade dos nossos métodos baseados em ESNs foi demonstrada considerando a classificação de tecidos em imagens histopatológicas de lâminas inteiras (WSI) coradas com hematoxilina e eosina (H&E). Os modelos propostos para classificar componentes de tecido em WSI fornecem resultados que superam as técnicas clássicas e as do estado da arte.
 
WARNING - Viewing this document is conditioned on your acceptance of the following terms of use:
This document is only for private use for research and teaching activities. Reproduction for commercial use is forbidden. This rights cover the whole data about this document as well as its contents. Any uses or copies of this document in whole or in part must include the author's name.
Publishing Date
2023-09-12
 
WARNING: Learn what derived works are clicking here.
All rights of the thesis/dissertation are from the authors
CeTI-SC/STI
Digital Library of Theses and Dissertations of USP. Copyright © 2001-2024. All rights reserved.