• JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
 
  Bookmark and Share
 
 
Master's Dissertation
DOI
https://doi.org/10.11606/D.45.2020.tde-26052020-230822
Document
Author
Full name
Fernanda de Camargo Magano
E-mail
Institute/School/College
Knowledge Area
Date of Defense
Published
São Paulo, 2020
Supervisor
Committee
Braghetto, Kelly Rosa (President)
Alcazár, José de Jesus Pérez
Schwerz, André Luis
Title in Portuguese
Dataflows de tempo real como abstração para ferramentas de processamento de Big Data
Keywords in Portuguese
Cidades inteligentes
Dataflows
Processamento de big data
Workflows
Abstract in Portuguese
Grandes volumes de dados, provenientes de diversas fontes, são gerados continuamente nas cidades. O processamento e análise desses dados desempenham um papel fundamental na implementação de iniciativas para cidades inteligentes. Para processar Big Data urbano, é fundamental o uso de ferramentas de alto desempenho, que possam se beneficiar de computação paralela e distribuída para acelerar o processamento e prover respostas rápidas. Entretanto, esse uso não é trivial, pois as ferramentas, geralmente, não são interoperáveis e demandam que seus usuários tenham conhecimentos de computação paralela e distribuída e bancos de dados. Além disso, em cidades inteligentes, uma aplicação precisa ser capaz de se adaptar ao contexto atual de sua execução. Por exemplo, uma aplicação que mostra a situação atual do trânsito, em um contexto de indisponibilidade momentânea de dados coletados em tempo real, deve poder mostrar uma previsão do trânsito baseada em dados históricos, sendo necessária a combinação de processamento de dados em tempo real e em lotes. O objetivo deste trabalho é facilitar o uso de ferramentas de processamento de Big Data para desenvolvedores de software. Para isso, foi criada uma interface para especificação de workflows para o processamento de dados (ou dataflows) e um sistema de software que possibilita a execução deles em diferentes ferramentas de Big Data. Por um lado, a interface sintetiza os principais recursos dessas ferramentas, abstraindo suas especificidades e fornecendo uma representação padronizada para eles. Por outro lado, o sistema de software mapeia os dataflows definidos por meio da interface em modelos inteligíveis às ferramentas. A interface e o sistema propostos formam uma camada de abstração sobre os arcabouços de Big Data. Ambos foram validados e avaliados por meio da implementação de uma aplicação no domínio de mobilidade urbana, que processa dados reais da cidade de São Paulo. A aplicação escrita com o auxílio da interface foi analisada por meio de métricas de código-fonte. A partir da análise, foi possível concluir que houve ganhos com o uso da interface, como a redução no número de linhas, métodos, atributos, bem como a diminuição da complexidade ciclomática do código-fonte.
Title in English
Real time dataflows as abstraction for Big Data processing tools
Keywords in English
Big data processing
Dataflows
Smart cities
Workflows
Abstract in English
Large volumes of data, from different sources, are continuously generated in cities. Processing and analyzing these data play a key role in implementing smart city initiatives. In order to process urban Big Data, it is essential to use high performance tools, which can benefit from parallel and distributed computing to accelerate the processing and provide quick answers. However, this use is not trivial, as the tools are not interoperable and require knowledge of parallel and distributed computing and databases from their users. In addition, in smart cities, applications need to be able to self-adapt to the current context of their execution. For example, an application that shows the current traffic situation, in a context of momentary unavailability of data collected in real time, should be able to show a traffic forecast based on historical data, using a combination of real time and batch data processing. In this work, the goal is to facilitate the use of Big Data processing tools for software developers and, for that, we created an interface to specify workflows for data processing (or dataflows) and a software system that makes it possible to run them in different Big Data tools. On the one hand, the interface summarizes the main features of these tools, abstracting their specificities and providing a standardized representation for them. On the other hand, the software system maps the dataflows defined through the interface to intelligible models for the tools. The developed interface and system form an abstraction layer over the Big Data frameworks. Both were validated and evaluated through the implementation of an application in the field of urban mobility, using real data collected from the city of São Paulo. The application written with the aid of the interface was analyzed using source code metrics. From the analysis, it was possible to conclude that there was gain from the use of the interface, such as reducing the number of lines, methods, attributes, as well as decreasing the cyclomatic complexity of its source code.
 
WARNING - Viewing this document is conditioned on your acceptance of the following terms of use:
This document is only for private use for research and teaching activities. Reproduction for commercial use is forbidden. This rights cover the whole data about this document as well as its contents. Any uses or copies of this document in whole or in part must include the author's name.
Publishing Date
2020-05-27
 
WARNING: Learn what derived works are clicking here.
All rights of the thesis/dissertation are from the authors
CeTI-SC/STI
Digital Library of Theses and Dissertations of USP. Copyright © 2001-2024. All rights reserved.