Dissertação

Approxate: Stateful Functions for Approximate Stream Processing EVALUATED

A computação aproximada é um modelo de computação que pode ser utilizado para melhorar o desempenho, ou utilizar menos recursos no processamento de streams e grafos. Isto é feito ao diminuir a precisão dos resultados (i.e. resultados aproximados). Atualmente existem múltiplas plataformas para processar streams, a maioria não suporta nativamente resultados aproximados. Existem aplicações onde uma função (e.g. que está a ser executada como parte de um fluxo de dados) precisa de dados que são o resultado de uma operação que foi efetuada por outra função, e não tem uma forma de receber esses dados diretamente. Em vez disso, a outra função precisa de escrever os dados num componente de armazenamento, e depois têm que ser lidos a partir daí. Isto causa problemas com o desempenho (aumento de latência) e com a eficiência dos recursos (desperdício de recursos para aceder ao armazenamento) por causa do bottleneck no I/O e também aumenta o custo para o utilizador pois a aplicação necessita de realizar mais pedidos para o armazenamento. O Stateful Functions é uma plataforma que aborda este problema ao permitir que as funções troquem messagens. Este documento propõe o desenho e implementação de uma extensão para ser utilizada com o Stateful Functions. Ela permite processar streams mais eficientemente ao alocar os recursos disponíveis de uma maneira inteligente e variável e também utilizar computação aproximada. Para validar os resultados, a extensão foi avaliada com benchmarks de dados reais e sintéticos, executados localmente e na nuvem com aplicações típicas de processamento de streams.
Stateful Functions, Flink, Processamento de streams, Computação aproximada

novembro 22, 2021, 13:0

Publicação

Obra sujeita a Direitos de Autor

Orientação

ORIENTADOR

Luís Manuel Antunes Veiga

Departamento de Engenharia Informática (DEI)

Professor Associado