Dissertação
IndoorExplorers: an OpenAI Gym environment for Multi-UAV Exploration Algorithms EVALUATED
O objetivo deste trabalho é o desenvolvimento de um ambiente de simulação de OpenAI Gym para a exploração de um espaço interior, com recurso a um enxame de Unmanned Aerial Vehicles (UAVs), Aeronaves Não Tripuladas em português. Cada UAV estará equipado com sensores Light Detection And Ranging (LiDAR) e deverá ter a capacidade de navegar de forma segura pelo espaço em questão, ou seja, deverá ser capaz de detetar e evitar qualquer tipo de objetos. A exploração de um espaço consiste em planear um caminho ótimo para recolher o máximo de informação possível sobre o mesmo, neste caso para a criação do seu mapa. O recurso a enxames de UAVs permite a concretização de tarefas mais complexas, rapidamente, com menos custos e de forma mais segura para as pessoas. O ambiente foi desenhado para ser compatível com a infraestrutura de OpenAI Gym e foi utilizado para testar um algoritmo de Reinforcement Learning (RL) para o planeamento de trajetórias, concretamente Dueling Double Deep Q-Learning (DDDQN). De momento, o ambiente desenvolvido permite realizar testes em mapas 2D com até quatro UAVs, cada um equipado com um sensor LiDAR simulado, em cenários com e sem comunicação entre UAVs. Os resultados obtidos comparam duas abordagens para acelerar o treino da DDDQN. Adicionalmente, também foi feita uma análise do impacto que o número de agentes tem e como é que a comunicação afeta a performance do algoritmo .
novembro 27, 2023, 15:30
Publicação
Obra sujeita a Direitos de Autor
Orientação
ORIENTADOR
António Manuel Raminhos Cordeiro Grilo
Departamento de Engenharia Electrotécnica e de Computadores (DEEC)
Professor Associado
ORIENTADOR
João Paulo Baptista de Carvalho
Departamento de Engenharia Electrotécnica e de Computadores (DEEC)
Professor Associado