Systems with multiple transmitting and receiving antennas in large-scale (LS-MIMO - large-scale multipleinput multiple-output) enable high spectral and energy efficiency gains, which results in an increase in the data transmission rate in the same band, without increasing the transmitted power per user. In addition, with the increase of the number of antennas in the base station (BS) it is possible to attend to a larger number of users per cell, in the same occupied band. Furthermore, it has been found in the literature that the reported advantages of LS-MIMO systems can be obtained with a large number of antennas on at least one side of the communication, usually in BS due to physical restriction in user equipments. However, such advantages have their cost: the use of a large number of antennas also difficult tasks involving signal processing, such as estimation of channel coefficients, precoding and signal detection. It is at this juncture that this Doctoral Thesis is developed, in which the computational complexity of performing efficient detection methods in LSMIMO communication systems is explored through the analysis of algorithms and optimization techniques in the solution of specific problems and still open. More precisely, this Thesis discusses and proposes promising detection techniques in LS-MIMO systems, aiming to improve performance metrics - in terms of error rate - and computational complexity - in terms of the number of mathematical operations. Initially, the problem is introduced through a conventional MIMO system model, where channels with imperfect estimates and correlation between transmitter (Tx) and receiver (Rx) antennas are considered. Preprocessing techniques based on lattice reduction (LR) are applied in linear detectors, in addition to the sphere decoder (SD), which proposes a lookup table procedure in order to provide a reduction in computational complexity. It is shown that the LR method in the pre-detection results in a significant performance gain in both the condition of uncorrelated and correlated channels, and in the latter scenario the improvement is even more remarkable due to the diversity gain provided. On the other hand, the complexity involved in the application of LR in high correlation scenarios becomes preponderant in linear detectors. In the LR-SD using the lookup table procedure, the optimum gain was reached in all scenarios, as expected, and resulted in a lower complexity than maximum likelihood (ML) detector, even with maximum correlation between antennas, which represents the most complex scenario for the LR technique. Next, the message passing (MP) detector is investigated, which makes use of Markov random fields (MRF) and factor graph (FG) graphical models. Moreover, it is shown in the literature that the message damping (MD) method applied to the MRF detector brings relevant performance gain without increasing computational complexity. On the other hand, the DF value is specified for only a restricted range of scenarios. Numerical results are extensively generated, in order to obtain a range of analysis of the MRF with MD, which resulted in the proposition of an optimal value for the DF, based on numerical curve fitting. Finally, in the face of the MGS detector, two approaches are proposed to reduce the negative impact caused by the random solution when high modulation orders are employed. The first is based on an average between multiple samples, called aMGS (averaged MGS). The second approach deploys a direct restriction on the range of the random solution, limiting in d the neighborhood of symbols that can be sorted, being called d-sMGS. Numerical simulation results show that both approaches result in gain of convergence in relation to MGS, especially: in regions of high system loading, d-sMGS detection demonstrated significant gain in both performance and complexity compared to aMGS and MGS; although in low-medium loading, the aMGS strategy showed less complexity, with performance marginally similar to the others. Furthermore, it is concluded that increasing the dimensions of the system favors a smaller restriction in the neighborhood.

Sistemas com múltiplas antenas transmissoras e múltiplas antenas receptoras em larga escala (LS-MIMO - large-scale multiple-input multiple-output) possibilitam altos ganhos em eficiência espectral e energética, o que resulta em aumento da taxa de transmissão de dados numa mesma banda ocupada, sem acréscimo da potência transmitida por usuário. Além disso, com o aumento do número de antenas na estação rádio-base (BS- base station) possibilita-se o atendimento de maior número de usuários por célula, em uma mesma banda ocupada. Ademais, comprovou-se na literatura que as vantagens relatadas dos sistemas LS-MIMO podem ser obtidas com um grande número de antenas em, pelo menos, um dos lados da comunicação, geralmente na BS devido à restrição física nos dispositivos móveis. Contudo, tais vantagens têm seu custo: a utilização de um grande número de antenas também dificulta tarefas que envolvem processamento de sinais, como estimação dos coeficientes de canal, precodificação e detecção de sinais. É nessa conjuntura em que se desenvolve esta Tese de Doutorado, na qual se explora o compromisso desempenho versus complexidade computacional de métodos eficientes de detecção em sistemas de comunicações LS-MIMO através da análise de algoritmos e técnicas de otimização na solução de problemas específicos e ainda em aberto. Mais precisamente, a presente Tese discute e propõe técnicas promissoras de detecção em sistemas LS-MIMO, visando a melhoria de métricas de desempenho - em termos de taxa de erro - e complexidade computacional - em termos de quantidade de operações matemáticas. Inicialmente, o problema é introduzido através de um modelo de sistema MIMO convencional, em que são considerados canais com estimativas imperfeitas e com correlação entre as antenas transmissoras (Tx) e entre as receptoras (Rx). Aplicam-se técnicas de pré-processamanto baseadas na redução treliça (LR - lattice reduction) em detectores lineares, além do detector esférico (SD - sphere decoder), o qual é proposto um procedimento de tabela de pesquisa a fim de prover redução na complexidade computacional. Mostra-se que o método LR na pré-detecção resulta em ganho de desempenho significante tanto na condição de canais descorrelacionados quanto fortemente correlacionados, sendo que, neste último cenário a melhoria é ainda mais notável, devido ao ganho de diversidade proporcionado. Por outro lado, a complexidade envolvida na aplicação da LR em alta correlação torna-se preponderante em detectores lineares. No LR-SD utilizando o procedimento de tabela de pesquisa, o ganho ótimo foi alcançado em todos os cenários, como esperado, e resultou em complexidade inferior ao detector de máxima verossimilhança (ML - maximum likelihood), mesmo com máxima correlação entre antenas, a qual representa o cenário de maior complexidade a técnica LR. Em seguida, o detector por troca de mensagens (MP - message passing) é investigado, o qual faz uso de modelos grafos do tipo MRF (Markov random fields) e FG (factor graph). Além disso, mostra-se na literatura que o método de amortecimento de mensagens (MD - message damping) aplicado ao detector MRF traz relevante ganho de desempenho sem aumento na complexidade computacional. Por outro lado, o valor do DF (damping factor) é especificado para somente uma variedade restrita de cenários. Resultados numéricos são extensivamente gerados, de forma a dispor de uma gama de análises de comportamento do MRF com MD, resultando na proposição de um valor ótimo para o DF, baseando-se em ajuste de curva numérico. Finalmente, em face ao detector MGS (mixed Gibbs sampling), são propostas duas abordagens visando a redução do impacto negativo causado pela solução aleatória quando altas ordens de modulação são empregadas. A primeira é baseada em uma média entre múltiplas amostras, chamada aMGS (averaged MGS). A segunda abordagem realiza uma restrição direta no alcance da solução aleatória, limitando em até d a vizinhança de símbolos que podem ser sorteados, sendo chamada de d-sMGS (d-simplificado MGS). Resultados de simulação numérica demonstram que ambas abordagens resultam em ganho de convergência em relação ao MGS, destacando-se: em regiões de alto carregamento, a detecção d-sMGS demonstrou ganho expressivo tanto em desempenho quanto em complexidade se comparada à aMGS e MGS; já em baixo-médio carregamentos, a estratégia aMGS demonstrou menor complexidade, com desempenho marginalmente semelhante às demais. Além disso, conclui-se que o aumento do número de dimensões do sistema favorece uma menor restrição na vizinhança.