This thesis investigates and proposes new models for the digital compensation of radio frequency (RF) imperfections in broadband wireless transmitters, more specifically for non-linear power amplifiers (PA) subject to load impedance mismatch (LMM). Such imperfections in RF transmitters, together with the in-phase and quadrature (IQ) imbalance in digital modulators, are responsible for degrading the transmitter's performance, in terms of spectral purity, modulation quality and bit error rate (BER). Several practical scenarios in which PAs are subject to LMM motivate the research for more advanced non-linear behavioral models with memory for digital predistortion (DPD), capable of overcoming the limitations reported in the literature of traditional polynomial models, while being less complex than existing approaches to PA LMM. This thesis proposes the application of the Wiener-Hammerstein with feedback (WHFB) polynomial model as a simplified behavioral model for DPD in the context of PAs subject to LMM. The high dimensionality of the proposed WHFB structure can be reduced through sparse estimation techniques, such as the least absolute shrinkage and selection operator (LASSO) and group LASSO extensions, which are able to significantly decrease the number of coefficients needed, thus reducing the length of the DPD filter and, proportionally, the cost of filtering. In addition, block-oriented LASSO extensions, such as Group-LASSO and Sparse-group LASSO, are applied in the context of model sizing, that is, in the task of determining appropriate values for the model parameters, which traditionally requires an exhaustive search. Dense and sparse WHFB models are experimentally validated through measurements from an experimental test set-up and also compared to others, including models based on parallel factors (PARAFAC) decomposition and on Laguerre expansion, thus demonstrating their ability to adequately compensate for subject PAs the LMM. Finally, a new strategy for reducing the Volterra model is proposed, which results in a more flexible and modular memory polynomial, in which the parameters are chosen independently for each order of nonlinearity. This flexible approach is able to accurately describe a wide range of operating/environmental conditions of PAs.

Esta tese investiga e propõe novos modelos para a compensação digital de imperfeições de rádio frequência (RF - radio frequency) em transmissores sem fio de banda larga, mais especificamente para amplificadores de potência (PA - power amplifiers) não-lineares e sujeitos a descasamento de impedância de carga (LMM - load mismatch). Tais imperfeições em transmissores de RF, juntamente com o desbalanceamento entre as componentes em fase e quadratura (IQ - in-phase and quadrature) em moduladores digitais, são responsáveis por degradar o desempenho do transmissor, tanto em termos de pureza espectral, quanto em qualidade da modulação e taxa de erro de bit (BER - bit error rate). Diversos cenários práticos em que PAs estão sujeitos a LMM motivam a pesquisa por modelos comportamentais não-lineares e com memória voltados a predistorção digital (DPD - digital pre-distortion) mais avançados, capazes de superar as limitações relatadas na literatura de modelos tradicionais e que sejam menos complexos do que as abordagens existentes para PA LMM. Nesta tese é proposta a aplicação do modelo polinomial Wiener-Hammerstein com realimentação (WHFB - Wiener-Hammerstein with feedback) como modelo comportamental simplificado para DPD no contexto de PAs sujeitos a LMM. A elevada dimensionalidade da estrutura WHFB proposta pode ser reduzida através de técnicas esparsas de estimação, tais como o operador de encolhimento e seleção absoluto mínimo (LASSO - least absolute shrinkage and selection operator) e extensões de LASSO em blocos, que são capazes de diminuir significativamente o número de coeficientes necessário, reduzindo, assim, o comprimento do filtro de DPD e, proporcionalmente, o custo da filtragem. Além disso, extensões de LASSO voltadas a blocos, como Group-LASSO e Sparse-group LASSO, são aplicadas no contexto de dimensionamento do modelo, ou seja, na tarefa de determinar valores adequados para seus parâmetros, o que, tradicionalmente, requer uma busca exaustiva. Os modelos WHFB denso e esparso são validados experimentalmente através de medições em um set-up de testes experimental e também comparados a outros, incluindo modelos baseados na decomposição em fatores paralelos (PARAFAC - parallel factors) e na expansão de Laguerre, demonstrando, assim, sua capacidade de compensar adequadamente PAs sujeitos a LMM. Finalmente, é proposta uma nova estratégia de redução do modelo de Volterra, que resulta em um polinômio de memória mais flexível e modular, em que os parâmetros são escolhidos independentemente para cada ordem de não linearidade. Esta abordagem flexível é capaz de descrever com precisão uma gama ampla de condições operacionais/ ambientais de PAs.