Visando atender a massificação das tecnologias da informação e comunicação (TIC) por meio de um aproveitamento mais eficiente da infra-estrutura de fibras ópticas, as redes ópticas DWDM vem passando por significativa evolução de capacidade, com base no uso de formatos de modulação avançados, para canais operando em taxas de 100 Gb/s e superiores, bem como no emprego de topologias dinâmicas e reconfiguráveis. Estas redes ópticas de nova geração impõe novos requisitos de desempenho aos amplificadores ópticos. Especificamente, as características dinâmicas da rede tornam obrigatório o uso de esquemas de controle que assegurem estrita planicidade espectral de ganho enquanto o emprego de formatos de modulação avançados e de alta ordem requer margens mais estreitas em termos da relação sinal-ruído aceitável para detecção dos sinais recebidos. Neste contexto, esta tese propõe e avalia experimentalmente uma topologia de amplificação óptica híbrida Raman/EDFA, introduzindo um novo esquema de controle automático de ganho e apresentando desempenho superior aos amplificadores atualmente usados em redes DWDM reconfiguráveis. O amplificador óptico híbrido desenvolvido baseia-se em um estágio Raman distribuído contra-propagante, com excelente desempenho de figura de ruído (porém com baixa eficiência de conversão de bombeio em amplificação - PCE) seguido de um estágio EDFA, que assegura alta potência de saída, devido a sua elevada PCE. Ganho espectral plano foi obtido por meio de uma técnica de controle automático de ganho inovadora, baseada na atuação paralela e independente de duas malhas de controle automático de ganho, uma primeira aplicada ao estágio de amplificação Raman visando ganho-alvo variável com baixa variação espectral, enquanto outra malha de controle de ganho visa fornecer ganho alvo fixo ao estágio EDFA, com alta potência de saída.

Seeking to support the massive deployment of information and communication technologies (ICTs) by means of a more efficient usage of the optical fiber infrastructure, DWDM optical networks have been undergoing a significant capacity evolution, by using advanced modulation formats for optical channels operating at data rates of 100 Gb/s and beyond, as well as by employing dynamic and reconfigurable network topologies. These new generation optical networks impose new performance benchmarks on the optical amplifiers. Specifically, the dynamic characteristics of the network make mandatory the deployment of control schemes which assure stringent optical gain spectral flatness while the usage of high-order advanced modulation formats translate into more strict margins of signal-to-noise ratios for the detected signals. In this context, this thesis proposes and experimentally evaluates an hybrid Raman/ EDFA optical amplifier topology, introducing a novel automatic gain control scheme and demonstrating improved performance over the optical amplifiers already in use in DWDM reconfigurable networks. The developed hybrid optical amplifier is based on a distributed counter-propagating Raman stage, displaying excellent noise figure performance (albeit presenting low conversion efficiency - PCE) followed by an EDFA stage, which assures high output power, due to its high PCE. Flat spectral gain was achieved by means of a novel gain control technique, based on the parallel and independently acting of two control schemes, the first applied over the Raman amplifying stage, aiming at a variable target gain and low spectral gain ripple, while the other seeks to attain a fixed target gain at the EDFA, assuring a high output power.