Esta dissertação de mestrado investiga os formatos de modulação óptica alternativos ao tradicional formato binário de intensidade (NRZ - Non-return-to-zero), ditos avançados, como tecnologia chave para atender às exigências do mercado atual de telecomunicações por transporte de grande volume de dados e alta largura de banda, associados com a redução do custo da informação transmitida por bit. Os formatos avançados de modulação óptica fazem parte das tecnologias que estão sendo investigadas intensamente com o objetivo de superar os desafios impostos pela nova geração de sistemas ópticos com taxas a partir de 40 Gb/s. Este trabalho focaliza o estudo dessa tecnologia, apresentando uma visão geral dos formatos mais discutidos atualmente, suas características e tecnologias de implementação. Foram realizadas simulações utilizando o software comercial Optisystem versão 7.0 da empresa canadense Optiwave Systems Inc., para analisar o desempenho de alguns formatos de modulação de intensidade e de fase com respeito à sensibilidade do receptor, resistência ao cascateamento de filtragem óptica e a efeitos dispersivos e não-lineares. Procurou-se avaliar os formatos em enlaces reais, com características necessárias à sua possível utilização. Também é feita uma breve consideração dos custos associados aos formatos de modulação analisados neste trabalho. Dentre os formatos analisados, os RZ (Return-to zero) apresentaram maior sensibilidade do receptor e melhor tolerância aos efeitos não-lineares que os seus equivalentes NRZ, porém baixa tolerância aos efeitos dispersivos e ao cascateamento de filtragem óptica. O formato duobinário mostrou fraco desempenho de sensibilidade, mas provou ser o mais tolerante à dispersão cromática e à concatenação de filtragem óptica. Os formatos de modulação de fase mostraram ser bem resistentes aos efeitos não-lineares e aos efeitos dispersivos.

This MSc thesis investigates optical modulation formats as an alternative to the use of the traditional intensity binary format NRZ (Non-return-to-zero). Those formats, classified as advanced, represent one of the key technologies aimed to enable the high data volume and broadband, demanded by the present telecommunication market, with cost reduction of transmitted information per bit. Those technologies have been intensevely studied with purpose of overcoming the challenges imposed by the new generation of optical systems, with bit rates from 40 Gb/s. This work focuses on the study of modulation formats most discussed currently, presenting an overview of their main characteristics and implementation techniques. The performance of some intensity and phase formats, in terms of receiver sensitivity, optical filtering cascading, dispersion and nonlinear effects robustness, have been theoretically analyzed from simulations carried out with the commercial software Optisystem v. 7.0, of the Canadian company Optiwave Systems Inc. The analysis has been applied to real optical links, with characteristics that, potentially, demand their use. A cost analysis, based on estimated values associated to devices required for implementing the formats investigated in this work, is also presented. Among the formats studied, those based on RZ (Return-to zero) presented the highest receiver sensitivity and best tolerance to nonlinear effects, in comparison to their equivalent formats, based on NRZ. However, they are less tolerant to dispersive effects and optical filtering cascading. The duobinary format (DB) has shown a weak performance in terms of sensitivity, though has been proved to be the most tolerant to chromatic dispersion and filtering cascading effects. Among all formats, the phase modulation ones presented the highest resistance against nonlinear and dispersive effects.