Esta tese estuda modificações no sistema operacional Linux para a arquitetura x86 da Intel, com a finalidade de aumentar o desempenho, nessa plataforma, das aplicações de processamento digital de sinais em tempo real. Inicialmente são estabelecidos requisitos para um sistema operacional voltado para o processamento digital de sinais. Os requisitos são estabelecidos com base na estrutura dos programas de processamento digital de sinais em tempo real e nas situações mais comuns nesse tipo de processamento. Um fator chave quando se trata de processamento em tempo real é a latência para colocar o aplicativo em execução. Nesse contexto, o trabalho desenvolve um modelo para a latência no tratamento das interrupções externas no Linux. Usando esse modelo é desenvolvido um método para medir as várias componentes dessa latência, método este baseado na colocação de marcadores de tempo no núcleo do Linux. O método de medida proposto é usado para medir a latência do Linux no tratamento de uma interrupção externa em três condições diferentes. O estudo finaliza propondo, implementando e testando alterações no Linux que visam melhorar o desempenho, desse sistema, em aplicações de processamento digital de sinais em tempo real.

This work studies modifications in the Linux operating system for the Intel x86 architecture, with the purpose of increasing the performance in applications of digital signal processing in real-time. Initially the requirements for a digital signal processing operating systems are established. These requirements are based on the structure of the programs of digital signal processing in real-time and the most common situations in this type of processing. An important factor in real-time processing is the latency to put the process in execution. In this context, this work develops a latency model for the I/O interrupts handling in Linux. By using this model, a method is developed to measure components of this latency. This measurement method is based on time markers collocated in the Linux kernel. The proposed method is used to measure the Linux latency for an I/O interrupt handling in three different conditions. Finally this research proposes, implements and tests alterations in Linux with the purpose of increasing the performance of this operating system in applications of digital signal processing in real-time.