A seleção de grupo foi proposta inicialmente em um contexto ecológico como uma força seletiva agindo sobre o grupo da mesma forma que a seleção individual atua sobre os indivíduos que compõem a população. Apesar da oposição inicial dos biólogos evolucionários tradicionais, nas últimas décadas estes conceitos têm se revelado bastante úteis no estudo de problemas pouco relacionados a sua motivação original. Na primeira parte desta tese, investigamos um modelo de seleção de grupo que usa a extinção diferenciada como força seletiva atuando sobre os grupos. Neste modelo a população é composta de grupos que no jargão de seleção de grupo são denominados demes. As demes por sua vez são habitadas por indivíduos de dois tipos (altruístas não-altruístas) que podem reproduzir-se, sofrer mutação e migrar de uma deme a outra. A dinâmica da população é implementada lançando-se mão de matrizes de transição associadas a cada um destes eventos, levando a um conjunto de equações de recorrência aclopadas cuja iteração dá o estado estacionário da freqüência dos diferentes tipos de demes na população. Examinado inicialmente no regime determinístico, no qual o número de demes é infinito mas o número de indivíduos em cada demes é finito, este modelo revelou o papel desestabilizador das mutações sobre as demes totalmente altruístas. Seguido ao regime determinístico, fizemos um estudo do modelo ainda com extinção diferenciada, considerando o número de demes finito, com vistas a investigar os efeitos provocados pela finitude da população no estado estacionário da freqüência de demes na população. Observamos um aumento ainda maior da instabilidade do estado altruísta provocado pela mutação em face da diminuição da quantidade de demes presentes na população. Finalmente, investigamos um modelo para a evolução da produção de enzimas que usa a seleção de grupo característico em sua concepção. Esta modalidade de seleção de grupo baseia-se no conceito de freqüência média subjetiva, uma freqüência estimada com base na estrutura da população que neste caso também é composta por grupos. Apresentamos uma nova formulação matemática para o mesmo problema com a qual abordamos outro modelo recentemente proposto na literatura que trata da evolução de características altruístas.

Group selection was proposed initially within an ecological context as an evolutionary selective force acting on a group in the same way as the individual selection does on the individuals composing the population. Despite the initial resistance of the conservative evolutionary biologists concerning the ideas of group selection, in the last decades those concepts have been very useful in the investigation of other problems not very correlated to its original motivation. In the first part of this thesis, we investigate a group selection model based on differential extinction as a selective force. In this model, the population is divided into groups, which in the context of group selection are termed demes. The demes are inhabited by two different types of individuals, namely, altruists and non-altruists, which are capable of reproducing themselves, mutating to the other type, or migrating to another deme. The population dynamics is formulated resorting to the transition matrices associated to those events, resulting in a set of coupled recursion equations describing the time evolution of the frequencies of the different types of demes in the population. Considering first the deterministic regime, which corresponds to the limit of infinite demes, each deme containing only a finite number of individuals, this model reveals the destabilizing role of the mutation mechanism on the altruistic demes. Following that analysis, we investigate a stochastic version of the above model, in which the number of demes is finite. The focus was on the effects of the finiteness of the population in the stationary frequencies of the demes. We verified that the instability of the altruistic state due to mutations becomes even more pronounced when the number of demes is reduced. Finally, we investigate a model for the evolution of enzymes production using the concepts of trait-group selection. This kind of group selection is based on the definition of the average subjective frequency, which is estimated by considering the structure of the population. We propose a new mathematical formulation to this problem, which we then use to study a recently proposed model to describe the evolution of altruistic features.