A modelagem em radiobiologia possibilita prever a eficácia de tratamentos radioterápicos, especificando protocolos e estratégias para se tratar pacientes com câncer. Muitos modelos matemáticos têm sido propostos para a avaliação da Probabilidade de Controle Tumoral (TCP). Nesta tese, inicialmente apresenta-se um estudo desenvolvido em colaboração com pesquisadores da Universidade de Alberta, no Canadá, em que são comparadas as TCP's obtidas através de simulações Monte Carlo e dos modelos Poissoniano, de Zaider-Minerbo (ZM) e de Dawson-Hillen (DH). Os resultados mostram que, para tumores de baixa proliferação celular, o uso do modelo Poissoniano para indicação de protocolos de tratamento é tão eficaz quanto o método Monte Carlo ou o uso de modelos mais sofisticados (ZM e DH). Na segunda parte da tese, propõe-se um teste estatístico, baseado em simulações Monte Carlo do modelo de TCP de DH, para se determinar a capacidade de previsão de erradicação de tumor (cura). Obtem-se a curva ROC do teste a partir das distribuições de probabilidade da fração de células tumorais remanescentes, nas condições de cura ou não-cura. Os resultados mostram que o método pode ser também aplicado a dados clínicos, sugerindo que a avaliação do tamanho do tumor no início da radioterapia permite a prognose do tratamento a curto prazo. Na terceira parte da tese, aborda-se o estudo da fração de sobrevivência (FS) de células tumorais em função da dose de radiação a que são submetidas. Na literatura, esta fração de sobrevivência tem sido formulada através do modelo Linear-Quadrático (LQ) e, mais recentemente, da estatística não-extensiva de Tsallis. Avalia-se o comportamento dessas duas formulações em termos dos ajustes da FS a dados experimentais da literatura (referentes a células cultivadas in vitro para vários tecidos tumorais) estendendo-se assim estudos prévios da literatura. Os parâmetros da FS para ambas formulações são obtidos e a qualidade dos ajustes da FS a dados experimentais é comparada utilizando-se o qui-quadrado reduzido. Os resultados mostram que, em geral, as duas formulações permitem bons ajustes das curvas de FS. Além deste estudo, utilizamos a estatística não-extensiva de Tsallis para obtenção da TCP de ZM em função da dose, expressando-a analiticamente em termos da função Gama (para um perfil de dose típico de radiação de feixe externo) e da função Hipergeométrica (para um perfil de dose típico de braquiterapia). Finalmente, as curvas das correspondentes TCP's são levantadas com o uso de dados experimentais e comparadas com a TCP's obtidas através do modelo LQ.

Radiobiological modeling allows one to predict the efficacy of radiotherapeutic treatments, specifying protocols and strategies to treat patients with cancer. Many mathematical models have been proposed to evaluate the Tumor Control Probability (TCP). In this thesis we first present a study in colaboration with researchers at the University of Alberta, Canada, in which we compare the TCPs obtained by Monte Carlo simulations and from the Poissonian, Zaider-Minerbo (ZM) and Dawson-Hillen (DH) models. Results show that, for low proliferation tumors, the use of the Poissonian model for indicating the treatment protocol is as effective as the Monte Carlo method or more sofisticated models (ZM and DH). in the second part of the thesis, we propose a statistical test based on Monte Carlo simulations of the DH TCP model to determine the prediction capacity of tumor eradication (cure). We obtain the ROC curve of the test from the probability distributions of the remaining tumor cells for conditions of cure and non-cure. Results show that the method can also be applied to clinical data suggesting that the evaluation of the tumor size at the beginning of the radiotherapy leads to a short-term prognosis of the treatment. In the third part of the thesis, we study the surviving fraction (FS) of tumor cells as function of the radiation dose to which they are subjected. In the literature, this surviving fraction has been formulated by the Linear-Quadratic (LQ) model and, more recently, from the Tsallis non-extensive statistics. We evaluate the behaviour of both formulations in terms of the FS fittings to experimental data in the literature (related to cells cultivated for several tumoral tissues) so that we extend previous studies in the literature. The FS parameters for both formulations are obtained and the quality of the FS fittings to experimental data is compared using the reduced chi-square. Results show that in general both formulations lead to very good FS-curve fittings. Furthermore, we use the Tsallis non-extensive statistics to obtain the ZM TCP as function of the dose, expressing it analitically in terms of the Gamma function (for a dose profile typical of external beam radiation) and the Hipergeometric function (for a dose profile typical of brachitherapy). Finally, the curves of the corresponding TCPs are plotted using experimental data and then compared with TCPs obtained from the LQ model.