A modelagem das interações entre macromoléculas e ligantes ainda se depara com diversos desafios na área de desenho de fármacos assistidos por computador. Apesar do crescimento da área, temas como a flexibilidade do receptor, funções de pontuação e solvatação ainda têm sido alvo de intensa investigação na comunidade científica. Com o objetivo de analisar a interação em milhares ou milhões de complexos, é imprescindível uma boa harmonização entre o custo computacional e a acurácia dos métodos computacionais que permitem a classificação de ligantes de acordo com a energia de interação. O LiBELa (Ligand Binding Energy Landscape) é um programa de docagem molecular com abordagem híbrida, ou seja, utiliza informações do ligante e do receptor durante o processo de docagem. Inicialmente, as características estéricas e eletrostáticas de um ligante de referência (cristalográfico, por exemplo) são utilizadas nos cálculos de similaridade e sobreposição, obtendo assim uma conformação inicial pré-otimizada do ligante testado. Em seguida, a energia de interação é minimizada no sítio ativo de receptor a partir de potenciais energéticos. Quatro funções de pontuação baseadas em campo de força foram testadas e otimizadas, compostas por potenciais de van der Waals, de Coulomb, e uma função empírica de solvatação denominada função de Stouten-Verkhivker (SV). A flexibilidade do sistema foi tratada através da geração de confôrmeros que amostram os graus de liberdade dos ligantes descritos como semi-rígidos e através de potenciais atenuados que suavizam a superfície de energia de interação, permitindo interações em distâncias interatômicas antes repulsivas. Como ponto de partida, os métodos implementados no programa LiBELa demonstraram resultados satisfatórios nos testes de cross- e self-docking, mostrando ser uma ferramenta eficiente em encontrar os modos de ligação cristalográficos de forma equivalente ou até melhor às dos programas comparados. Através de testes de enriquecimento nos conjuntos de dados DUD, DUDE e CM-DUD, foram otimizadas de forma sistemática as constantes dielétrica, do termo de solvatação, e dos termos de atenuação. Também foi realizado um paralelo entre as funções de pontuação, incluindo a atenuação e o termo de solvatação. Estes mesmos testes mostraram resultados superiores do LiBELa de 39% e 15% em comparação com um programa baseado puramente no receptor (DOCK 6.6), relativo à média da área sob a curva em escala semi-logarítmica nas bases de dados DUDE e DUD respectivamente. Apesar da função de solvatação SV implementada no LiBELa apresentar boa correlação com dados experimentais (r=0,72) e com o modelo Zou GB de solvatação (r=0,88), não apresentou correlação significativa com os métodos GB e PB implementados no pacote de programas disponível no AmberTools. Comparadas às funções de pontuação do LiBELa, as funções com correção para solvatação apresentaram pior enriquecimento, salvo alguns alvos específicos. Por fim, foram realizados ensaios de docagem molecular utilizando como alvo uma enzima β-galactosidase da família GH42, cuja estrutura fora resolvida em nosso grupo. Os resultados permitiram conclusões acerca de como o modo de ligação interfere na preferência de ligação entre dissacarídeos de ligações glicosídicas distintas, consistentes com dados experimentais de ensaios cinéticos de ligação.

Modeling the interactions between macromolecules and ligands still faces several challenges in the computer-aided drug design area. Despite the growth in the area, subjects such as receptor flexibility, scoring functions and solvation still have been widely explored in the scientific community. In order to analyze the interaction for thousands or millions of complexes, a good harmonization between the computational cost and the accuracy of the calculation methods in molecular docking programs is essential. LiBELa (Ligand Binding Energy Landscape) is a hybrid approach program that uses both ligand and receptor information for ligand docking. Initially, the steric and electrostatic characteristics from a reference binder (crystallographic, for example) are used to similarity and overlay calculations, thus obtaining an initial conformation of the ligand tested. Then, within the receptor´s active site, the interaction energy is minimized using energetic potentials. Four force field-based scoring functions were tested and optimized, composed of van der Waals and Coulomb potentials and an empirical solvation function called Stouten-Verkhivker (SV). Concerning the system flexibility, besides the confomers generation that sample the degrees of freedom for semi-rigid ligands, attenuated potentials smooth the energy surface allowing interactions between previously repulsive interatomic distances. As a starting point, LiBELa performed satisfactorily in the cross- and self-docking tests, showing that is an eficient tool to reproduce crystallographic binding modes equivalently to or even better than reference programs. Through enrichment of DUD, DUDE and CM-DUD datasets, the dielectric constant, solvation and softening terms were systematically optimized. It also allowed a parallel between scoring functions, including attenuation and solvation term. Finally, it revealed the LiBELa showed an enhancement of 39% and 15% as compared to the purely receptor-based program DOCK 6.6, relative to the mean of the area under the curve on a semi-logarithmic scale in the DUDE and DUD databases respectively. Although the SV solvation function implemented in LiBELa showed good correlations with experimental data (r = 0.72) and with the Zou GB / SA solvation method implemented in DOCK6 (r = 0.88), it did not show significant correlation with the GB/SA and PB/SA methods implemented in AmberTools. Comparing all the LiBELa tested scoring functions, those including solvation correction showed worse enrichments, except for some specific targets. Finally, molecular docking experiments using LiBELa were conducted with a β-galactosidase from GH42 family, whose structure was solved in our group. The results allowed conclusions concerning how the binding mode interferes the preference for some disaccharides of distinct glycosidic bonds, consistent with experimental data from kinetic assays.