Obter bons desempenhos de modelos de aprendizado de máquina geralmente requer que os hiperparâmetros sejam ajustados. Entretanto, é complicado encontrar uma função matemática bem definida entre os valores do hiperparâmetro e o desempenho do modelo. A coleta de valores de desempenho do modelo é cara e ainda o comportamento das funções de desempenho tende a ser imprevisível, com muitas regiões de oscilação ou mesmo regiões descontínuas. Além disso os hiperparâmetros podem ser contínuos, discretos, categóricos ou condicionais, o que torna o problema de ajuste de hiperparâmetros complexo. Muitas técnicas foram desenvolvidas para solucionar esse problema. Neste trabalho, é apresentada a técnica BarySearch: um método livre de derivação com baixo custo computacional. Essa técnica apresenta um bom compromisso entre resultado e esforço de execução. O BarySearch utiliza do método do baricentro já utilizado em sintonização de controladores. O método apresenta características de convergências interessantes e pode comportar similar a um gradiente descendente ou métodos evolucionários sob suposições razoáveis.

Obtaining good models in machine learning applications often requires hyperparameters to be tuned. However, it is rarely possible to find a well-defined mathematical relationship between the values of the hyperparameters and the performance of the model. Performance evaluation is computationally expensive, the behavior of the objective function tends to be unpredictable and oscillatory, and hyperparameters may not be continuous, which makes the tuning process a challenging optimization problem. Many optimization techniques have been developed to solve this complicated problem. In this work, we present the BarySearch technique: a derivative-free optimization technique with a low computational cost. This technique exhibits a good compromise between performance and execution effort. BarySearch uses the barycenter method, already used in some controller optimization techniques. The method has interesting properties in terms of convergence and may behave in a manner similar to the descending gradient or evolutionary methods under reasonable assumptions.