Versión PDF: Github
Más sobre ciencia de datos: cienciadedatos.net o joaquinamatrodrigo.github.io
Introducción
La mayoría de modelos de machine learning tienen una serie de parámetros que no pueden aprenderse de los datos, sino que tienen que ser establecidos previo entrenamiento. Ha estos parámetros se les suele conocer como hiperparámetros.
Dado que no existe forma de conocer de antemano cuáles son los valores adecuados, la única forma de identificarlos es probando diferentes combinaciones y evaluarlas mediante métodos de validación por resampling (cross-validation, bootstrapping). A este proceso se le conoce como model tuning.
Dos de las estrategias más empleadas son grid search y random search. En la primera, los valores estudiados de cada hiperparámetro se distribuyen de forma uniforme dentro de un rango delimitado por el analista. En el segundo caso, los datos son aleatorios dentro de ese rango.
Aunque estas dos estrategias son totalmente válidas y generan buenos resultados, sobretodo cuando se tiene criterio para acotar el rango de búsqueda, comparten una carencia común: ninguna tiene en cuenta los resultados obtenidos hasta el momento, lo que les impide focalizar la búsqueda en las regiones de mayor interés y evitar regiones innecesarias. Una alternativa es la búsqueda de hiperparámetros con métodos de optimización bayesiana.
En términos generales, la optimización bayesiana de hiperparámetros consiste en crear un modelo probabilístico en el que el valor de la función objetivo es la métrica de validación del modelo (rmse, auc, precisión..). Con esta estrategia, se consigue que la búsqueda se vaya redirigiendo en cada iteración hacia las regiones de mayor interés. El objetivo final es reducir el número de combinaciones de hiperparámetros con las que se evalúa el modelo, eligiendo únicamente los mejores candidatos. Esto significa que, la ventaja frente a las otras estrategias mencionadas, se maximiza cuando el espacio de búsqueda es muy amplio o la evaluación del modelo es muy lenta.
Los paquetes rBayesianOptimization y ParBayesianOptimization permiten combinar fácilmente el proceso de optimización bayesiana con el entrenamiento de de cualquier modelo.
MLR3 y ParBayesianOptimization
library(ParBayesianOptimization)
library(mlr3verse)Datos
Se emplea los datos sobre el precio de viviendas disponible en el paquete AmesHoising.
library(AmesHousing)
library(tidyverse)
datos <- make_ames()
# Se emplean únicamente las variables:
variables <- c("Sale_Price", "Bldg_Type", "Neighborhood", "Year_Built",
"Gr_Liv_Area", "Full_Bath", "Year_Sold", "Lot_Area", "Central_Air",
"Heating", "Latitude", "Longitude")
datos <- datos %>%
select(one_of(variables))task_datos <- TaskRegr$new(
id = "task_datos",
backend = datos,
target = "Sale_Price"
)
set.seed(1234)
rsmp_holdout <- rsmp("holdout", ratio = 0.8)
rsmp_holdout$instantiate(task = task_datos)
# Índices train
id_train <- rsmp_holdout$train_set(i = 1)
# Índices test
id_test <- rsmp_holdout$test_set(i = 1)
task_train <- task_datos$clone()$filter(id_train)
task_test <- task_datos$clone()$filter(id_test)Predictores
# Se define la variable respuesta y los predictores.
var_respuesta <- "Sale_Price"
# Para este modelo se emplean todos los predictores disponibles.
predictores <- task_train$feature_namesFunción de scoring
scoring_function <- function(num.trees, min.node.size) {
learner <- lrn("regr.ranger", num.threads = 4)
learner$param_set$values <- list(num.trees = num.trees,
min.node.size = min.node.size
)
resampling_cv <- rsmp("cv", folds = 5)
metrica <- msr("regr.rmse")
resampling <- resample(
task = task_train,
learner = learner,
resampling = resampling_cv,
store_models = FALSE
)
score <- resampling$aggregate(measures = metrica)
# Si la métrica es un error, dado que el proceso es de maximización, se convierte
# en negativo.
score <- -score
return(list(Score = score))
}Espacio de búsqueda
limites <- list(
# Emplear sufijo L si son valores enteros
num.trees = c(100L, 2000L),
min.node.size = c(1L, 100L)
)Optimización
set.seed(123)
bayes_opt <- bayesOpt(
FUN = scoring_function,
bounds = limites,
initPoints = 10,
iters.n = 20,
iters.k = 1,
otherHalting = list(timeLimit = 5*60)
)bayes_opt## Class: bayesOpt
##
## Epochs: 18
## Iterations: 28
## Average FUN Seconds: 7.86
## Highest FUN Seconds: 19.08
## Final Upper Conf. Bound: 0.08171149
## GP Updated: TRUE
## Stop Status: Stopped Early. See $stopStatusResultados
bayes_opt$scoreSummarygetBestPars(bayes_opt)## $num.trees
## [1] 1442
##
## $min.node.size
## [1] 1library(gganimate)
ggplot(data = bayes_opt$scoreSummary,
aes(x = num.trees, y = min.node.size, size = Score, color = Score)) +
geom_point() +
scale_color_viridis_c() +
theme_bw()
Paralelización
library(doParallel)
cl <- makeCluster(4)
registerDoParallel(cl)
clusterExport(cl, c('task_train'))
clusterEvalQ(cl, expr = {library(mlr3verse)})
set.seed(123)
bayes_opt <- bayesOpt(
FUN = scoring_function,
bounds = limites,
initPoints = 10,
iters.n = 20,
iters.k = 4,
parallel = TRUE,
otherHalting = list(timeLimit = 10*60)
)
stopCluster(cl)
registerDoSEQ()H2O y rBayesianOptimization
library(rBayesianOptimization)
library(h2o)Datos
Se emplea los datos sobre el precio de viviendas disponible en el paquete AmesHoising.
library(AmesHousing)
library(tidyverse)
datos <- make_ames()
# Se emplean únicamente las variables:
variables <- c("Sale_Price", "Bldg_Type", "Neighborhood", "Year_Built",
"Gr_Liv_Area", "Full_Bath", "Year_Sold", "Lot_Area", "Central_Air",
"Heating", "Latitude", "Longitude")
datos <- datos %>%
select(one_of(variables))Iniciación del cluster
# Creación de un cluster local con todos los cores disponibles.
h2o.init(ip = "localhost",
# -1 indica que se empleen todos los cores disponibles.
nthreads = -1,
# Máxima memoria disponible para el cluster.
max_mem_size = "4g")
# Se eliminan los datos del cluster por si ya había sido iniciado.
h2o.removeAll()
h2o.no_progress()datos_h2o <- as.h2o(x = datos, destination_frame = "datos_h2o")set.seed(123)
particiones <- h2o.splitFrame(data = datos_h2o, ratios = c(0.8), seed = 123)
datos_train_h2o <- h2o.assign(data = particiones[[1]], key = "datos_train_h2o")
datos_test_h2o <- h2o.assign(data = particiones[[2]], key = "datos_test_h2o")Predictores
# Se define la variable respuesta y los predictores.
var_respuesta <- "Sale_Price"
# Para este modelo se emplean todos los predictores disponibles.
predictores <- setdiff(h2o.colnames(datos_train_h2o), var_respuesta)Función de scoring
scoring_function <- function(learn_rate, max_depth, sample_rate) {
nfolds <- 3
metrica <- "RMSE"
modelo <- h2o.gbm(
# Variable respuesta y predictores
y = var_respuesta,
x = predictores,
# Datos de entrenamiento
training_frame = datos_train_h2o,
# Preprocesado
ignore_const_cols = TRUE,
# Hiperparámetros
ntrees = 5000,
learn_rate = learn_rate,
max_depth = max_depth,
sample_rate = sample_rate,
# Estrategia de validación
seed = 123,
nfolds = nfolds,
# Parada temprana
stopping_rounds = 5,
stopping_metric = metrica,
stopping_tolerance = 0.001,
score_tree_interval = 100
)
score <- h2o.performance(model = modelo, xval = TRUE)@metrics[[metrica]]
# Si la métrica es un error, dado que el proceso es de maximización, se convierte
# en negativo.
score <- -score
return(list(Score = score))
}Espacio de búsqueda
limites <- list(
# Emplear sufijo L si son valores enteros
learn_rate = c(0.01, 0.1),
max_depth = c(1L, 20L),
sample_rate = c(0.5, 1)
)Optimización
set.seed(123)
bayes_opt <- BayesianOptimization(
FUN = scoring_function,
bounds = limites,
init_points = 4,
n_iter = 4,
acq = "ucb",
kappa = 2.576,
eps = 0.0,
verbose = TRUE
)## elapsed = 57.26 Round = 1 learn_rate = 0.0359 max_depth = 19.0000 sample_rate = 0.7757 Value = %#5.0-1e
## elapsed = 23.25 Round = 2 learn_rate = 0.0809 max_depth = 2.0000 sample_rate = 0.7283 Value = %#5.0-1e
## elapsed = 23.68 Round = 3 learn_rate = 0.0468 max_depth = 11.0000 sample_rate = 0.9784 Value = %#5.0-1e
## elapsed = 29.73 Round = 4 learn_rate = 0.0895 max_depth = 18.0000 sample_rate = 0.7267 Value = %#5.0-1e
## elapsed = 27.83 Round = 5 learn_rate = 0.0432 max_depth = 9.0000 sample_rate = 0.9486 Value = %#5.0-1e
## elapsed = 32.18 Round = 6 learn_rate = 0.0100 max_depth = 1.0000 sample_rate = 0.7140 Value = %#5.0-1e
## elapsed = 34.10 Round = 7 learn_rate = 0.0698 max_depth = 19.0000 sample_rate = 0.6088 Value = %#5.0-1e
## elapsed = 42.21 Round = 8 learn_rate = 0.0789 max_depth = 20.0000 sample_rate = 0.6695 Value = %#5.0-1e
##
## Best Parameters Found:
## Round = 2 learn_rate = 0.0809 max_depth = 2.0000 sample_rate = 0.7283 Value = %#5.0-1eResultados
bayes_opt$Historybayes_opt$Best_Par## learn_rate max_depth sample_rate
## 0.08094746 2.00000000 0.72830737Bibliografía
https://blog.revolutionanalytics.com/2016/06/bayesian-optimization-of-machine-learning-models.html
https://github.com/AnotherSamWilson/ParBayesianOptimization
Este material, creado por Joaquín Amat Rodrigo, tiene licencia Attribution-NonCommercial-ShareAlike 4.0 International.
Se permite:
-
Compartir: copiar y redistribuir el material en cualquier medio o formato.
-
Adaptar: remezclar, transformar y crear a partir del material.
Bajo los siguientes términos:
-
Atribución: Debes otorgar el crédito adecuado, proporcionar un enlace a la licencia e indicar si se realizaron cambios. Puedes hacerlo de cualquier manera razonable, pero no de una forma que sugiera que el licenciante te respalda o respalda tu uso.
-
NoComercial: No puedes utilizar el material para fines comerciales.
-
CompartirIgual: Si remezclas, transformas o creas a partir del material, debes distribuir tus contribuciones bajo la misma licencia que el original.