OSCAR-Batch: Inferencia de Modelos de Inteligencia Artificial por Lotes en Kubernetes

Abstract

Con el creciente auge de la Inteligencia Artificial (IA), la demanda de recursos computacionales para procesar grandes volúmenes de datos ha llevado a desarrollar soluciones más escalables y eficientes. En este escenario, se creó OSCAR-Batch, que optimiza la ejecución de aplicaciones de análisis e inteligencia artificial en entornos distribuidos, ajustándose de manera dinámica al flujo de trabajo y al uso de recursos. Para ello, utiliza la herramienta OSCAR, un framework de código abierto sobre Kubernetes que permite el procesamiento de datos mediante contenedores Docker. En el marco del proyecto iMagine, centrado en el estudio de ecosistemas marinos, OSCAR-Batch facilita el procesado por lotes de la inferencia de modelos de IA sobre grandes volúmenes de datos, sin aumentar la complejidad de la orquestación. Para validar su funcionamiento, se procesaron cientos de miles de imágenes capturadas por el observatorio submarino OBSEA, un caso de uso perteneciente al proyecto iMagine, mediante un modelo de detección y clasificación de peces basado en YOLO (You Only Look Once). Este enfoque logró reducir significativamente los tiempos de ejecución y mejorar la asignación de CPU y memoria para el procesamiento de las imágenes. Así, OSCAR-Batch se presenta como una plataforma útil para abordar cargas de trabajo intensivas en análisis de datos de manera eficiente y escalable.