LLM on-device en el sector agrícola: hacia el estudio de viabilidad y retos de ingeniería

Abstract

Los Large Language Models (LLM) han demostrado un alto rendimiento en infraestructuras cloud, pero su dependencia de conectividad, la latencia y las preocupaciones sobre privacidad limitan su uso en entornos con recursos restringidos. Este trabajo presenta una investigación en curso sobre la viabilidad de ejecutar LLM on-device en escenarios móviles. El estudio se centra en un caso del sector agrícola: la asistencia en la cumplimentación de documentación en el campo con conectividad limitada. A partir de este escenario, se analizan las restricciones del hardware y los retos de ingenier´ıa asociados al dise˜no y evaluaci´on de estos sistemas, identificando problemas abiertos clave relacionados con la adecuaci´on funcional, la evaluación en condiciones reales y la integración de LLM on-device.