La inteligencia artificial ya nos ha invadido, pero ahora enfrenta nuevos desafíos. Uno de ellos es la eficiencia: Sostener tantos modelos en línea demanda mucha energía, y algunas compañías apuestan al «rendimiento por vatio» para promocionar sus productos. Así llegamos al Raspberry Pi AI Kit, un paquete de hardware compatible con el Raspberry Pi 5 destinado a acelerar tareas de «aprendizaje de máquinas» como reconocimiento de objetos, detección de poses, segmentación de imágenes, y otras aplicaciones que dependan de una cámara.
¿Quieres una inteligencia artificial local? En estos días es suficiente con instalar Ollama, y descargar alguno de los modelos compatibles. Si bien necesitarás poder de fuego para que se ejecuten correctamente (eso incluye espacio en disco) y una buena dosis de paciencia cuando comienzan a delirar, lo cierto es que el proceso no genera mayores dolores de cabeza, y todo el software es gratuito.
Sin embargo, existen otras aplicaciones que van más allá del chat. En esa dirección apunta la Raspberry Pi Foundation con su nuevo producto, el Raspberry Pi AI Kit. Este paquete trae dos componentes: Un adaptador M.2 HAT+, y el módulo acelerador propiamente dicho, basado en el chip Hailo-8L.
¿Qué se puede hacer con el Raspberry Pi AI Kit?
Jeff Geerling nos explica en su último vídeo que el punto fuerte del Raspberry Pi AI Kit se encuentra en tareas visuales. Lo más notable es que el chip Hailo-8L oscila entre 3 y 4 TOPS por vatio, superando a sus competidores directos en eficiencia, y precio. Ahora, no tiene ningún sentido entrenar a un modelo en este hardware (deberás esperar varios días), pero el salto de rendimiento bajo ciertos entornos es notable. Por ejemplo, YOLOv5 funciona a dos o tres cuadros por segundo sobre el CPU del Raspberry Pi, sin embargo, el offloading es completo con el módulo AI, liberando al procesador para otras aplicaciones.
Obviamente, esto no quiere decir que el Raspberry Pi AI Kit sea apropiado para cualquier carga de trabajo. Generación de imágenes y modelos de lenguaje (léase «ChatGPT») son cosas que requieren mucho más hardware… pero tampoco es algo imposible. Si el módulo es accesible y está bien documentado, el software aparecerá, y con 70 dólares en su etiqueta, probablemente haga más ruido de lo que imaginamos.
Sitio oficial: Haz clic aquí
