Entendiendo la IA on-device: Inteligencia Artificial segura y accesible en tus dispositivos
La IA on-device se refiere a aplicaciones de inteligencia artificial optimizadas que funcionan offline en dispositivos como smartphones y PCs, ofreciendo un uso más seguro en términos de privacidad.
En la revolución tecnológica que nos rodea, uno de los pilares fundamentales es la Inteligencia Artificial (IA). Sin embargo, junto a su auge, surgen interrogantes sobre su funcionamiento, especialmente en su adaptación a los dispositivos que usamos día a día, los llamados IA on-device.
Primero, es crucial entender el funcionamiento básico de la IA. Las aplicaciones comerciales de IA se basan en enormes conjuntos de datos (datasets) los cuales, por su tamaño, son inmanejables para descargar en dispositivos como PC o smartphones. Por ello, estos datasets se alojan en la nube, y los dispositivos acceden a ellos a través de la web.
Por supuesto, esto implica que para utilizar la IA, es necesario tener una conexión a Internet. Si bien esto aligera la carga en el hardware, suscita diversas preocupaciones privacidad. Además, no a todos los usuarios les agrada la idea de enviar sus datos a un enorme datacenter en otra parte del mundo.
¿Qué es la IA on-device?
Frente a estas problemáticas, surge la propuesta de las IA on-device. Estas son IA optimizadas, que trabajan con datasets reducidos o solo descargan una porción de estos a la vez en el dispositivo, eliminándolos cuando ya no son necesarios.
En otras palabras, las IA on-device son pequeñas aplicaciones que se instalan en teléfonos, tabletas y PCs sin ocupar demasiado espacio.
Estas aplicaciones permiten que el modelo de IA funcione offline, sin necesidad de acceder a servidores en línea y sus datasets. Esto implica que el peso de la IA recae en la CPU, GPU o VPU del dispositivo, pero garantiza un uso más seguro en términos de privacidad. Entre los primeros dispositivos que harán uso extensivo de la IA on-device se espera al Samsung Galaxy S24 Ultra, un futuro AI-Phone según los últimos rumores.
Comentarios