Kernel Creativo
Aprendizaje federado: inteligencia artificial que respeta tu privacidad

Aprendizaje federado: inteligencia artificial que respeta tu privacidad

Los modelos de inteligencia artificial necesitan datos para aprender, y los datos más valiosos suelen ser los más personales: tus mensajes, tus fotos, tu historial médico. Reunirlos todos en un servidor central genera riesgos evidentes de privacidad. El aprendizaje federado propone una alternativa: llevar el modelo a los datos, en lugar de llevar los datos al modelo.

La idea central

En el aprendizaje federado, un servidor coordinador envía una copia del modelo a muchos dispositivos, como teléfonos u hospitales. Cada uno lo entrena localmente con sus propios datos, que nunca salen de allí. Después, solo se envían de vuelta las actualizaciones del modelo, es decir, los cambios en sus parámetros, y el servidor las combina para mejorar el modelo global.

Un ciclo paso a paso

El proceso se repite en rondas. Primero se selecciona un grupo de dispositivos participantes. Luego, cada uno realiza unos cuantos pasos de entrenamiento con sus datos. Después, envía sus actualizaciones, y el servidor calcula un promedio ponderado, técnica conocida como promedio federado. El nuevo modelo vuelve a distribuirse y el ciclo continúa hasta alcanzar un rendimiento satisfactorio.

Dónde se usa

Un ejemplo familiar es el teclado predictivo de muchos teléfonos, que aprende de lo que escribes para sugerir palabras sin enviar tus mensajes a un servidor. También se explora en hospitales que desean entrenar un modelo diagnóstico conjunto sin compartir historiales clínicos, y en bancos que buscan detectar fraudes colaborando sin exponer datos de clientes.

No es privacidad perfecta

Aunque los datos no se transmiten, las actualizaciones del modelo pueden filtrar información. Se han demostrado ataques que reconstruyen fragmentos de datos de entrenamiento a partir de ellas. Por eso el aprendizaje federado suele combinarse con otras técnicas de protección.

Privacidad diferencial y cifrado

La privacidad diferencial añade ruido controlado a las actualizaciones, de modo que sea imposible saber si los datos de una persona concreta participaron. La agregación segura, basada en criptografía, permite que el servidor vea solo la suma de las actualizaciones y no las de cada dispositivo individual. Combinadas, ofrecen garantías mucho más sólidas.

Retos técnicos

Los datos de cada dispositivo son distintos y poco representativos, lo que complica el entrenamiento. Los dispositivos tienen capacidades dispares y conexiones intermitentes, y comunicar actualizaciones consume ancho de banda y batería. Además, resulta más difícil depurar un modelo sin ver los datos con los que se entrena.

Ventajas

Además de proteger la privacidad, reduce la necesidad de transferir y almacenar grandes volúmenes de datos, facilita cumplir normativas de protección de datos y permite colaborar entre organizaciones que no pueden compartir su información por razones legales o competitivas.

Un ejemplo con hospitales

Imagina cinco hospitales que quieren entrenar un modelo para detectar una enfermedad rara en imágenes médicas. Ninguno tiene suficientes casos por sí solo y la ley les impide compartir historiales. Con aprendizaje federado, cada hospital entrena el modelo con sus propias imágenes y solo comparte los ajustes matemáticos. El modelo resultante aprende de todos los casos combinados, mientras que los datos de cada paciente permanecen dentro de la institución que los generó. Este tipo de colaboración ya se explora en oncología, neurología y estudios de enfermedades poco frecuentes.

El aprendizaje federado demuestra que privacidad e inteligencia artificial no tienen por qué estar enfrentadas. Con las protecciones adecuadas, es posible aprender de muchos sin exponer a ninguno.

Kernel Creativo
Kernel Creativo
En línea