Meta no dirá si entrena IA en fotos con gafas inteligentes

Los Ray-Ban con tecnología de inteligencia artificial de Meta tienen una cámara discreta en el frente, para tomar fotografías no solo cuando se lo pides, sino también cuando sus funciones de inteligencia artificial las activan con ciertas palabras clave como “mirar”. Eso significa que las gafas inteligentes recopilan un montón de fotografías, tanto tomadas deliberadamente como de otra manera. Pero la empresa no se comprometerá a mantener estas imágenes en privado.

Le preguntamos a Meta si planea entrenar modelos de IA con las imágenes de los usuarios de Ray-Ban Meta, como lo hace con imágenes de cuentas públicas de redes sociales. La empresa no lo diría.

“No estamos discutiendo eso públicamente”, dijo Anuj Kumar, director senior que trabaja en dispositivos portátiles de IA en Meta, en una entrevista en video con TechCrunch el lunes.

“Eso no es algo que normalmente compartimos externamente”, dijo la portavoz de Meta, Mimi Huggins, que también estuvo en la videollamada. Cuando TechCrunch pidió una aclaración sobre si Meta está entrenando con estas imágenes, Huggins respondió: “No decimos de ninguna manera”.

Parte de la razón por la que esto es especialmente preocupante es por la nueva función de IA de Ray-Ban Meta, que tomará muchas de estas fotografías pasivas. La semana pasada, TechCrunch informó que Meta planea lanzar una nueva función de vídeo en tiempo real para Ray-Ban Meta. Cuando se activan con ciertas palabras clave, las gafas inteligentes transmitirán una serie de imágenes (esencialmente, video en vivo) a un modelo de IA multimodal, lo que le permitirá responder preguntas sobre su entorno de una manera natural y de baja latencia.

Son muchas imágenes, y son fotografías que un usuario de Ray-Ban Meta quizás no sea consciente de que está tomando. Supongamos que le pides a las gafas inteligentes que escaneen el contenido de tu armario para ayudarte a elegir un conjunto. Las gafas toman efectivamente docenas de fotografías de su habitación y de todo lo que hay en ella, y las cargan todas en un modelo de IA en la nube.

¿Qué pasa con esas fotos después de eso? Meta no lo dirá.

Usar las gafas Ray-Ban Meta también significa que llevas una cámara en la cara. Como descubrimos con Google Glass, eso no es algo con lo que otras personas se sientan universalmente cómodas, por decirlo a la ligera. Por lo tanto, uno pensaría que es una obviedad que la empresa que lo está haciendo diga: “¡Oye! Todas tus fotos y videos de tus cámaras faciales serán totalmente privados y estarán aislados en tu cámara facial”.

Pero eso no es lo que Meta está haciendo aquí.

Meta ya ha declarado que está entrenando sus modelos de IA en las publicaciones públicas de Instagram y Facebook de cada estadounidense. La compañía ha decidido que todos esos son “datos disponibles públicamente” y es posible que tengamos que aceptarlo. Esta y otras empresas de tecnología han adoptado una definición muy amplia de lo que está disponible públicamente para entrenar la IA y lo que no.

Sin embargo, seguramente el mundo que miras a través de sus gafas inteligentes no está “disponible públicamente”. Si bien no podemos decir con seguridad que Meta esté entrenando modelos de IA en las imágenes de su cámara Ray-Ban Meta, la compañía simplemente no diría con seguridad que no lo es.

Otros proveedores de modelos de IA tienen reglas más claras sobre la capacitación sobre los datos de los usuarios. Anthropic dice que nunca se entrena con las entradas o salidas de un cliente en uno de sus modelos de IA. OpenAI también dice que nunca entrena con las entradas o salidas del usuario a través de su API.

Nos comunicamos con Meta para obtener más aclaraciones aquí y actualizaremos la historia si nos responden.