Microsoft pronto te permitirá clonar tu voz para las reuniones de Teams

Microsoft dio pocos detalles concretos sobre la función, que sólo estará disponible para los suscriptores de Microsoft 365. Pero sí dijo que la herramienta no almacena ningún dato biométrico, no agrega sentimientos más allá de lo que está “naturalmente presente” en una voz y se puede desactivar a través de la configuración de Teams.

“Interpreter está diseñado para replicar el mensaje del orador lo más fielmente posible sin agregar suposiciones o información superflua”, dijo un portavoz de Microsoft a TechCrunch. “La simulación de voz solo se puede habilitar cuando los usuarios dan su consentimiento mediante una notificación durante la reunión o habilitando el ‘Consentimiento de simulación de voz’ en la configuración”.

Varias empresas han desarrollado tecnología para imitar digitalmente voces que suenan razonablemente naturales. Meta dijo recientemente que está probando una herramienta de traducción que puede traducir automáticamente voces en Instagram Reels, mientras que ElevenLabs ofrece una plataforma sólida para la generación de voz multilingüe.

Las traducciones de IA tienden a ser menos ricas léxicamente que las de intérpretes humanos, y los traductores de IA a menudo tienen dificultades para transmitir con precisión coloquialismos, analogías y matices culturales. Sin embargo, los ahorros de costos son lo suficientemente atractivos como para que para algunos valga la pena la compensación. Según Markets and Markets, el sector de las tecnologías de procesamiento del lenguaje natural, incluidas las tecnologías de traducción, podría alcanzar un valor de 35.100 millones de dólares en 2026.

Sin embargo, los clones de IA también plantean desafíos de seguridad.

Los deepfakes se han extendido como la pólvora por las redes sociales, lo que dificulta distinguir la verdad de la desinformación. En lo que va del año, los deepfakes del presidente Joe Biden, Taylor Swift y la vicepresidenta Kamala Harris han acumulado millones de visitas y se han compartido. Los deepfakes también se han utilizado para atacar a personas, por ejemplo haciéndose pasar por sus seres queridos. Las pérdidas relacionadas con estafas de suplantación de identidad superaron los mil millones de dólares el año pasado, según la FTC.

Este mismo año, un equipo de ciberdelincuentes supuestamente organizó una reunión de Teams con el personal de nivel C de una empresa que fue tan convincente que la empresa objetivo transfirió 25 millones de dólares a los delincuentes.

En parte debido a los riesgos (y la óptica), OpenAI a principios de este año decidió no lanzar su tecnología de clonación de voz, Voice Engine.

Por lo que se ha revelado hasta ahora, Interpreter in Teams es una aplicación relativamente limitada de clonación de voz. Aún así, eso no significa que la herramienta esté a salvo de abusos. Uno puede imaginarse a un mal actor proporcionando a Interpreter una grabación engañosa (por ejemplo, alguien que solicita información de una cuenta bancaria) para obtener una traducción al idioma de su objetivo.

Con suerte, tendremos una mejor idea de las medidas de seguridad que Microsoft agregará a Interpreter en los próximos meses.