La nueva IA de Zuckerberg es "demasiado peligrosa" para hacerla pública: puede imitar cualquier voz

Mark Zuckerberg se enorgulleció de presentar un nuevo avance de Meta “la IA más versátil para la generación de voz" que existe, sin embargo, anticipó que le preocupan "riesgos potenciales de uso indebido" de la tecnología avanzada.

Es que su nueva IA denominada Voicebox es capaz de imitar cualquier voz y de editar audios para hacerlos sonar absolutamente creíbles y esto puede ser una herramienta peligrosa en manos de estafadores. 

De todos modos, Meta también enumeró casos optimistas en su comunicado de prensa, en el que afirmó que Voicebox podría usarse para ayudar a las personas con discapacidad visual a escuchar los mensajes de sus amigos y seres queridos, o para permitir que los hablantes no nativos reproduzcan las traducciones de sus propias palabras en su propia voz, pero en una lengua extranjera.

Por el momento su modelo de IA es capaz de hablar seis idiomas: inglés, francés, español, alemán, polaco y portugués.

Voicebox una IA práctica para editores de audio

Meta destacó que Voicebox es un medio para que los creadores de audio editen más fácilmente los ruidos de fondo no deseados o los errores de sus pistas de audio o video. También permite crear voces agradables para asistentes virtuales o más realistas para videojuegos.

"Hay muchos casos de uso emocionantes para los modelos de habla generativa", destacaron desde Meta, "pero debido a los riesgos potenciales de uso indebido, no estamos poniendo a disposición del público el modelo o el código de Voicebox en este momento".

Cómo impacta la inteligencia artificial en nuestra cotidianeidad
 

"Si bien creemos que es importante ser abiertos con la comunidad de IA y compartir nuestra investigación para avanzar en el estado del arte en IA", agregó la firma, "también es necesario lograr el equilibrio adecuado entre la apertura y la responsabilidad".

Este anuncio llega poco más de un mes después de que Zuckerberg fuera rechazado por la Casa Blanca de Joe Biden, que les dijo explícitamente a los periodistas que los representantes de Meta no habían sido invitados a una cumbre de West Wing que era exclusivamente para empresas a la "vanguardia de la innovación en IA".

rb / ds