Enlace Judío – En redes ha circulado un audio en el que se escucha a la actriz británica Emma Watson, famosa por la saga de Harry Potter, leyendo el libro Mi Lucha de Adolf Hitler en una grabación falsa generada por una aplicación, según el portal Daily Express.
Una statup británica prometió abordar el abuso de su equipo de clonación de voz después de que se presentara esto o que la voz de Sir David Attenborough también se usara en una grabación racista.
Los audios se publicaron en el tablero de mensajes 4Chan después de que los usuarios abusaron de la tecnología de clonación de voz en el último mal uso de la IA.
La tecnología lanzada por ElevenLabs, una empresa de investigación, permite a los usuarios utilizar la herramienta de texto a audio para escribir palabras y escucharlas repetidas con una voz humana.
La empresa fue fundada por dos exingenieros de Google y Palantir que también crearon capacidades de clonación y doblaje de voz para las industrias cinematográfica y editorial.
La tecnología ha sido abusada por algunos usuarios que han tomado la herramienta de clonación de voz para crear un deepfake a partir de una grabación tan pequeña como de un minuto.
El presidente Biden también fue objeto de abuso con una grabación del presidente haciendo comentarios sexistas y transfóbicos.
En un anuncio reciente, los fundadores de ElevenLabs, Mati Staniszewski y Piotr Dabkowski, declararon que recibieron una financiación de 1.6 millones de libras esterlinas.
Estas tecnologías de “IA generativa” están arrasando en el sector y han sido elogiadas por su capacidad para revolucionar las industrias creativas y otros negocios.
Sin embargo, la nueva tecnología ha demostrado traer grandes beneficios pero grandes riesgos, ya que las empresas de IA se encuentran atrapadas en lo que se ha llamado un “dilema de apertura”.
Desde entonces, la empresa de investigación tecnológica ha prometido implementar defensas contra tal abuso de sus productos.
Tuiteó: “Gracias a todos por probar nuestra plataforma Beta. Si bien vemos que nuestra tecnología se aplica abrumadoramente al uso positivo, también vemos un número creciente de casos de uso indebido de clonación de voz”.
Tales problemas que enfrenta ElevenLabs hicieron que el programa de inteligencia artificial de Microsoft, VALL-E, se cerrara al público.
El software puede duplicar una voz de un clip de audio de tres segundos, pero la compañía citó problemas éticos como una razón para no ponerlo a disposición del público en general.
Microsoft agregó que el uso indebido incluía “falsificación de la identificación de voz o hacerse pasar por un hablante específico”.
Mientras tanto, ElevenLabs señaló que ha identificado que “hablar en la voz de otra persona plantea preocupaciones éticas, ya que puede usarse con fines nefastos”.
Reproducción autorizada con la mención siguiente: ©EnlaceJudío