Tecnología

Conoce la razón por la que el audio generado por Inteligencia Artificial es tan difícil de detectar

La existencia de la tecnología y la dificultad para detectar el contenido creado por ella ya está provocando el caos

Inteligencia artificial música

Desde hace meses, en redes sociales circula contenido engañoso relacionado a la Inteligencia Artificial, pero es sorprendente lo similar que puede ser con la realidad. La tecnología que desarrolló la IA es la misma tecnología que se le dificulta detectar si una canción es hecha por IA o por la voz de un humano.

Es muy difícil identificar la Inteligencia Artificial

Hace unos días, en New Hampshire, la IA hizo la misma voz de Joe Biden con un mensaje hacia los demócratas.

“Roger Stone utilizó recientemente un programa de detección de inteligencia artificial en un intento de distanciarse de una grabación en la que parecía aparecer su voz. Y el sindicato de directores de una escuela secundaria sugirió que AI tal vez fuera el culpable de una grabación en la que parecía hacer comentarios racistas. El distrito todavía está investigando”, explica NBC News en su portal web.

Recomendados

Aunque hay muchas herramientas para identificar la música generada por IA, son programas muy limitados, aseguran los expertos, y estos no garantizan que la voz sea generada por la IA o por un humano.

Reality Defender explicó que utiliza la misma Inteligencia Artificial para detectar la IA.

¿Cómo se logra identificar la voz de IA?

La compañía de detección de deepfake explica que alimenta su base de datos “en cantidades masivas de datos reales existentes para producir nuevos medios realistas”.

Ben Colman, director ejecutivo de Reality Defender, dijo que la compañía etiqueta lo real y lo falso con la idea de que la IA lo identifique.

“Nunca decimos 100%. Nuestra probabilidad más alta es del 99% porque nunca tenemos la verdad sobre el terreno. Por lo tanto, es totalmente probabilístico. Con voces, es una población distribuida en regiones, idiomas, dialectos y edades. Así que tenemos que pensar en cada variable”, dijo.

“Es difícil conseguir financiación para la detección”

Neil Zhang, investigador de la Universidad de Rochester, añade que es difícil saber qué tan bien funcionan estas herramientas de detección, pero son “mejores que nada”.

“Existe una enorme disparidad en la financiación entre las empresas que compiten por hacer deepfakes aceptables y aquellas que intentan detectarlos”, afirmó. “Es difícil conseguir financiación para la detección, pero es muy fácil conseguir financiación para modelos de lenguaje grande e IA generativa”.

Tags

Lo Último


Te recomendamos