La verdad sobre detectar deepfakes

El problema no es solo el video falso, sino la confianza

La discusión sobre deepfakes suele empezar en la tecnología, pero el punto débil aparece antes: en la confianza humana. Según las cifras recopiladas por DeepStrike a partir de estudios de iProov, muy pocas personas logran distinguir con consistencia entre contenido auténtico y manipulado, y la capacidad de detección cae con fuerza cuando el video está bien hecho. Aun así, alrededor de seis de cada diez personas creen que sí podrían identificar un deepfake si se lo encontraran.

Ese desfase entre percepción y realidad es el terreno perfecto para el marketing de muchas herramientas. En demos cerradas, los proveedores hablan de 95% o 98% de precisión. Sin embargo, un compendio de datos publicado por Keepnet Labs sostiene que el rendimiento puede desplomarse entre 45% y 50% cuando esos sistemas se enfrentan a deepfakes del mundo real, con compresión, ruido, nuevas técnicas de generación y contextos menos controlados.

La dimensión económica termina de volver esto urgente. El mismo panorama de DeepStrike describe pérdidas por fraude que ya equivalen a decenas de miles de millones de pesos mexicanos, mientras que un incidente corporativo puede costar en la región algo cercano a 9 o 10 millones de MXN, según el tipo de cambio y el sector. Es decir, elegir mal una herramienta no es un error menor. Puede convertirse en una factura desproporcionada.

Cuando la seguridad se parece demasiado a una puesta en escena

En la parte baja del ranking aparecen las extensiones gratuitas de navegador. Son atractivas porque simplifican una amenaza difícil: subes un archivo, recibes una alerta de color y sientes que el problema ya quedó resuelto. El inconveniente es que muchas funcionan mejor como placebo que como defensa real. Detectan falsificaciones obvias, pero generan una confianza inmerecida frente a ataques bien elaborados.

Algo parecido ocurre con Microsoft Video Authenticator. Su propuesta consistía en analizar cuadros de video para encontrar rastros de manipulación. Como demostración técnica, resultó interesante. Como defensa desplegada a gran escala, no llegó a consolidarse y terminó pareciéndose más a una pieza de investigación que a una solución con presencia operativa.

Incluso revisiones del mercado, como el repaso más reciente de Fritz AI sobre herramientas de detección, dejan ver esa tensión: el sector maduró, sí, pero no todo lo que luce convincente en una tabla comparativa soporta el desgaste del uso diario. Una herramienta puede ser vistosa y seguir siendo insuficiente.

Las herramientas útiles que solo cubren una parte

La zona media del ranking está ocupada por plataformas que resuelven bien un problema específico, aunque no el conjunto del riesgo. Clarifai, por ejemplo, tiene sentido para equipos con experiencia en aprendizaje automático, porque ofrece flexibilidad y una arquitectura amigable para integraciones. No obstante, es primero una plataforma general de IA y después un detector especializado. Eso cambia mucho la experiencia de uso.

Amber Authenticate adopta una lógica distinta. En lugar de juzgar si un archivo sospechoso es falso, certifica la autenticidad en el momento de captura mediante verificación criptográfica. Para preservar la cadena de custodia es potente. Sin embargo, la mayoría de las organizaciones se enfrenta a material externo y opaco, no solo al que ellas mismas producen. Ese es justamente el escenario en el que importan las defensas frente al fraude de voz con deepfakes.

Hive AI y Pindrop Pulse ya operan en un terreno más serio. Hive destaca como filtro inicial para revisar grandes volúmenes de imagen, video y audio, sobre todo cuando el equipo ya trabaja con moderación de contenido. Pindrop, en cambio, se especializa en voz sintética, un frente que se volvió crítico desde que la clonación vocal puede construirse con apenas unos segundos de audio. Son herramientas valiosas, pero cada una deja zonas fuera de cobertura.

Donde empieza la protección empresarial

La diferencia entre detectar y defender se vuelve más clara en la parte alta del ranking. CloudSEK XVigil no se limita a decidir si un archivo parece falso. También observa web abierta, dark web y foros clandestinos para encontrar campañas que usen deepfakes contra una marca antes de que el ataque llegue al correo, al call center o al flujo de validación interna. Ese enfoque encaja con un entorno en el que la velocidad de los ataques impulsados por IA reduce cada vez más el margen de reacción.

Intel FakeCatcher destaca por otra razón: no se centra solo en artefactos visuales. Analiza señales biológicas sutiles, como patrones de flujo sanguíneo en la piel del rostro, que los modelos generativos todavía no replican bien. La fortaleza de este enfoque está en que busca la ausencia de lo humano, no solo la presencia de un defecto artificial. Eso complica la tarea del atacante.

En la cima quedan Reality Defender y Sensity AI. Reality Defender convence por su cobertura multimodal, ya que procesa video, imagen, audio y texto en tiempo real. En ataques complejos, donde la suplantación sintética puede mezclarse con brechas iniciadas por credenciales robadas, esa amplitud importa mucho. Sensity AI ocupa el primer lugar porque suma precisión, informes forenses explicables y una red de inteligencia que observa cientos de plataformas de generación. Esa combinación la vuelve especialmente relevante en identidad digital y en entornos donde la prueba técnica debe sostenerse, también frente a vulnerabilidades más amplias de seguridad en IA.

Lo que este ranking dice sobre tu exposición real

La lección más útil no es que exista una herramienta perfecta esperando presupuesto. Es que la distancia entre una solución que tranquiliza y una que realmente reduce riesgo es enorme. Las opciones gratuitas pueden servir como curiosidad, o como primer filtro. Para una empresa expuesta a fraude, reputación y cumplimiento, eso rara vez basta.

También conviene recordar que incluso los líderes pierden precisión cuando salen del laboratorio. Por eso, las organizaciones más sólidas no dependen de una sola capa. Combinan verificación criptográfica en origen, análisis automatizado al recibir contenido y controles adicionales para casos sensibles, como revisión humana, biometría o inteligencia de amenazas.

El primer movimiento, entonces, no debería ser comprar la marca más famosa. Debería ser medir qué tan vulnerable ya es tu operación frente a deepfakes modernos. Esa pregunta también se conecta con lecturas como Your AI agents can be hijacked 92% of the time, and most companies have no idea y 5 cybersecurity shortcuts employees take daily (and their real cost). Al final, detectar deepfakes no consiste en buscar una respuesta mágica, sino en descubrir hasta dónde llega, y hasta dónde no, tu confianza.