¿Ha descifrado GetReal el código de los deepfakes de IA? $18 millones y una impresionante lista de clientes dicen que sí

La proliferación de deepfakes asombrosamente realistas es uno de los subproductos más perniciosos del auge de la IA, y caer víctima de estafas basadas en estos deepfakes ya está costando a las empresas millones de dólares, sin mencionar las implicaciones que podrían tener en la seguridad nacional. Una startup que ha construido un conjunto de herramientas destinadas a gobiernos y empresas para ayudar a detectar y detener deepfakes e impersonaciones en audio, video e imágenes fijas está anunciando algunos fondos el miércoles con algunos clientes e inversores impresionantes a cuestas.

GetReal, co-fundada por Hany Farid, uno de los pioneros en la detección de medios deepfake, ha recaudado $17.5 millones en capital, fondos que utilizará para I+D, contratación y desarrollo empresarial.

Junto con la financiación, la empresa está lanzando su plataforma forense como servicio, que incluye una interfaz web, una API e integraciones para ejecutar análisis de medios como un servicio. Las características incluyen un panel de exposición de amenazas; una herramienta "Inspect" específicamente diseñada para proteger a ejecutivos de alto perfil de ser suplantados; una herramienta "Protect" para filtrar medios; y "Respond", que implica equipos humanos en GetReal realizando un análisis más profundo.

Forgepoint Capital, especialista en ciberseguridad e IA, lidera esta Serie A con Ballistic Ventures, Evolution Equity y K2 Access Fund participando.

Ballistic es una firma clave en esa lista. GetReal fue incubada en el VC desde 2022 hasta que salió de la clandestinidad en junio de 2024. Ballistic también lideró la ronda semilla de $7 millones de GetReal, una ronda que, según PitchBook, también incluyó a Venrock, Artisanal, Qudit y Silver Buckshot.

Ballistic es importante por otra razón: el fundador de la firma, Ted Schlein, es el presidente y co-fundador de GetReal. Antes de Ballistic, Schlein encabezaba Kleiner Perkins.

Hany como servicio

GetReal se encuentra en el amplio mundo de la ciberseguridad, específicamente en el área de la ciberforense en rápida evolución. La brecha en el mercado que la startup con sede en San Mateo está abordando es la escasez de talento y conocimiento en ese espacio.

“Si piensas que la ciberseguridad tiene escasez de personal, prepárate para la forense”, dijo Matt Moynahan, CEO de GetReal.

Moynahan no es el fundador de la startup; llegó a GetReal mientras aún estaba en secreto tras una carrera de tres décadas liderando una serie de importantes empresas de ciberseguridad como Symantec, Arbor Networks, Veracode y Forcepoint.

“Para ser honesto, no creo haber visto una amenaza tan ubicua”, dijo sobre la capacidad de crear y luego aplicar deepfakes maliciosos.

Describió los virus como una "amenaza novedosa" en comparación. “Lo que hemos visto en los últimos 20 años es la amenaza moviéndose hacia el usuario final”, dijo. “Las aplicaciones 'divertidas' que permiten a las personas crear deepfakes son parte del problema, pero también lo es el entorno en el que trabajamos hoy. 'Las personas han pasado de ladrillos y mortero a empresas que ahora están casi completamente digitales y en la nube'”.

El phishing, dijo, demostró que incluso personas muy inteligentes pueden ser fácilmente engañadas, y en conjunto, es una señal complicada y muy negativa de hacia dónde podrían ir las cosas.

GetReal es idea de Farid, un académico de mucho tiempo y bien conocido (actualmente en UC Berkeley) que es considerado un pionero en técnicas para identificar cuando las imágenes digitales han sido alteradas. Sin lugar a dudas, Farid comprendía los riesgos de los deepfakes antes de que incluso surgiera el término.

Según Farid explicó a TechCrunch, aunque trabaja principalmente como académico e investigador, ha estado aplicando sus conocimientos de manera más o menos informal durante años como servicio para organizaciones mediáticas, equipos legales (después de que las imágenes digitales se volvieron admisibles en la corte) y otros. En el año 2022, se unió a Schlein para considerar cómo traducir eso en un negocio real, convirtiendo ese proceso de investigación en código.

“Nadie está investigando esto de la manera en que lo hace Hany”, dijo Moynahan. “Pero Hany no puede escalar. Así que básicamente tomamos a Hany y tratamos de crear un 'servicio Hany' en la nube”.

Curiosamente, Farid señala que si bien la tecnología que están desarrollando depende de cómo funcionan las nuevas aplicaciones, hay mucha ingeniería inversa que se realiza en GetReal, combinado con décadas de conocimiento que ha cambiado muy poco.

“Hay técnicas que desarrollamos hace 20 años que aún funcionan hoy”, dijo. Se negó a explicar cuáles son. “No tienes que contarles todo lo que hacemos, pero es complicado hacerlo bien”.

El efecto de Signal: Texto aún por venir

La Serie A que se anunciará el miércoles también incluye algunos respaldos estratégicos clave que incluyen a Cisco Investments, Capital One Ventures y In-Q-Tel, una firma de inversión estrechamente vinculada con la CIA.

Esa lista de estratégicos refleja el tipo de empresas que están interesadas o que ya han comenzado a adoptar el producto de GetReal, dijo Alberto Yépez, el co-fundador de Forgepoint que lideró la inversión.

Lo que Yépez dijo que encontró durante la debida diligencia fue que las industrias altamente reguladas, como las instituciones financieras, ya estaban solicitando un producto como este, y los CISOs estaban contactando con un mandato de las juntas directivas.

“Plantearon el problema de las suplantaciones de deepfake después de que sus CEOs fueran puestos en entrevistas de voz”, dijo. Ellos mismos fueron suplantados y engañados por las suplantaciones. Los clientes nombrados incluyen a John Deere y Visa.

En cuanto al trabajo gubernamental, Yépez dijo: “También tienen algunas prioridades en el espacio”.

Estas “prioridades” incluyen que las agencias de inteligencia y los funcionarios gubernamentales sean engañados para actuar, o no actuar, basados en información falseada de actores malintencionados.

Sin embargo, aún no han llegado a las suplantaciones basadas en textos.

Esto surgió solo esta semana, cuando el editor de The Atlantic, que fue añadido por error a un chat grupal de Signal que planificaba un ataque militar en Yemen, asumió inicialmente que era una broma de suplantación. Sorprendentemente, ese chat resultó ser muy real y violaba claramente los procedimientos de seguridad nacional.

Farid dijo que el texto no está actualmente en el alcance de GetReal. “Es una bestia diferente”, dijo. Pero a largo plazo, el plan será ampliar gradualmente el alcance para incluir todo tipo de amenazas de deepfake e impersonación.