Una nueva startup que se propone combatir el flagelo de los deepfakes y evidencia falsificada en la era de la IA está mostrando sus productos en el escenario Startup Battlefield en TechCrunch Disrupt 2024 esta semana. campo de fuerza está creando un conjunto de API “pendientes de patente” denominadas MARQ, la primera de las cuales está diseñada para autenticar contenido.
Para contexto, un 2022 informe de la agencia europea de aplicación de la ley, Europol, predijo que el 90% de todo el contenido en línea será generado por IA para 2026. Internet ya está inundado de contenido manipulado, ya sea generado en su totalidad por máquinas o creado con la ayuda de IA, lo que obliga a las grandes empresas de tecnología a Desarrollar nuevas herramientas para abordar el problema. Google anunció el mes pasado que pronto comenzará a marcar imágenes generadas por IA en su motor de búsqueda, siguiendo los pasos de Meta, que ya lo hacía en Facebook e Instagram, aunque con precisión cuestionable.
Mientras tanto, YouTube ahora permite a las personas solicitar la eliminación de contenido que simula su rostro o su voz.
El problema del contenido “falso” no va a desaparecer, y es un problema que ha dado lugar a una serie de nuevas empresas que están abordando el problema a través de diversos medios, como Clarity, Reality Defender y Truepic, que han recaudado fondos considerables. sumas de dinero de patrocinadores de renombre en los últimos años.
ForceField, por su parte, se centra en el nivel del dispositivo más que en el contenido; esto significa cualquier flujo de datos, en cualquier dispositivo, donde la tecnología de ForceField esté presente. Podría ser una aplicación móvil con la API de ForceField integrada, o el sistema de gestión de vídeo de una cámara de vigilancia o el hardware de un dron: puede “firmar y realizar hash para verificación” en tiempo real.
‘Cadena de custodia’
El primer producto de ForceField, llamado HashMarqverifica los envíos de contenido y los etiqueta como auténticos, con una insignia de autenticidad. En lugar de utilizar técnicas tangenciales como IA adversaria (es decir, luchar contra la IA con IA) o marcas de agua, la tecnología de Forcefield establece una “cadena de custodia” para establecer la procedencia al determinar si una pieza específica de contenido ha sido alterada; lo hace observando los metadatos de los flujos de datos y los dispositivos conectados. De lo que estamos hablando aquí es de la tecnología blockchain, aunque el fundador y director ejecutivo de ForceField MC Spano (en la foto de arriba) enfatiza que esta no es una startup “web3”.
“Estamos aprovechando blockchain, no utilizamos monedas ni criptomonedas; no somos una empresa web3”, dijo Spano a TechCrunch. “Estamos utilizando blockchain de la forma más innata y decidida: la contratación inteligente. Autenticamos todo lo recopilado, como un video, una foto, un archivo de audio, una captura de pantalla en un dispositivo móvil, pero también protegemos y autenticamos cualquier contenido multimedia recopilado en cualquier IoT, es decir, cualquier cosa, desde una BlackBerry hasta un robot. Pero cualquier dato de transmisión a medida que se recopila, lo firmamos, lo procesamos y luego utilizamos tecnología de contabilidad”.
Estos “contratos inteligentes” viven en la cadena de bloques (aunque ForceField no revela cuál) para garantizar su seguridad, transparencia e inmutabilidad: no se pueden cambiar. Los clientes empresariales, que pueden incluir desde directores de información hasta equipos de confianza y seguridad, pueden acceder a la tecnología a través de una API o SDK que integran en sus propias aplicaciones. Entonces, HashMarq básicamente sirve como un certificado digital para el contenido que ha pasado sus controles de prueba.
“Estamos construyendo tecnología para los buenos; anticipamos que el mercado, es decir, los gobiernos, las empresas, las pequeñas empresas e incluso los individuos, necesitarán demostrar que lo que están ofreciendo al mundo es real”, dijo Spano. “Esto se compara con algo como lo que están haciendo Meta y otras empresas, donde básicamente etiquetan algo generado por IA”.
Entonces, ¿qué analiza exactamente la tecnología de ForceField al evaluar la veracidad de un activo determinado?
“Estamos analizando unos 90 puntos de prueba, pero no puedo compartirlos todos”, dijo Spano. “La idea es que estamos analizando la inteligencia geoespacial alrededor de ese dispositivo, qué había en ese momento, qué señales, qué otros dispositivos y la hora. ¿A qué hora este dispositivo, específicamente, estaba recopilando este video? ¿Y cuánto tiempo pasó desde la recogida hasta la presentación? Esos puntos por sí solos pueden decirles a los periodistas, a las organizaciones de noticias o a las fuerzas del orden mucho más de lo que sabrían originalmente, y también pueden señalar una ubicación geográfica”.
Aunque ForceField se hizo realidad formalmente en 2021, Spano dice que la génesis del producto se produjo en 2018, cuando fue asaltada en la ciudad de Nueva York y posteriormente enfrentó importantes obstáculos tanto para reunir como para presentar las pruebas requeridas por las autoridades.
“Sabía que había cámaras, sabía que se podían reunir pruebas”, dijo Spano. “Pero cuando traté con la policía de Nueva York para obtener las pruebas, no obtuvieron una citación, así que tuve que acudir yo mismo al propietario de la cámara para solicitar las imágenes. Lo grabé con mi teléfono y cuando entregué esa grabación a la policía de Nueva York, dijeron que no era admisible. Y fue entonces cuando me di cuenta de que el sistema de justicia comienza mucho antes que en los tribunales”.
Y esto llega al meollo del problema que Spano y ForceField están tratando de resolver, un problema que se ha vuelto aún mayor en la era de la IA generativa, donde cualquiera con una computadora portátil puede crear “evidencia” plausible, pero completamente falsa. “
Prueba de concepto
Aún es temprano, pero ForceField está desarrollando una prueba de concepto (PoC) con gigante de seguros Eriemientras que Spano dice que la compañía también tiene cartas de intención firmadas con tres clientes adicionales, con planes de finalizar la PoC y lanzarla comercialmente en el primer trimestre de 2025.
Si bien los seguros serán un gran mercado para ForceField al principio, Spano dice que con la llegada de la IA y la capacidad de casi cualquier persona de crear activos que parezcan auténticos, no hay límites reales en las industrias a las que se puede aplicar. Un periodista ciudadano, por ejemplo, que haya capturado un vídeo en su dispositivo móvil, podría enviarlo a una estación de noticias, que se integraría con la API de ForceField para determinar la autenticidad de los datos de origen. Las fuerzas del orden también podrían utilizar la tecnología para verificar las declaraciones de testigos o víctimas.
En términos de financiación, la empresa hasta ahora se ha financiado mediante una combinación de bootstrapping (Spano vendió una empresa anterior) y capital aportado por ángeles, entre ellos la actriz Debra Messing, así como Wilfredo Fernándezjefe de asuntos gubernamentales de X y explorador de la firma de capital riesgo Lightspeed. ForceField también ha recibido dinero a través de su participación en Techstars el año pasado, mientras acaba de obtener su primera financiación institucional a través de una inversión estratégica de su cliente, Erie Insurance.
Spano también dijo que espera cerrar una ronda semilla para fin de año, y agregó que cree que una de las facetas más importantes de la empresa es que es una empresa totalmente dirigida por mujeres en un espacio muy dominado por hombres.
“Hay un problema realmente grande con la financiación de equipos femeninos en solitario aquí en Estados Unidos”, dijo Spano. “Soy la única mujer que construye este tipo de tecnología en este momento, todos los demás competidores están liderados por hombres, por lo que tener una voz de mujer, transparencia, honestidad y verdad… es realmente importante”.