Por Kashmir Hill
Hasta hace poco, el éxito más grande de Hoan Ton-That era una aplicación que permite que la gente se ponga el distintivo cabello amarillo de Donald Trump en sus fotografías.
Después, Ton-That hizo algo trascendental: inventó una herramienta que podría acabar con tu habilidad de caminar por la calle de manera anónima y la proporcionó a cientos de agencias del orden público.
Clearview AI, su pequeña compañía, ideó una innovadora aplicación de reconocimiento facial. Tomas la fotografía de una persona, la cargas y puedes ver fotografías públicas de esa persona junto con enlaces que te llevan a los sitios donde aparecieron esas fotos. El sistema —que depende de una base de datos de más de 3000 millones de imágenes que, según Clearview, fueron extraídas de Facebook, YouTube, Venmo y millones de sitios web más— va mucho más allá de cualquier otra cosa que hayan creado el gobierno estadounidense o los gigantes de Silicon Valley.
Los agentes de la policía federal y estatal dijeron que, aunque solo tenían información limitada sobre la manera en que funciona Clearview y de quienes la crearon, habían usado su aplicación para ayudar a resolver casos de hurto en tiendas, robo de identidad, fraude con tarjetas de crédito, asesinato y explotación sexual infantil.
Hasta ahora, las tecnologías que de inmediato identifican a las personas con base en su rostro han sido tabú debido a la erosión radical que provocan en la privacidad.
Sin embargo, sin el escrutinio público, más de 600 agencias del orden público han comenzado a usar Clearview durante el año pasado, de acuerdo con la compañía, que rechazó proporcionar una lista. El código informático en el que se basa su aplicación, el cual fue analizado por The New York Times, incluye lenguaje de programación que permite combinarlo con visores de realidad aumentada; los usuarios posiblemente serían capaces de identificar a todas las personas que vieran.
Clearview también ha autorizado el uso de la aplicación a por lo menos un puñado de empresas por motivos de seguridad.
“Las posibilidades de convertirla en un arma son infinitas”, dijo Eric Goldman, codirector del High Tech Law Institute en la Universidad de Santa Clara. “Imaginemos a un agente de policía deshonesto que quiere acosar a posibles parejas románticas, o a un gobierno extranjero que la usa para revelar secretos sobre personas que después podrá chantajear o enviar a la cárcel”.
Clearview se ha rodeado de hermetismo para evitar el debate sobre su tecnología que acaba con los límites establecidos. Cuando comencé a investigar a la compañía en noviembre, su sitio web era una página austera que mostraba una dirección no existente en Manhattan como su lugar de negocios. El único empleado de la compañía que puede consultarse en LinkedIn, un gerente de ventas llamado “John Good”, resultó ser Ton-That, pero con un nombre falso. Durante un mes, las personas afiliadas a la empresa no respondieron mis correos electrónicos ni mis llamadas telefónicas.
Aunque la empresa me estaba evadiendo, también me estaba monitoreando. Después de que así lo solicité, algunos policías cargaron mi fotografía en la aplicación de Clearview. Poco después, recibieron llamadas de representantes de la compañía que les preguntaron si estaban hablando con los medios, una señal de que Clearview tiene la capacidad y, en este caso, el apetito de monitorear a las personas que la policía está buscando.
La tecnología de reconocimiento facial siempre ha sido controvertida. La aplicación de Clearview conlleva riesgos adicionales porque las agencias del orden público están cargando fotografías confidenciales a los servidores de una empresa cuya capacidad de proteger sus datos no se ha puesto a prueba.
La compañía terminó por responder mis preguntas y señaló que su silencio previo era típico en una empresa emergente que va comenzando en modalidad furtiva. Ton-That reconoció haber diseñado un prototipo para su uso con visores de realidad aumentada, pero dijo que la empresa no tenía planeado lanzarlo. Además, dijo que mi fotografía había sonado la alarma porque la aplicación “identifica posibles comportamientos anómalos de búsqueda” con el fin de evitar que los usuarios lleven a cabo lo que describió como “búsquedas inapropiadas”.
Además de Ton-That, Clearview fue fundada por Richard Schwartz —que fue asesor de Rudy Giuliani cuando fue alcalde de Nueva York— y respaldada financieramente por Peter Thiel, el inversor de capital de riesgo detrás de Facebook y Palantir.
Otro primer inversionista es una pequeña firma llamada Kirenaga Partners. David Slazo, su fundador, rechazó las preocupaciones acerca de que Clearview está haciendo que se pueda buscar a las personas por su rostro en internet y dijo que es una herramienta valiosa para resolver delitos.
“He llegado a la conclusión de que, debido a que la información aumenta constantemente, jamás habrá privacidad”, comentó Scalzo. “Las leyes deben determinar lo que es legal, pero no puedes prohibir la tecnología”.
Adictos a la inteligencia artificial
Ton-That, de 31 años, creció muy lejos de Silicon Valley, en Australia, su país de origen. En 2007, abandonó la universidad y se mudó a San Francisco. El iPhone acababa de ser lanzado, y su objetivo era incursionar de manera temprana en lo que, según esperaba, sería un vibrante mercado de aplicaciones de redes sociales.
En 2015, creó Trump Hair, una aplicación que agregaba el peinado distintivo de Trump a las personas que se encontraban en una fotografía, y un programa de intercambio de fotografías. Ambos fracasaron.
Ton-That se mudó a Nueva York en 2016. Comenzó a leer artículos académicos sobre la inteligencia artificial, el reconocimiento de imágenes y el aprendizaje automático.
Schwartz y Ton-That se conocieron en 2016 en un evento de libros en el Instituto Manhattan, un grupo conservador de expertos. Schwartz, ahora de 61 años, había reunido un número impresionante de contactos cuando trabajó para Giuliani en la década de 1990. Poco después, ambos decidieron incursionar juntos en el negocio del reconocimiento facial: Ton-That construiría la aplicación y Schwartz utilizaría sus contactos para activar el interés comercial.
Los departamentos de policía han tenido acceso a las herramientas de reconocimiento facial durante casi veinte años, pero históricamente se han limitado a buscar imágenes proporcionadas por el gobierno, como fotografías de prontuario y de licencias de conducir.
Ton-That quería ir más allá de eso. Comenzó en 2016 con el reclutamiento de un par de ingenieros. Uno ayudó a diseñar un programa que puede recolectar automáticamente imágenes del rostro de la gente en internet, a través de sitios de empleo y redes sociales, por ejemplo. Los representantes de esas compañías dijeron que sus políticas prohíben ese tipo de recolección de datos.
Contrataron a otro ingeniero para perfeccionar un algoritmo de reconocimiento facial que se creó a partir de artículos académicos. El resultado: un sistema que usa lo que Ton-That describe como una “red neuronal de vanguardia” para convertir todas las imágenes en fórmulas matemáticas, o vectores, con base en la geometría facial, con datos como la distancia que hay entre los ojos de una persona, por ejemplo. Clearview creó un gran directorio que agrupaba todas las fotografías con vectores similares en “vecindarios”. Cuando un usuario carga la fotografía de un rostro en el sistema de Clearview, este convierte el rostro en un vector y después muestra todas las fotos extraídas y almacenadas en el vecindario de ese vector, junto con los enlaces a los sitios de donde provienen esas imágenes.
Clearview todavía es una compañía diminuta, después de haber recaudado 7 millones de dólares de inversionistas, según Pitchbook, un sitio web que da seguimiento a las inversiones de las empresas emergentes. La compañía rechazó confirmar la cantidad.
Volviéndose viral con la policía
En febrero, la Policía Estatal de Indiana comenzó a experimentar con Clearview. Resolvieron un caso a los veinte minutos de comenzar a usar la aplicación. Dos hombres se habían peleado en un parque, y el conflicto terminó cuando uno le disparó al otro en el estómago. Un transeúnte grabó el delito con su celular, así que la policía tenía una imagen del rostro del tirador, la cual pudieron cargar en la aplicación de Clearview.
De inmediato encontraron una coincidencia: el hombre aparecía en un video que alguien había publicado en las redes sociales, y su nombre estaba incluido en la información que acompaña al video. “No tenía licencia de conducir ni había sido arrestado de adulto, así que no estaba en las bases de datos del gobierno”, dijo Chuck Cohen, capitán de la Policía Estatal de Indiana en ese momento.
El hombre fue arrestado y acusado; Cohen dijo que quizá no lo habrían identificado sin la capacidad de buscar su rostro en las redes sociales. La Policía Estatal de Indiana se convirtió en el primer cliente comercial de Clearview, de acuerdo con la compañía. (La policía rechazó hacer comentarios más allá de señalar que habían probado la aplicación de Clearview).
La técnica de ventas más eficaz de la empresa fue ofrecer periodos de prueba de 30 días a los oficiales. Ton-That por fin tuvo su primer éxito viral.
Las fuerzas de seguridad federales, incluyendo al FBI y al Departamento de Seguridad Nacional, la están probando, al igual que las autoridades de la policía canadiense, de acuerdo con la compañía y con funcionarios de gobierno.
Ton-That dijo que la herramienta no siempre funciona. La mayoría de las fotografías en la base de datos de Clearview se toman a nivel de vista. Gran parte del material que la policía carga proviene de cámaras de vigilancia montadas en techos o en lo alto de los muros.
A pesar de eso, señaló la compañía, su herramienta encuentra coincidencias hasta en el 75 por ciento de los casos.
Una razón por la que Clearview está teniendo éxito es que su servicio es único. Eso se debe a que Facebook y otras redes sociales prohíben que las personas extraigan las imágenes de los usuarios; Clearview está violando los términos de servicio de estas plataformas.
Algunos agentes de las fuerzas de seguridad dijeron que no se dieron cuenta de que las fotografías que cargaron se habían enviado y almacenado en los servidores de Clearview. La compañía trata de anticiparse a estas preocupaciones con un documento que incluye preguntas frecuentes, el cual proporciona a los posibles clientes y en el que señala que sus empleados de atención a clientes no ven las fotografías que carga la policía.
Clearview también contrató a Paul Clement, fiscal general estadounidense durante el gobierno del presidente George W. Bush, para aliviar preocupaciones sobre la legalidad de la aplicación.
En un memorando de agosto que Clearview proporcionó a sus posibles clientes, incluyendo al Departamento de Policía de Atlanta y la Oficina del Alguacil del Condado de Pinellas en Florida, Clement dijo que las agencias del orden público “no violan la Constitución federal, o las leyes relevantes y vigentes de biométrica y privacidad cuando usan Clearview como se debe”.
Clement, ahora socio de Kirkland & Ellis, escribió que las autoridades no tienen que decirles a los acusados que fueron identificados a través de Clearview siempre y cuando no sea la única razón por la que obtuvieron una orden para arrestarlos. Clement no respondió a varias solicitudes para hacer comentarios.
El memorando pareció ser eficaz; la policía de Atlanta y la Oficina del Alguacil del Condado de Pinellas poco después comenzaron a usar Clearview.
Woodrow Hartzog, profesor de Derecho e Informática en la Universidad Northeastern en Boston, considera que Clearview es la prueba más reciente de que debe prohibirse el reconocimiento facial en Estados Unidos.
“Hemos dependido de los esfuerzos de la industria para autovigilarse y no adoptar una tecnología tan riesgosa, pero ahora esos controles se están desintegrando porque hay mucho dinero sobre la mesa”, dijo Hartzog. “No veo un futuro en el que aprovechemos los beneficios de la tecnología de reconocimiento facial sin el abuso paralizante de la vigilancia que implica. La única manera de frenarla es prohibirla”.
Hoan Ton-That, fundador de Clearview AI, muestra los resultados de la búsqueda de una fotografía de él mismo, en Nueva York, el 10 de enero de 2019. (Amr Alfiky/The New York Times)
c.2020 The New York Times Company
