EL ESTADO POLICIAL DE MICROSOFT: VIGILANCIA MASIVA, RECONOCIMIENTO FACIAL Y LA NUBE AZUL

Illustration: Eliana Rodgers for The Intercept

Por Michael Kwet

Traducido por L. Domenech

Las protestas nacionales contra la policía racista han llevado a una nueva mirada a las grandes empresas tecnológicas como Facebook, que está siendo boicoteada por los anunciantes por el discurso de odio dirigido a las personas de color, y Amazon pidió ayuda a la vigilancia policial. Pero Microsoft, que ha escapado en gran medida a las críticas, se encuentra a la altura de los servicios para la aplicación de la ley, fomentando un ecosistema de empresas que proporcionan a la policía software que utiliza la nube de Microsoft y otras plataformas. La historia completa de estos lazos destaca cómo el sector tecnológico está cada vez más enredado en relaciones íntimas y continuas con los departamentos de policía.

Los vínculos de Microsoft con las agencias policiales han sido oscurecidos por la compañía, cuya respuesta pública a la indignación que siguió al asesinato de George Floyd se ha centrado en el software de reconocimiento facial. Esto desvía la atención de la propia plataforma de vigilancia masiva de Microsoft para policías, el Sistema de Conciencia de Dominio, creado para el Departamento de Policía de Nueva York y luego expandido a Atlanta, Brasil y Singapur. También oscurece que Microsoft se ha asociado con decenas de proveedores de vigilancia policial que ejecutan sus productos en una "Nube de Gobierno" suministrada por la división Azure de la compañía y que está impulsando plataformas para conectar las operaciones de campo de la policía, incluidos drones, robots y otros dispositivos.

Con una asociación, soporte e infraestructura crítica provista por Microsoft, una industria en la sombra de corporaciones más pequeñas proporciona vigilancia masiva a las agencias de aplicación de la ley. Genetec ofrece CCTV basado en la nube y análisis de big data para la vigilancia masiva en las principales ciudades de EE. UU. Veritone ofrece servicios de reconocimiento facial a las agencias policiales. Y una amplia gama de socios proporciona equipos policiales de alta tecnología para la Plataforma de patrulla avanzada de Microsoft, que convierte a los coches de policía en patrullas de vigilancia que lo ven todo. Todo esto se lleva a cabo junto con Microsoft y se aloja en Azure Government Cloud.

El mes pasado, cientos de empleados de Microsoft solicitaron a su CEO, Satya Nadella, que cancele los contratos con las agencias de aplicación de la ley, apoye a Black Lives Matter y respalde el despido de la policía. En respuesta, Microsoft ignoró la queja y prohibió la venta de su propio software de reconocimiento facial a la policía en los Estados Unidos, alejando los ojos de otras contribuciones de Microsoft a la vigilancia policial. La estrategia funcionó: tanto la prensa como los activistas elogiaron la medida, reforzando la posición de Microsoft como líder moral en tecnología.

Sin embargo, no está claro cuánto tiempo Microsoft escapará al escrutinio importante. La vigilancia se realiza cada vez más con la cooperación activa de las compañías tecnológicas, y Microsoft, junto con Amazon y otros proveedores de la nube, es uno de los principales actores en este espacio.

Debido a que las alianzas y los servicios que alojan a proveedores de terceros en la nube de Azure no tienen que anunciarse al público, es imposible saber el alcance completo de la participación de Microsoft en el dominio policial, o el estado de los servicios de terceros anunciados públicamente, que podrían incluir algunos de las relaciones anunciadas anteriormente mencionadas a continuación. Microsoft declinó hacer comentarios.

Microsoft: de la inteligencia policial a la nube de Azure

A raíz del 11 de septiembre, Microsoft realizó importantes contribuciones a los centros de inteligencia centralizados para las agencias de aplicación de la ley. Alrededor de 2009, comenzó a trabajar en una plataforma de vigilancia para la policía de Nueva York llamada Sistema de Conocimiento de Dominio, o DAS, que se dio a conocer al público en 2012. El sistema fue construido con el liderazgo de Microsoft junto con los oficiales de policía de Nueva York.

Si bien algunos detalles sobre el DAS se han revelado al público, todavía faltan muchos. La descripción más completa hasta la fecha apareció en un documento de 2017 realizado por oficiales de policía de Nueva York.

El DAS integra fuentes de información dispares para realizar tres funciones principales: alertas en tiempo real, investigaciones y análisis policiales.

A través del DAS, la policía de Nueva York observa los movimientos personales de toda la ciudad. En sus primeros días, el sistema ingirió información de cámaras de televisión de circuito cerrado, sensores ambientales (para detectar radiación y productos químicos peligrosos) y lectores automáticos de placas o ALPR. Para 2010, comenzó a agregar registros geocodificados de quejas de NYPD de quejas, arrestos, llamadas al 911 y garantías "para dar contexto a los datos del sensor". Posteriormente, agregó análisis de video, reconocimiento automático de patrones, vigilancia predictiva y una aplicación móvil para policías.

Para 2016, el sistema había ingerido 2 mil millones de imágenes de matrículas de cámaras ALPR (3 millones de lecturas por día, archivadas durante cinco años), 15 millones de quejas, más de 33 mil millones de registros públicos, más de 9,000 NYPD y cámaras privadas, videos de Más de 20,000 cámaras corporales, y más. Para que todo tenga sentido, los algoritmos analíticos seleccionan datos relevantes, incluso para la vigilancia predictiva.

Fig. 1: Una instantánea de Microsoft Domain Awareness System, también llamado Microsoft Aware, interfaz de escritorio. Foto tomada de la presentación de Microsoft titulada "Always Aware", por John Manning y Kirk Arthur. Imagen: presentación de Microsoft

El Departamento de Policía de Nueva York tiene un historial de abuso policial, y los defensores de los derechos civiles y las libertades, como el Proyecto de Supervisión de Tecnología de Vigilancia del Centro de Justicia Urbana, han protestado contra el sistema por preocupaciones por la transgresión de los derechos constitucionales, con poco éxito hasta la fecha.

Si bien el DAS ha recibido cierta atención de la prensa, y es bastante conocido entre los activistas, hay más en la historia de los servicios de vigilancia de Microsoft.

Con los años, Microsoft ha hecho crecer su negocio a través de la expansión de sus servicios en la nube, en los que la capacidad de almacenamiento, los servidores y el software que se ejecutan en los servidores se alquilan de forma medida. Una de sus ofertas, Azure Government, proporciona alojamiento de datos dedicado en centros de nube exclusivamente nacionales para que los datos nunca abandonen físicamente el país anfitrión. En los EE. UU., Microsoft ha creado varios centros en la nube de Azure Government para su uso por organizaciones locales, estatales y federales.

Sin el conocimiento de la mayoría de las personas, Microsoft tiene una división de "Seguridad pública y justicia" con personal que anteriormente trabajaba en la aplicación de la ley. Este es el verdadero corazón de los servicios policiales de la compañía, aunque ha funcionado durante años fuera de la vista del público.

Los servicios de vigilancia policial de Microsoft a menudo son opacos porque la compañía vende poco en la forma de sus propios productos policiales. En su lugar, ofrece una variedad de servicios en la nube de Azure de "propósito general", como el aprendizaje automático y las herramientas de análisis predictivo como Power BI (inteligencia empresarial) y servicios cognitivos, que pueden ser utilizados por las agencias de aplicación de la ley y los proveedores de vigilancia para crear su propio software o soluciones

La patrulla de IoT basada en vigilancia de Microsoft

Una amplia gama de ofertas basadas en la nube de Microsoft está en exhibición completa con un concepto llamado "El oficial conectado". Microsoft sitúa este concepto como parte de Internet de las cosas, o IoT, en el que los dispositivos están conectados a servidores en línea y, por lo tanto, son más útiles. "El oficial conectado", ha escrito Microsoft, "traerá IoT a la vigilancia".

Con el Internet de las cosas, a los objetos físicos se les asignan identificadores únicos y transfieren datos a través de redes de manera automatizada. Si un oficial de policía saca una pistola de su funda, por ejemplo, se puede enviar una notificación a través de la red para alertar a otros oficiales de que puede haber peligro. Los Centros de Delitos en Tiempo Real podrían localizar al oficial en un mapa y monitorear la situación desde un centro de comando y control.

Fig.2: Demostración de simulación de oficial conectado de Microsoft para la vigilancia de IoT y la integración de datos para la conciencia situacional en tiempo real y el análisis policial centralizado. Foto tomada de la presentación de Microsoft, "The Connected Officer: Bringing IoT to Policing", por Jeff King y Brandon Rohrer. Imagen: presentación de Microsoft.

De acuerdo con este concepto, una multitud de datos de vigilancia y sensores IoT se envían a un "camino caliente" para su uso rápido en los centros de comando y a un "camino frío" para ser utilizados posteriormente por analistas de inteligencia que buscan patrones. Los datos se transmiten a través del producto Azure Stream Analytics de Microsoft, almacenados en la nube de Azure y mejorados por soluciones de análisis de Microsoft como Power BI, que proporcionan una serie de puntos en los que Microsoft puede ganar dinero.

Si bien el "Oficial conectado" fue un ejercicio conceptual, la solución de patrulla del mundo real de la compañía es la Plataforma de patrulla avanzada de Microsoft, o MAPP. MAPP es una plataforma de IoT para vehículos de patrulla policial que integra sensores de vigilancia y registros de bases de datos en la nube de Azure, que incluye “información de despacho, direcciones de manejo, historial de sospechosos, un lector de matrículas activado por voz, una lista de personas desaparecidas, boletines de delitos basados en la ubicación , informes de turnos y más ".

Fig. 3: Una demostración de Microsoft Advanced Patrol Platform, o MAPP, vehículo de vigilancia IoT para policías. Un SkyRanger de Aeryon Labs está encaramado en la parte superior. Foto tomada del blog de Microsoft Azure, "Microsoft presenta a los líderes de Justicia y Seguridad Pública en la 2da Cumbre anual de CJIS", por Rochelle Eichner. Foto: blog de Microsoft Azure.

El vehículo MAPP está equipado con equipos de terceros que transmiten datos de vigilancia a la nube de Azure para las agencias de aplicación de la ley. Montada en el techo, una cámara de alta resolución de 360 ​​grados transmite video en vivo a Azure y a la computadora portátil dentro del vehículo, con acceso también disponible en un teléfono móvil o computadora remota. El vehículo también tiene un lector automático de matrículas que puede leer 5,000 placas por minuto, ya sea que el automóvil esté parado o en movimiento, y cotejarlas con una base de datos en Azure y funcionar con la solución de lector de matrículas de Genetec, AutoVu. Una cámara de proximidad en el vehículo está diseñada para alertar a los oficiales cuando se acerca a su vehículo.

Patrullar los cielos es un dron provisto por el socio de Microsoft, Aeryon Labs, el SkyRanger, para proporcionar transmisión de video en tiempo real. (Aeryon Labs ahora es parte del gigante de vigilancia FLIR Systems.) Según Nathan Beckham de Microsoft Public Safety and Justice, los drones del vehículo "lo siguen y lo ven a una vista más amplia". Los drones, escribe DroneLife, pueden "proporcionar vistas aéreas a la plataforma de datos integrada, lo que permite a los oficiales evaluar situaciones en curso en tiempo real o reunir pruebas forenses de la escena del crimen".

Los robots policiales también son parte de la plataforma MAPP. Los productos de ReconRobotics, por ejemplo, "se integraron con el programa Patrol Car of the Future de Microsoft" en 2016. Microsoft dice que ReconRobotics proporciona a su vehículo MAPP un "robot pequeño, liviano pero potente" que "se puede implementar fácilmente y controlar de forma remota por oficiales de patrulla para proporcionar información en tiempo real a los tomadores de decisiones ".

Otro socio de Microsoft, SuperDroid Robots, también ha anunciado que proporcionará al vehículo Microsoft MAPP dos robots de vigilancia compactos controlados a distancia, el MLT "Jack Russell" y el LT2-F "Bloodhound", el último de los cuales puede subir escaleras y obstáculos. .

Aunque luce una insignia de Microsoft en el capó y la puerta, el vehículo físico que la compañía usa para promocionar MAPP no está a la venta por parte de Microsoft, y es probable que no veas automóviles con la etiqueta de Microsoft circulando. Por el contrario, Microsoft proporciona MAPP como una plataforma a través de la cual transformar los coches de policía existentes en vehículos de vigilancia IoT: "Se trata realmente de poder tomar todos estos datos y ponerlos en la nube, poder obtener esos datos con sus datos, y comience a sacar información relevante de ella ”, dijo Beckham.

De hecho, Microsoft dice que "el automóvil se está convirtiendo en el centro neurálgico de la policía". Según Beckham, la información recopilada y almacenada en la nube de Azure ayudará a los agentes a "identificar a los delincuentes" y a "dejar que los agentes conozcan el entorno que ocurre a su alrededor". Como ejemplo, dijo: "Esperamos que con el aprendizaje automático y la inteligencia artificial en el futuro, podamos comenzar la coincidencia de patrones" con los vehículos MAPP que proporcionan datos para ayudar a encontrar "delincuentes".

Fig. 4: El MLT "Jack Russell" y el LT2-F "Bloodhound" en exhibición en un evento que muestra la solución del vehículo policial MAPP de Microsoft durante la Conferencia de Capacitación Anual 2015 de los Asociados de la Academia Nacional del FBI en Seattle. Foto tomada de la publicación del blog SuperDroid Robots, "SuperDroid Robots se asocia con Microsoft". Foto: Robots SuperDroid.

En octubre pasado, la policía sudafricana anunció que Microsoft se asoció con la ciudad de Durban para la vigilancia inteligente del "siglo XXI". La versión de Durban de la solución MAPP incluye un ALPR de 360 grados para escanear placas y una cámara de reconocimiento facial de la firma china de videovigilancia Hikvision para usar cuando el vehículo está parado (por ejemplo, estacionado en un evento).

Según el medio de comunicación sudafricano ITWeb, la policía metropolitana usará la solución MAPP "para disuadir las actividades delictivas basadas en el análisis de datos a través de modelos predictivos y algoritmos de aprendizaje automático". El vehículo ya se implementó en Ciudad del Cabo, donde Microsoft abrió recientemente un nuevo centro de datos de Azure, una extensión del colonialismo digital sobre el que escribí en 2018.

Fig. 5 y 6: El vehículo patrulla MAPP de Microsoft en Durban luce una cámara de reconocimiento facial de Hikvision, con sede en China. Fotos tomadas de la presentación de Multimedia Live, "La policía de Metro se vuelve de alta tecnología para la temporada festiva". Imágenes: Presentación de Multimedia Live.

Al igual que Estados Unidos (aunque con algunas dinámicas diferentes), Sudáfrica enfrenta el flagelo de la brutalidad policial que impacta desproporcionadamente a las personas de color. El país tuvo su propio momento George Floyd durante el reciente encierro de Covid-19 cuando el ejército y la policía golpearon brutalmente a Collins Khosa, de 40 años, en el pueblo de Alexandra, lo que lo llevó a la muerte, con una taza de cerveza. (Una investigación militar descubrió que la muerte de Khosa no estaba relacionada con sus heridas a manos de las autoridades; la familia de Khosa y muchos otros en Sudáfrica han rechazado la revisión como un blanqueo de la situación).

La solución MAPP se utilizará para la vigilancia policial de "tolerancia cero". Por ejemplo, el portavoz de la Policía del Metro de Durban, Parboo Sewpersad, dijo que el lanzamiento tiene como objetivo castigar "tirar basura, beber y conducir, y beber y caminar" durante las festividades de verano.

Es difícil determinar en qué otro lugar se puede desplegar el vehículo MAPP. El lanzamiento en Sudáfrica sugiere que Microsoft ve a África como un lugar para experimentar con sus tecnologías de vigilancia policial.

Microsoft: potenciando CCTV e inteligencia policial en la ciudad

Más allá del cableado de los vehículos policiales, la videovigilancia proporciona otra fuente lucrativa de ganancias para Microsoft, ya que está cargada con paquetes de datos para transmitir, almacenar y procesar, cobrando honorarios en cada paso del camino.

Cuando se construye una red de CCTV repleta de cámaras, las ciudades y las empresas generalmente usan un sistema de administración de video, o VMS, para hacer cosas como mostrar múltiples alimentaciones de cámara en una pared de video u ofrecer la opción de buscar a través de imágenes. Un proveedor líder de VMS, Genetec, ofrece el VMS central integrado en el Sistema de Conocimiento de Dominio de Microsoft. Socia cercana de Microsoft por más de 20 años, las dos compañías trabajan juntas para integrar servicios de vigilancia en la nube de Azure.

Algunas de las fuerzas policiales de la ciudad de más alto perfil están utilizando Genetec y Microsoft para video vigilancia y análisis.

A través de una asociación público-privada llamada Operation Shield, la red de cámaras de Atlanta ha crecido desde 17 cámaras en el centro a una amplia red de 10,600 cámaras que los funcionarios esperan cubran pronto todos los cuadrantes de la ciudad. Genetec y Microsoft Azure alimentan la red de CCTV.

El 14 de junio, la jefa de policía de Atlanta, Erika Shields, renunció después de que la policía de APD disparó y mató a un hombre negro de 27 años, Rayshard Brooks. El mes pasado, seis oficiales de policía de Atlanta fueron acusados ​​por usar fuerza excesiva contra manifestantes de violencia policial.

En 2019, el director de operaciones de la Fundación de Policía de Atlanta, Marshall Freeman, me dijo que la fundación acababa de completar un "despliegue en todo el departamento" para Microsoft Aware (Sistema de Conocimiento de Dominio). Freeman dijo que el Departamento de Policía de Atlanta utiliza el aprendizaje automático de Microsoft para correlacionar datos y planea agregar el análisis de video de Microsoft. "Siempre podemos continuar volviendo a Microsoft y hacer que los constructores amplíen la tecnología y continúen desarrollando la plataforma", agregó.

En Chicago, 35,000 cámaras cubren la ciudad con una red de vigilancia enchufable. El back-end actualmente utiliza el servicio Genetec Stratocast y Genetec’s Federation, que administra el acceso a las cámaras a través de una red federada de cámaras de CCTV, una red de redes de cámaras, por así decirlo.

Fig. 7: Genetec Citigraf en Microsoft Azure. Los datos ingeridos para correlaciones, monitoreo y alertas incluyen datos de Despacho Asistido por Computadora, detección de disparos de ShotSpotter, cámaras de lectura automática de placas de matrícula, datos de la Encuesta de la Comunidad Estadounidense (censo), CCTV en el VMS de Genetec, varias comunicaciones y alertas de intrusión, datos de Sistemas de Información Geográfica, y componentes de bases de datos como incidentes y arrestos. Foto tomada del seminario web, "Cómo Chicago integró datos y redujo la delincuencia en un 24%", presentada por Otto Doll (Centro para el Gobierno Digital), Jonathan Lewin (Departamento de Policía de Chicago) y Bob Carter (Genetec). Imagen: Gobierno de Tecnología / Centro de Digital.

En 2017, Genetec construyó a medida su plataforma Citigraf para el Departamento de Policía de Chicago, la segunda fuerza policial más grande del país, como una forma de dar sentido a la gran variedad de datos del departamento. Desarrollado por Microsoft Azure, Citigraf ingiere información de sensores de vigilancia y registros de bases de datos. Utilizando datos históricos y en tiempo real, realiza cálculos, visualizaciones, alertas y otras tareas para crear una "conciencia situacional profunda" para el CPD. Microsoft se ha asociado con Genetec para construir un "motor de correlación" para dar sentido a los datos de vigilancia.

La fuerza policial de Chicago tiene una historia brutal de racismo, corrupción e incluso dos décadas de torturas a sospechosos. Durante las protestas de violencia policial luego del asesinato de Floyd, el CPD atacó y golpeó a los manifestantes, incluidos cinco manifestantes negros hasta el punto de hospitalización.

La ciudad de Detroit utiliza Genetec Stratocast y Microsoft Azure para impulsar su controvertido Proyecto Luz Verde. Lanzado en 2016 junto con un nuevo Centro de delitos en tiempo real, el proyecto permite a las empresas locales, u otras entidades participantes, como iglesias y viviendas públicas, instalar cámaras de video en sus instalaciones y transmitir transmisiones de vigilancia al Departamento de Policía de Detroit. Los participantes pueden colocar una "luz verde" al lado de las cámaras para advertir al público, que es 80 por ciento negro, que "la policía lo está vigilando".

En 2015, el DPD declaró: "Se acerca el día en que la policía tendrá acceso a cámaras en todas partes, lo que le permitirá patrullar prácticamente cualquier área de la ciudad sin siquiera pisarla".

El subdirector del DPD, David LeValley, me explicó que antes de crear el nuevo centro de comando, el departamento envió un equipo de personas a varias otras ciudades de los EE. UU., Incluyendo Nueva York, Chicago, Atlanta, Boston y el centro de Administración de Control de Drogas en El Paso, Texas, para ver sus centros de inteligencia. "Nuestro Centro de Delitos en Tiempo Real es un centro de inteligencia que lo abarca todo, no es solo el Proyecto Luz Verde", explicó.

La expansión de la vigilancia policial en Detroit ha sido rápida. Hoy, el Proyecto Luz Verde tiene alrededor de 2.800 cámaras instaladas en más de 700 ubicaciones, y se están agregando dos Centros de delitos en tiempo real más pequeños, una tendencia de desarrollo en ciudades como Chicago. LeValley me dijo que esos RTTC harán cosas como "reconocimiento de patrones" e "informes de incidentes críticos".

Tras el asesinato de George Floyd, los activistas en Detroit han recargado sus esfuerzos para abolir el Proyecto Luz Verde en la lucha contra la vigilancia policial, que defensores de la comunidad local como Tawana Petty y Eric Williams consideran racista. Este año, dos hombres negros, Robert Julian-Borchak Williams y Michael Oliver, fueron arrestados injustamente después de ser identificados erróneamente por la tecnología de reconocimiento facial del DPD.

Nakia Wallace, coorganizadora de Detroit Will Breathe, me dijo que Project Green Light "pre-criminaliza" a las personas y "le da a la policía el derecho de vigilarlo si cree que es culpable" y "acosar a las comunidades negras y marrones". " "Vincular cámaras" en áreas amplias es "hipervigilancia" y "debe detenerse", agregó.

La "función que cumple [DPD]", dijo Wallace, es "la protección de la propiedad y la supremacía blanca". "Están hipermilitarizados, e incluso a raíz de eso, la gente sigue muriendo en la ciudad" porque "no tienen interés en el sustento de los ciudadanos de Detroit". En lugar de militarizar, debemos "dejar de fingir que los negros pobres son intrínsecamente delincuentes y comenzar a buscar servicios sociales y cosas que eviten que las personas entren en una vida criminal".

En una publicación de blog de 2017, Microsoft se jactó de la asociación con Genetec para el DPD, afirmando que Project Green Light es "un gran ejemplo de cómo las ciudades pueden mejorar la seguridad pública, la calidad de vida de los ciudadanos y el crecimiento económico con las tecnologías actuales".

Microsoft realmente proporciona tecnología de reconocimiento facial

Si bien Microsoft ha estado impulsando centros de inteligencia y redes de CCTV en las sombras, la compañía se ha centrado públicamente en las regulaciones de reconocimiento facial. El 11 de junio, Microsoft se unió a Amazon e IBM al decir que no venderá su tecnología de reconocimiento facial a la policía hasta que existan regulaciones mejores que las vigentes. Este es un truco de relaciones públicas que confundió la manera en que la relación de Microsoft con la policía funciona técnica y éticamente, de varias maneras.

En primer lugar, aunque la prensa ocasionalmente critica el Sistema de Conciencia de Dominio de Microsoft, la mayor atención a la vigilancia de Microsoft se centra en el reconocimiento facial. Esto es un error: Microsoft está proporcionando software para impulsar una variedad de tecnologías policiales que socavan los derechos y libertades civiles, incluso sin reconocimiento facial.

En segundo lugar, el reconocimiento facial es una característica notable de muchos sistemas de videovigilancia y Centros de delitos en tiempo real que Microsoft potencia. Las ciudades de Nueva York, Atlanta, Chicago y Detroit se encuentran entre las que utilizan los servicios de Microsoft para recopilar, almacenar y procesar los datos de vigilancia visual utilizados para el reconocimiento facial. Los servicios de Microsoft son parte integrante de muchos sistemas de vigilancia de reconocimiento facial de la policía.

Tercero, al menos una empresa de reconocimiento facial, Veritone, ha quedado fuera de la conversación. Un socio de Microsoft, el equipo de inteligencia artificial del sur de California ofrece un software basado en la nube llamado IDentify, que se ejecuta en la nube de Microsoft y ayuda a las agencias de aplicación de la ley a identificar los posibles sospechosos.

Fig. 8: La solución aiWARE de Veritone en la nube de Microsoft Azure; Veritone también está en AWS GovCloud de Amazon. Foto tomada del seminario web de Veritone, "Inteligencia artificial: Aprendizaje automático y misión", presentada por Chad Steelberg (Veritone), Richard Zak (Microsoft), Ryan Jannise (Oracle) y Patrick McCollah (Deloitte). Imagen: seminario web Veritone.

En una conferencia magistral de 2020 en el Consumer Electronics Show, hablando junto a ejecutivos de Microsoft, Deloitte y Oracle, el CEO de Veritone, Chad Steelberg, afirmó que gracias al software IDentify de Veritone en Azure, los policías han ayudado a atrapar a "cientos y cientos de sospechosos y delincuentes violentos". El producto Redact de Veritone agiliza los enjuiciamientos, e Illuminate permite a los investigadores "recoger pruebas" y obtener "información de detección" de anomalías.

En un seminario web reciente, Veritone explicó cómo IDentify aprovecha los datos que la policía ya tiene, como los registros de arrestos. Si se detecta una persona y no tiene una coincidencia conocida, el software IDentify puede perfilar a los sospechosos creando una "base de datos de personas de interés" que "le permitirá simplemente guardar caras desconocidas en esta base de datos y monitorear continuamente esas caras a lo largo del tiempo".

Veritone afirma implementar servicios en "alrededor de 150 ubicaciones", pero no menciona cuáles usan IDentify. Lanzó una prueba piloto con el Departamento de Policía de Anaheim en 2019.

Microsoft enumera Veritone IDentify como una oferta de productos de aplicación de la ley de reconocimiento facial en su repositorio de aplicaciones en línea. El video promocional en el sitio web de Microsoft anuncia la capacidad de IDentify para:

… Compare las bases de datos conocidas de su delincuente y persona de interés con evidencia en video para identificar rápida y automáticamente a los sospechosos para la investigación. Simplemente cargue evidencia de sistemas de vigilancia, cámaras corporales y más. ... Pero lo mejor de todo es que no estás encadenado a tu escritorio. Tome una fotografía e identifique a los sospechosos mientras patrulla, para verificar declaraciones y preservar las investigaciones en curso.

Veritone ha sido un firme defensor de su tecnología de reconocimiento facial. En mayo de 2019, la compañía tuiteó: La tecnología de reconocimiento facial de Amazon está sobrealimentando la policía local en Oregón. ¿Sabía que Veritone IDentify puede mejorarlo al aprovechar el poder de las bases de datos de reservas estatales para descubrir sus clientes potenciales más rápido? #Identificar

En un video promocional con Microsoft, Jon Gacek de Veritone dijo: "Puedes ver por qué en Veritone estamos entusiasmados de estar estrechamente asociados con el equipo de Microsoft Azure. Su visión y nuestra visión es muy común ".

Humo, espejos y mala dirección

A pesar de las afirmaciones en contrario, Microsoft proporciona servicios de reconocimiento facial a las fuerzas del orden público a través de asociaciones y servicios a empresas como Veritone y Genetec, y a través de su Sistema de Conocimiento de Dominio.

La estrategia de relaciones públicas de Microsoft está diseñada para engañar al público al desviar la atención de sus servicios de gran alcance a la policía. En cambio, el presidente y director legal de Microsoft, Brad Smith, insta al público a centrarse en la regulación del reconocimiento facial y la cuestión del propio software de reconocimiento facial de Microsoft, como si sus otras ofertas de software y servicios, asociaciones, conceptos y marketing no fueran parte integral de un todo, un ecosistema de reconocimiento facial y sistemas de vigilancia masiva ofrecidos por pequeñas empresas.

Estimados académicos de Microsoft, como Kate Crawford, cofundadora del grupo de expertos financiado por Microsoft, AI Now Institute, han seguido estas jugadas de libro. Crawford elogió recientemente las relaciones públicas de reconocimiento facial de Microsoft y criticó a compañías como Clearview AI y Palantir, mientras ignoraba el Sistema de Conciencia de Dominio de Microsoft, las asociaciones de vigilancia de Microsoft y el papel de Microsoft como proveedor de servicios de reconocimiento facial en la nube.

Crawford y la cofundadora de AI Now, Meredith Whittaker, han condenado la vigilancia predictiva, pero no han explicado el hecho de que Microsoft desempeña un papel central en la vigilancia predictiva para la policía. Crawford no respondió a una solicitud de comentarios.

Si estos clientes de Microsoft ofrecieran servicios de tráfico sexual en la nube de Azure, Microsoft seguramente cerraría sus cuentas.

Microsoft y sus defensores pueden afirmar que es un proveedor de nube "neutral" y que depende de otras compañías y departamentos de policía decidir cómo usar el software de Microsoft. Sin embargo, estas empresas se están asociando con Microsoft, y a Microsoft se le paga para ejecutar sus servicios de vigilancia masiva y reconocimiento facial en la nube de Azure, servicios que afectan de manera desproporcionada a las personas de color.

Si estos clientes de Microsoft ofrecieran servicios de tráfico sexual en la nube de Azure, Microsoft seguramente cerraría sus cuentas. Y debido a que las agencias de aplicación de la ley compran tecnologías de vigilancia utilizando dólares de los contribuyentes, el público en realidad está pagando a Microsoft por su propia vigilancia policial.

Si los activistas obligan a corporaciones como Microsoft, Amazon, Google, IBM y Oracle a terminar las asociaciones y servicios de infraestructura para terceros que realizan vigilancia policial, entonces los proveedores de la nube tendrían que reconocer que son responsables de lo que se hace en sus nubes. En el futuro, los activistas podrían presionar para reemplazar la propiedad corporativa de la infraestructura digital y los datos con la propiedad de la comunidad a nivel local. Hay mucho en juego en este momento.

Artículo original en inglés publicado en The Intercept