Artículo publicado en VIA Empresa y reproducido con permiso expreso de su autor.
Genís Roca es empresario, arqueólogo y presidente de Rocasalvatella y de la Fundació .cat.
Hace unos años nos escandalizábamos cuando veíamos como en China utilizaban alta tecnología para controlar a su población, y en concreto muchos nos asustamos al ver el despliegue masivo del reconocimiento facial y miles de cámaras en las calles. Nos parecía que era inaceptable y que allí se cruzaban todos los límites. Y mira por dónde, resulta que estas cosas inaceptables ya pasan ahora también en nuestro entorno.
Un reciente estudio hecho en los Estados Unidos ha analizado 24 agencias gubernamentales y ha encontrado que 18 utilizan sistemas de reconocimiento facial, y no se trata de servicios de seguridad o policiales, sino de agricultura, comercio, servicios sociales, economía… De hecho, una de las empresas líderes en esto del reconocimiento facial es Clearview AI y ha reconocido que sólo en los Estados Unidos le han contratado servicios hasta 3.100 organismos de la administración pública.
Injustificado aplicar reconocimiento facial indiscriminadamente
En Australia este verano han aprobado una ley que permite a la policía tomar el control de tus redes sociales, y modificar, copiar o borrar tus datos, e incluso publicar cosas en tu nombre, y todo ello sin una orden previa de ningún tribunal superior. En España tenemos cosas parecidas, igual de preocupantes, y ya no es sólo en los gobiernos: el año pasado, en plena pandemia, Mercadona puso en marcha un sistema de reconocimiento facial en la entrada de 40 de sus tiendas en Zaragoza, Mallorca y Valencia con el objetivo de identificar personas con una orden de alejamiento de sus establecimientos, por ejemplo porque habían entrado a robar. Esto ha acabado este verano con una multa de la Agencia de Protección de Datos de 2,5 millones de euros porque se ha considerado injustificado aplicar reconocimiento facial indiscriminadamente a todo el mundo que pasase por allí, y también porque no quedaba claro de dónde sacaba la empresa las caras de las personas que no podían entrar, cuando en las sentencias sólo constan los nombres pero no las fotos.
Mientras tanto, en China, la entidad que se dedica al control del ciberespacio acaba de publicar un borrador con las nuevas medidas que quiere poner en marcha, con ideas muy interesantes que ya quisiéramos para nosotros: los usuarios tendrán el derecho a ver, y también borrar, las palabras clave que las empresas utilizan para clasificarlos y perfilarlos. También se limitará por ley el tipo de palabras clave que se podrán almacenar asociadas a cada usuario, prohibiendo el uso de términos que puedan ser discriminatorios, ofensivos o tendenciosos. También se establece la obligación de informar a los usuarios si se están utilizando algoritmos para sugerirles o recomendarles productos o contenidos, y los usuarios han de poder desactivar el uso del algoritmo y que no se utilice con ellos. Son sólo algunos ejemplos, pero aunque las cosas que vienen de China siempre nos despiertan suspicacias, éstas son interesantes. Ojalá viésemos por aquí propuestas así.
En todas partes alguien, público o privado, puede utilizar tecnologías de control y lo intenta
El mundo es cada vez más plano, y la tecnología lo está aplanando todavía más. No hay tantas diferencias entre China y Estados Unidos, o entre ellos y nosotros. En todas partes alguien, público o privado, puede utilizar tecnologías de control y lo intenta. Y tarde o temprano en todas partes, incluso en China, acabará surgiendo la necesidad de poner alguna norma y algunos límites. Una tensión entre la actual tendencia natural de los Estados y los mercados a los excesos, y la que debería ser nuestra tendencia como sociedad hacia la defensa de los derechos. Ningún Estado nos lo va a resolver, pues forman parte del problema. Nos tendremos que poner nosotros manos a la obra, la ciudadanía, y ésta será una de las luchas sociales del siglo XXI.
