In the light of artistic proposals with digital media and, specifically, with artificial intelligence, this article proposes two perspectives that will critically analyze the discrimination of people in machine learning models; in particular, in those classification models designed to carry out surveillance and social control tasks. On the one hand, it will be proposed that, according to a philosophical version of objectivism, different algorithmic models attempt to "objectively" classify people based on their bodily features, linking them with psychological and behavioural profiles. The dubious relationship that will be questioned here is that between visible features and invisible characteristics of people, forged by a colonial gaze that is currently reproduced in the operation of algorithmic vision. On the other hand, it will be affirmed that this discrimination is materialized in the same design of the classification models. To do this, in the first place, the importance of statistics for the operation of machine learning will be addressed from the perspective of its historical relationships with police practices; and, secondly, the way in which that colonial gaze is reproduced in the data sets and in the names of the categories under which the images are labelled and classified, thus determining the algorithmically perceived reality by these classification models.A la luz de propuestas artísticas con medios digitales y, específicamente, con inteligencia artificial, en este artículo se analiza críticamente la discriminación de personas en modelos de aprendizaje de máquinas; en particular, en aquellos modelos de clasificación diseñados para cumplir tareas de vigilancia y control social. Para ello, se propondrá en primer lugar que, según una versión filosófica del objetivismo, distintos modelos algorítmicos pretenden clasificar “objetivamente” a las personas en función de sus rasgos corporales, vinculándolas con perfiles psicológicos y de comportamiento. La dudosa relación que aquí se cuestionará es aquella que se basa en rasgos visibles y características invisibles de las personas, forjada por una mirada colonial que se reproduce actualmente en el funcionamiento de la visión algorítmica. En segundo lugar, se afirmará que esta discriminación se materializa en el mismo diseño de los modelos de clasificación. Por un lado, se abordará la importancia de la estadística para el funcionamiento del aprendizaje de máquinas en la perspectiva de sus relaciones históricas con prácticas policiales de vigilancia y control social; y, en segundo lugar, se analizará cómo aquella mirada colonial se reproduce en los conjuntos de datos y en los nombres de las categorías bajo las cuales las imágenes son etiquetadas y clasificadas, determinando así la realidad  percibida algorítmicamente por estos modelos de clasificación.