El uso de algoritmos y su impacto en los datos personales
| Autor | Alejandro Huergo Lora |
| Cargo | Licenciado en Derecho por la Universidad de Oviedo y Doctor en Derecho por la Universidad de Bolonia |
| Páginas | 166-193 |
EL USO DE ALGORITMOS Y SU IMPACTO EN LOS DATOS PERSONALES
THE USE OF ALGORITHMS AND THEIR IMPACT ON PERSONAL DATA
ALEJANDRO HUERGO LORA1
RESUMEN
En el presente artículo se abordan las
principales concepciones del término
“algoritmo” y cómo el mismo es aplicado
en el ámbito jurídico. Asimismo, se explica
su relación con las predicciones basadas
en datos y con los conceptos de inteligencia
artificial digitalización y automatización,
explicando sus principales características
y diferencias. Posteriormente, se evalúa
la aplicación de la inteligencia artificial
en la creación y aplicación del Derecho.
Después se analiza la injerencia de la
regulación de datos personales en la
utilización de algoritmos y el rol de la
administración pública. Finalmente, se
analizan los pormenores del proyecto del
Reglamento sobre la Inteligencia Artificial.
ABSTRACT
This article addresses the main conceptions
of the term “algorithm” and how it is
applied in the legal field. It also explains its
relationship with data-driven predictions
and with the concepts of artificial
intelligence digitization and automation,
explaining their main characteristics and
differences. Subsequently, the application
of artificial intelligence in the creation
and application of the Law is evaluated.
Then the interference of the regulation
of personal data in the use of algorithms
and the role of public administration is
analyzed. Finally, the details of the draft
Regulation on Artificial Intelligence are
analyzed.
PALABRAS CLAVE
Algoritmos | Predicción | Regulación |
Datos | Administración
KEYWORDS
Algorithms | Prediction | Regulation |
Data | Administration
CONTENIDO
1. Algoritmos: un concepto demasiado amplio; 2. Cómo funcionan las predicciones
basadas en datos; 3. Inteligencia artificial; 4. Parámetros jurídicos derivados de
la protección de datos; 4.1 Pluralidad de perspectivas jurídicas sobre los algoritmos
predictivos; 4.2 Los algoritmos funcionan, sobre todo, con datos anonimizados; 4.3 El
consentimiento del interesado y sus debilidades; 4.4 Peculiaridades en el uso de datos
por Administraciones Públicas; 4.5 Ambigüedad y casuismo; 4.6 Reglas concretas sobre
el uso de algoritmos: decisiones automatizadas; 5. El proyecto de Reglamento sobre la
Inteligencia Artificial; 5.1. Aplicaciones de la IA prohibidas; 5.2. Aplicaciones de la IA
1 Licenciado en Derecho por la Universidad de Oviedo y Doctor en Derecho por la Universidad
de Bolonia. Ha sido investigador en la Universidad de Múnich tras ser el primer jurista
español que obtuvo una beca postdoctoral del programa Marie Curie de la Unión Europea.
Actualmente, se desempeña como catedrático de la Universidad de Oviedo desde 2010
y también imparte docencia en múltiples estudios de posgrado de diversas universidades
españolas. Sus temas más habituales son las sanciones administrativas, los contratos
públicos y el contencioso-administrativo. Ha dirigido el libro La regulación de los algoritmos
(2020, con coordinación de Gustavo Manuel Díaz González). Contacto: ahuergo@uniovi.es
(2021). Revista de Derecho Administrativo – CDA, 20, pp. 166 - 193.
Revista de Derecho Administrativo 167
sometidas a autorización; 5.3. Aplicaciones de la IA para las que se establecen reglas
concretas de transparencia; 5.4. Aplicaciones de la IA “de alto riesgo” y sus mecanismos
de control; 5.5 Otras previsiones; 5.6. Lo que regula y lo que no regula el proyecto de
Reglamento.
SOBRE EL ARTÍCULO
El presente artículo fue recibido por la Comisión de Publicaciones el 14 de junio de 2021
y aprobado para su publicación el 16 de agosto de 2021.
1. ALGORITMOS: UN CONCEPTO DEMASIADO AMPLIO
“Algoritmo” es una palabra de uso reciente en español, que parece muy ligada a los
problemas y retos que plantea la inteligencia artificial o el big data. Sin embargo, no
es exactamente así, y por ello creo que no es correcto hablar de un “régimen jurídico”
o “naturaleza jurídica” de los algoritmos (o predicados similares), porque el término es
demasiado impreciso.2
Aunque el uso de la palabra “algoritmo” en español es, como acabo de decir, reciente,
y está ligado a la informática, en realidad tiene el mismo origen o raíz que la palabra
“guarismo”, mucho más antigua y con un significado matemático, pero alejado del
mundo de la inteligencia artificial o la informática. En realidad, parece que la palabra
viene del nombre del matemático Mohamed ben Musa al Juarismi (que se supone que
vivió entre 780 y 850, y trabajó fundamentalmente en Bagdad), y, de hecho, Juarismi
sería la localidad de la que procedía, situada en el actual Uzbekistán (existe la palabra
“Corasmia” para traducir ese toponímico). Al Juarismi ha tenido una gran influencia en
la historia de las matemáticas y se le considera el creador del álgebra.3
En todo caso, el origen inmediato de la palabra “algoritmo” es la inglesa “algorithm”,
que hace referencia a cualquier procedimiento formalizado en una serie de pasos para
solucionar un problema o conseguir un resultado. Aunque puede haber (y hay) algoritmos
al margen de los ordenadores, es decir, algoritmos no gestionados por ordenadores, lo
cierto es que la palabra algoritmo se ha desarrollado (y ha llegado a la lengua castellana)
en relación con la informática, pues los ordenadores necesitan ser programados y un
programa de ordenador consiste, precisamente, en una sucesión ordenada de pasos que
el ordenador ha de llevar a cabo. Los seres humanos pueden actuar mediante algoritmos
o no; los ordenadores sólo pueden funcionar siguiendo un algoritmo.
Los “procedimientos” administrativos o judiciales son, al menos en cierto modo, algoritmos,
en la medida en que se componen de pasos dotados de un contenido determinado, que
han de seguirse para llegar a una solución (la resolución o acto final del procedimiento).
La semejanza con los programas informáticos es, sin embargo, limitada, porque el tipo
de vinculación que lleva al instructor o tramitador del procedimiento a seguir sus fases no
tiene el mecanicismo de un programa informático, sino que se trata de una vinculación
jurídica. Al tramitar el procedimiento, el instructor sigue, voluntariamente, una norma
jurídica. El programa no hace más que “obedecer” inconscientemente las órdenes
que aparecen en el programa. Del mismo modo, mientras que en un programa es
sencillamente imposible que se llegue al resultado final sin seguir todos los pasos o fases
2 De las cuestiones de que trata este artículo me he ocupado por extenso en “Una aproximación
a los algoritmos desde el Derecho administrativo”, en Huergo Lora, Alejandro (Dir.) / Díaz
gonzáLez, Gustavo Manuel (Coord.), La regulación de los algoritmos, Aranzadi, Cizur Menor,
2020, págs. 23-87, obra a la que remito a los lectores interesados.
Para continuar leyendo
Solicita tu prueba