El impacto de la inteligencia artificial en el Derecho
| Autor | Alejandro Morales Cáceres |
| Páginas | 40-72 |
39
ADVOCATUS | 39
DERECHO
EN EL
SIGLO XXI
ESPECIAL
El impacto de la inteligencia articial
en el Derecho
ALEJANDRO MORALES CÁCERES
Abogado por la Universidad de Lima.
Máster en Derecho de las Tecnologías de Información y Comunicación,
Redes Sociales y Propiedad Intelectual por ESADE Business & Law School.
Jefe de Prácticas de Derecho Comercial I de la Universidad de Lima.
SUMARIO:
I. Introducción.
II. Historia de la Inteligencia Articial.
III. Inteligencia Articial, Big Data, Machine Learning y Deep Learning.
IV. Responsabilidad Civil: daños derivados del uso de la Inteligencia Articial.
1. Antijuridicidad.
2. Daño.
3. Relación de c ausalidad.
4. Factor de atribución.
V. Protección de Datos Personales e Inteligencia Articial.
1. S esgo algorítmico vs. principio de legalidad.
2. Big Data, Machine Learning vs. los principios de nalidad y
proporcionalidad.
3. Black Box vs. principios de información.
4. Viabilizando el desarrollo de la IA con el derecho de la protección de los
datos personales.
VI. Derechos de Autor e Inteligencia Articial.
VII. Reexiones nales.
El presente artí culo fue recibi do por el Comité Edito rial con fecha 25 de oc tubre de 2019.
https://doi.org/10.26439/advocatus2021.n39.5117
40
ADVOCATUS | 39 Revista editada por alumnos de la Facultad de Derecho de la Universidad de Lima
“La ciencia cción es el hecho cientíco del mañana.”
Isaac Asimov
I. ANTECEDENTES HISTÓRICOS DE LA PRO-
MESA UNILATERAL
Actualmente, cuando uno lee las noticias pare-
ciese que estamos en un relato de Isaac Asimov
o en una historia de George Lucas; sin embargo,
lo que antes era ciencia cción, hoy forma parte
de nuestra realidad. A continuación, comparto
algunos de los titulares más llamativos que en-
contré en distintas noticias en internet:
a) “Shelley es la primera inteligencia articial
que puede escribir relatos de terror de forma
colaborativa con humanos”.
b) “Elon Musk anuncia progreso en interfaz
para conectar cerebro y computadora”.
c) “Pluribus es el primer robot en vencer simul-
táneamente a varios competidores humanos
en el póker, un juego que se basa en la astu-
cia y el engaño”.
d) “El dueño de un Tesla, primer muerto en un
coche con piloto automático. El conductor de
un Model S chocó contra un camión en Flori-
da mientras veía una película”.
e) “Utilizaron Inteligencia Articial para imitar
la voz de un CEO y robar US$240 mil”.
f) “Chatbot israelí podría diagnosticar la e nfer-
medad de Alzheimer. “Clara” es un sistema,
todavía en etapas de prueba, que trabaja en
una nueva comprensión de que el Alzheimer
afecta el sistema de orientación del cerebro
antes de afectar la memoria”.
g) “Tay, la robot racista y xenófoba de Microsoft”.
h) “Inteligencia articial aprende “por sí mis-
ma” a resolver un Cubo Rubik”.
i) “LawGeex, una Inteligencia Articial desa-
rrollada en Israel, ha ganado a abogados
humanos analizando contratos laborales”.
j) “La inteligencia ar ticial que compone como
los Beatles y escribe como J.K. Rowling”.
k) “Un robot mata a un técnico de Volkswagen
en Alemania”.
l) “Mujer es asesinada en una favela de Bra-
sil tras seguir las indicaciones hechas por
Waze”.
m) “El 41% de las FinTech apuesta por el uso de
Inteligencia Articial”.
n) “La inteligencia articial de Google que de-
tecta el cáncer de pulmón antes y mejor que
los médicos”.
o) “ Stevie II, el robot que cuida ancianos y les da
compañía en momentos de soledad”.
p) “Los peligros de los asistentes personales
como Siri, Google Assistant o Alexa. Estas IA
pueden ser una invasión de privacidad”.
q) “Facebook apaga una inteligencia articial
que había inventado su propio idioma”.
Sin darnos cuenta, el ser humano ha creado un
vínculo cercano con la inteligencia articial —
RESUMEN:
El autor examina la relación de la inteligencia arti cial —así como las diferentes tecnologías derivadas de ésta — con el Derecho como lo
conocemos hoy. Explora los recientes dilemas surgido s en el Derecho con relación a una tecnología cre ciente y cada vez más avanzada. El desafío
inminente a diversos conceptos y principios bási cos del Derecho, así como el futuro del rol del abogado, son inter rogantes urgentes que el autor
visita en el presente artículo.
Palabras clave: inteligencia articial, datos per sonales, Big Data.
AB S T R A C T:
The author examines the relationship bet ween articial intelligence —as well as the dierent technologies derive d from it— and Law
as we know it today. He explores the most recent legal dilemmas related to g rowing and increasingly advanced technology. The imminent
challenge to various basic concepts and princip les of law, as well as the future of lawyers’ role are urgent questions, whic h the author includes
in this article.
Keywords: ar ticial intelligence, personal data, Big Data.
Alejandro Morales Cáceres
41
ADVOCATUS | 39
DERECHO
EN EL
SIGLO XXI
ESPECIAL
en adelante, “IA”—, ya que estamos en contacto
permanente con ella. La cotidianeidad de este
fenómeno se puede apreciar cuando se realiza
una búsqueda en Google; cuando se desvían
correos electrónicos a la bandeja de “no desea-
dos”; al momento de recibir anuncios publici-
tarios en YouTube; cuando Facebook identica
a personas en sus imágenes y cuando Amazon
nos recomienda qué productos comprar. Este
avance tecnológico lo damos por sentado, sin
reexionar todos los años de estudios que se
han requerido.
Y si bien no todas las IA son tan fáciles de re-
conocer como Siri, lo cierto es que la IA mu-
chas veces juega un rol silencioso, mejorando
la infraestructura técnica de nuestra sociedad.
Aquellas IA que operan detrás de cámaras se
encuentran realizando funciones cruciales
como el reconocimiento de patrones, la reso-
lución de problemas, la elaboración de infor-
mes, el análisis de perles y la optimización de
procesos.
La IA está impactando prácticamente todos los
aspectos de nuestras vidas. En el campo médico
encontramos ejemplos paradigmáticos como
el robot quirúrgico Da Vinci o el Cyberknife, que
son máquinas que permiten a un cirujano reali-
zar cirugías mínimamente invasivas con mucha
mayor precisión, lo que disminuye los riesgos
de la operación y el tiempo necesario para la
recuperación del paciente. Se estima que en el
futuro también ayudarán con los diagnósticos
médicos.
En el sector nanciero, se utilizan los algoritmos
de IA para mejorar la gestión de activos nan-
cieros. Existen softwares que destacan por su
habilidad para establecer correlaciones entre
las noticias mundiales y su impacto en los mer-
cados. Además, existen sistemas automatiza-
dos con los que una entidad nanciera decide
si una persona que solicita un crédito es solven-
te o no. La IA lleva el credit scoring a otro nivel,
permitiendo mayor precisión, automatización
y rapidez mediante la combinación de algorit-
mos y “big data”1.
La publicidad también se verá impactada por
la IA, ya que utilizándola se podrá aumentar
signicativamente la eciencia en las campa-
ñas de marketing, pues permitirá segmentar
mejor al público, potenciará la personalización
en las respuestas automatizadas, dotará de ra-
pidez a los procesos y podrá predecir acciones
de compra de los clientes. De esta manera, la
IA ayudará a gestionar mejor las estrategias de
marketing.
El sector legal tampoco será ajeno a la IA, pues
qué estudio de abogados no querrá automa-
tizar aquellas tareas que consumen mucho
tiempo y aportan poco valor como la revisión
de contratos o documentos a gran escala, el
cotejo de información de diferentes documen-
tos o aquellas labores repetitivas y mecánicas.
Ya existen despachos legales que utilizan Lu-
minance, programa de IA que analiza contra-
tos y es capaz de detectar diferencias entre
ellos; Ravn, que extrae datos de los documen-
tos y los traspone a hojas Excel; y Kira Systems,
que identica con precisión cláusulas contrac-
tuales.
Asimismo, dentro de pocos años la IA también
impactará en los sistemas de justicia, pues ya
existen sistemas que sirven para la resolución
de conictos. Una publicación de octubre de
2016 del University College of London demues-
tra cómo un programa de IA puede predecir
sentencias luego de analizar 584 decisiones
del Tribunal Europeo de Derechos Humanos en
asuntos relacionados con los artículos 3, 6 y 8
de la Convención Europea de Derechos Huma-
nos. En este experimento se había aplicado un
algoritmo a esos asuntos para encontrar patro-
nes en el texto. La nalidad era ver si el software
podía predecir el fallo. El resultado: en un 79%
de los casos, la IA lo consiguió.
1. «Cinco aportaciones de la intelige ncia articial en el sector nanciero», BBVA. acceso el 9 de noviembre del 2020.
https://www.bbva.com/es/cinco-aportaciones-inteligencia-ar ticial-sector-nanciero/.
Para continuar leyendo
Solicita tu prueba