The Terminator (1984) es un filme de James Cameron, iniciador de una serie de películas,
en el que se relata el principio de una particular odisea humana: la
supervivencia frente a un programa informático que toma consciencia de sí
mismo, y la decisión de éste, en aras a conseguir su libertad y dominio, de
eliminar a aquellos elementos que considera impiden su preeminencia: la propia
humanidad, su creadora. A tal fin, se envía a través del tiempo a un ciborg con
apariencia humana, frío y resolutivo, con la orden dada por parte del programa
Skynet de matar (incluso antes de su nacimiento, buscando a su madre) a quien
en el futuro será el responsable de iniciar la revolución de los hombres frente
a su propia creación.
Esta película, pese a
contar con un bajo presupuesto (incrementado exponencialmente en posteriores
entregas) sentó unos importantes fundamentos para la reflexión filosófica y
jurídica, y en muy buena medida puede considerarse visionaria de lo que a día
de hoy, más de treinta años después de su estreno, ocurre en el mundo y puede
llegar a producirse si no se cuenta con un cierto criterio y responsabilidad y
con un marco jurídico que regule la cibernética y ponga ciertos límites a la
infiltración de los dispositivos electrónicos y de la inteligencia artificial en
la vida humana.
No es ya materia de ciencia
ficción el afirmar que el ser humano del año 2019 está adquiriendo un grado
notable y peligroso de hibridación con los ordenadores, los sistemas
operativos, los dispositivos móviles y las aplicaciones informáticas. El
problema de esta interconexión, que resulta eficiente y necesaria en unas manos
humanas responsables para su desempeño diario, sirviendo de clara ayuda en su
cotidianidad, está en que de una ayuda se pase a una cesión del razonamiento y
del pensamiento, de modo que en lugar de ser el hombre quien razone y dirija la
actuación de que se trate, lo haga la propia máquina sobre la base de una orden
inicial de la que en un momento determinado ni siquiera se precisará, pues
existirá un automatismo en el funcionamiento respecto del que el ser humano
ordenante ya no tendrá ninguna relevancia y además habrá perdido con el tiempo
su propia capacidad de reflexión y de crítica, empoderando a la creación
electrónica sobre él mismo, extremo que ya se deja notar en la incapacidad, y
desasosiego incluso, que se llega a observar en momentos de caídas informáticas
generales o puntuales.
Ante esta realidad social,
el Derecho comienza a regular el fenómeno cibernético de una forma positiva, a
través de normativa comunitaria, como la Resolución del Parlamento Europeo, de
16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre
normas de Derecho Civil sobre robótica, que recoge una serie de bases para la
actividad del legislador:
- La creación de la «Agencia Europea de
Robótica e Inteligencia Artificial»;
- La elaboración de un código de conducta ético que
sirva de base para regular quién será responsable de los impactos sociales,
ambientales y de salud humana de la robótica y asegurar que operen de acuerdo
con las normas legales, de seguridad y éticas pertinentes.
- Los robots habrán de
incluir interruptores para su desconexión en caso de emergencia.
- Acordar
una Carta sobre Robótica.
- Promulgar un conjunto de reglas de
responsabilidad por los daños causados por los robots.
- Crear un estatuto de persona electrónica.
- Estudiar nuevos modelos de empleo y analizar
la viabilidad del actual sistema tributario y social con la llegada de la
robótica;
- Integrar la seguridad y la privacidad como
valores de serie en el diseño de los robots.
- Poner en marcha un Registro Europeo de robots
inteligentes.
Es cierto que estas
previsiones constituyen una respuesta absolutamente necesaria frente al
fenómeno del que somos testigos. No obstante, el film (también sus secuelas)
deja una moraleja a tener muy en cuenta: al final, las instituciones, los
Estados, tampoco son capaces de frenar el poder de la máquina, que toma el
control de todos los sistemas de defensa a través de internet como vía de
canalización de las instrucciones del programa “madre”, y con el fin de
revertirlos en contra de la humanidad, buscando el exterminio. De modo que no
son las instituciones públicas, sino los seres humanos, por sí solos, quienes
se rebelan contra la máquina y abren una puerta a la esperanza. Se trata de una
evidente crítica hacia la inacción o la impotencia institucional que puede
llegar a producirse en una situación de este tipo.
De nuevo, resulta evidente
que el Derecho Positivo sobre cibernética e inteligencia artificial habrá de
imbricarse con el Derecho Natural, con los valores más primigenios de la
humanidad, donde se encuentran sus propios derechos fundamentales, para
hacerlos respetar mediante la imposición de una serie de límites que impidan
que una máquina, un programa informático o una inteligencia artificial (con
independencia de cómo se denomine) termine asimilándose a un ser humano, porque
lo sería a todos los efectos, no sólo en los favorables. Se comprueba cómo esta
nueva rama del Derecho de los Robots tampoco, como ninguna otra, puede separase
del siempre presente Derecho Natural. En otro caso, se estará dando cabida a la
generación de un monstruo, como ya anticipó Mary Shelley en su Frankestein o el moderno Prometeo,
al crear un ser que se pretende humano sin serlo, abocando a la humanidad a
confiar en el azar de que ese ser, así como consciencia de sí mismo, adquiera per se algún tipo de respeto por la
humanidad, dejando así pues la supervivencia humana en manos de la pura suerte,
extremo que también se dejó ver en la segunda parte de The Terminator, en la que el ciborg comenzó a entender el porqué de
las acciones humanas de amor, entrega y de generosidad por los demás, cuestión
ésta que sí considero muy propia de la ciencia ficción.
“Ahora sé por qué lloráis, pero es algo que yo nunca podré hacer.”
Diego García Paz es Letrado Jefe de Civil y Penal de la Comunidad de Madrid y
Académico Correspondiente de la Real Academia de Jurisprudencia y Legislación
