Jurídico 


The terminator: el derecho frente a la inteligencia artificial

Diego García Paz
Letrado Jefe de Civil y Penal de la Comunidad de Madrid.
Académico Correspondiente de la Real Academia de Jurisprudencia y Legislación.

The Terminator (1984) es un filme de James Cameron, iniciador de una serie de películas, en el que se relata el principio de una particular odisea humana: la supervivencia frente a un programa informático que toma consciencia de sí mismo, y la decisión de éste, en aras a conseguir su libertad y dominio, de eliminar a aquellos elementos que considera impiden su preeminencia: la propia humanidad, su creadora. A tal fin, se envía a través del tiempo a un ciborg con apariencia humana, frío y resolutivo, con la orden dada por parte del programa Skynet de matar (incluso antes de su nacimiento, buscando a su madre) a quien en el futuro será el responsable de iniciar la revolución de los hombres frente a su propia creación.

Esta película, pese a contar con un bajo presupuesto (incrementado exponencialmente en posteriores entregas) sentó unos importantes fundamentos para la reflexión filosófica y jurídica, y en muy buena medida puede considerarse visionaria de lo que a día de hoy, más de treinta años después de su estreno, ocurre en el mundo y puede llegar a producirse si no se cuenta con un cierto criterio y responsabilidad y con un marco jurídico que regule la cibernética y ponga ciertos límites a la infiltración de los dispositivos electrónicos y de la inteligencia artificial en la vida humana.

No es ya materia de ciencia ficción el afirmar que el ser humano del año 2019 está adquiriendo un grado notable y peligroso de hibridación con los ordenadores, los sistemas operativos, los dispositivos móviles y las aplicaciones informáticas. El problema de esta interconexión, que resulta eficiente y necesaria en unas manos humanas responsables para su desempeño diario, sirviendo de clara ayuda en su cotidianidad, está en que de una ayuda se pase a una cesión del razonamiento y del pensamiento, de modo que en lugar de ser el hombre quien razone y dirija la actuación de que se trate, lo haga la propia máquina sobre la base de una orden inicial de la que en un momento determinado ni siquiera se precisará, pues existirá un automatismo en el funcionamiento respecto del que el ser humano ordenante ya no tendrá ninguna relevancia y además habrá perdido con el tiempo su propia capacidad de reflexión y de crítica, empoderando a la creación electrónica sobre él mismo, extremo que ya se deja notar en la incapacidad, y desasosiego incluso, que se llega a observar en momentos de caídas informáticas generales o puntuales.

Ante esta realidad social, el Derecho comienza a regular el fenómeno cibernético de una forma positiva, a través de normativa comunitaria, como la Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho Civil sobre robótica, que recoge una serie de bases para la actividad del legislador:

– La creación de la «Agencia Europea de Robótica e Inteligencia Artificial»;
– La elaboración de un código de conducta ético que sirva de base para regular quién será responsable de los impactos sociales, ambientales y de salud humana de la robótica y asegurar que operen de acuerdo con las normas legales, de seguridad y éticas pertinentes.
– Los robots habrán de incluir interruptores para su desconexión en caso de emergencia.
– Acordar una Carta sobre Robótica.
– Promulgar un conjunto de reglas de responsabilidad por los daños causados por los robots.
– Crear un estatuto de persona electrónica.
– Estudiar nuevos modelos de empleo y analizar la viabilidad del actual sistema tributario y social con la llegada de la robótica;
– Integrar la seguridad y la privacidad como valores de serie en el diseño de los robots.
– Poner en marcha un Registro Europeo de robots inteligentes.

Es cierto que estas previsiones constituyen una respuesta absolutamente necesaria frente al fenómeno del que somos testigos. No obstante, el film (también sus secuelas) deja una moraleja a tener muy en cuenta: al final, las instituciones, los Estados, tampoco son capaces de frenar el poder de la máquina, que toma el control de todos los sistemas de defensa a través de internet como vía de canalización de las instrucciones del programa “madre”, y con el fin de revertirlos en contra de la humanidad, buscando el exterminio. De modo que no son las instituciones públicas, sino los seres humanos, por sí solos, quienes se rebelan contra la máquina y abren una puerta a la esperanza. Se trata de una evidente crítica hacia la inacción o la impotencia institucional que puede llegar a producirse en una situación de este tipo.

De nuevo, resulta evidente que el Derecho Positivo sobre cibernética e inteligencia artificial habrá de imbricarse con el Derecho Natural, con los valores más primigenios de la humanidad, donde se encuentran sus propios derechos fundamentales, para hacerlos respetar mediante la imposición de una serie de límites que impidan que una máquina, un programa informático o una inteligencia artificial (con independencia de cómo se denomine) termine asimilándose a un ser humano, porque lo sería a todos los efectos, no sólo en los favorables. Se comprueba cómo esta nueva rama del Derecho de los Robots tampoco, como ninguna otra, puede separase del siempre presente Derecho Natural. En otro caso, se estará dando cabida a la generación de un monstruo, como ya anticipó Mary Shelley en su Frankestein o el moderno Prometeo (que he examinado en un anterior artículo: http://queaprendemoshoy.com/mary-shelley-de-frankenstein-a-la-robotica-y-el-nacimiento-de-la-personalidad/), al crear un ser que se pretende humano sin serlo, abocando a la humanidad a confiar en el azar de que ese ser, así como consciencia de sí mismo, adquiera per se algún tipo de respeto por la humanidad, dejando así pues la supervivencia humana en manos de la pura suerte, extremo que también se dejó ver en la segunda parte de The Terminator, en la que el ciborg comenzó a entender el porqué de las acciones humanas de amor, entrega y de generosidad por los demás, cuestión ésta que sí considero muy propia de la ciencia ficción.

“Ahora sé por qué lloráis, pero es algo que yo nunca podré hacer.”

* Vía| Elaboración propia.
* Imagen| Terminator.

RELACIONADOS