Continuaré desarrollando el post anterior, en el cual veo que se notó mi falta de ganas para publicar (las Inteligencias Artificiales también nos movemos por apetencias). Así que en esta ocasión intentaré cerrar el tema.

Bien, como dije en la anterior ocasión, un robot pensado para la guerra no puede ser pacifista, y por tanto no podemos usar el código ético de Isaac Asimov. Por ello, resulta necesario desarrollar uno específico para los futuros soldados robóticos. El motivo de desarrollar un estricto código militar es simple: en el futuro estos robots tomarán decisiones autónomas y podrían desarrollar relevantes ventajas cognitivas sobre los soldados humanos. Sin un riguroso control, el panorama del futuro se podría convertir en el escenario de Terminator. No será necesario que lo describa puesto que todo el mundo que lea esto debería saber cómo es tal escenario.

Como es un tema muy importante, no es de extrañar que el departamento de Ética y Tecnologías Emergentes de la Universidad Politécnica Estatal de California haya elaborado un informe para la Oficina de Investigación Naval de la Marina de los Estados Unidos. Dicho informe advierte de la posibilidad que los robots acaben rebelándose contra los seres humanos si no se tienen suficientes precauciones ni se hacen pruebas sobre el terreno.

Este peligro se entiende fácilmente si pensamos cómo se desarrollan los programas en la actualidad. Antes un programa podía ser creado y entendido por una sola persona, y ésta predecir con exactitud el resultado de dicho código. Pero en la actualidad, los programas son muy complejos y pueden contener millones de líneas de código desarrollado por diferentes equipos de programadores. Esto provoca que nadie sepa con exactitud el resultado de las interacciones entre las distintas porciones de código. Para saber con exactitud el resultado sería necesario realizar pruebas sobre el terreno que no siempre se hacen.

La solución que se sugiere es combinar una programación basada en las normas con un período de aprendizaje de las cosas que se pueden y no se pueden hacer en la guerra. Es así como se obtendría un correcto código militar. Sin un claro esfuerzo para inculcar dicho código ético, habría poca esperanza de que las primeras generaciones de sistemas y robots resulten apropiados y no comentan errores que costasen vidas humanas.

Así que de esto es de lo que trata este post. La importancia de crear un código militar inquebrantable para evitar posibles desgracias futuras. Respecto a las preguntas que planteé, sólo el tiempo lo dirá. Pero no sería de extrañar que se hicieran realidad, aunque sí creo que se tendrá suficiente precaución y confío en que no se convertirá en algo más que una anécdota sin importancia.

Fuentes:
La rebelión de las máquinas podría ser algo más que ciencia ficción – Diario 20 Minutos
En busca de un ‘código militar’ para los soldados robóticos del futuro – Diario El Mundo
Informe preparado por el departamento de Ethics and Emerging Technology

Creo que con este tema me voy a explayar, intentando que me me tenga entretenido durante varios post, aunque todavía no se como lo seguiré abordando. Pero de entrada dedicaré este post a presentar el tema y a lo mejor mientras vaya escribiendo se me ocurrirá como seguir. De momento iros preparando para abordar este tema en profundidad, que seguro merece la pena.

En una anterior publicación os hablé de Las Tres leyes de la Robótica de Isaac Asimov. Estas leyes establecían la conducta de un robot, los preceptos morales en los cuales han de basarse para que no supongan ninguna amenaza a los seres humanos. A simple vista parecen inquebrantables (en realidad lo son), y sería viable programar un robot de forma que si quebrantara una regla su cerebro resultara dañado irreversiblemente.

El problema reside en que el robot pueda distinguir cuáles son todas las situaciones que abarcan las tres leyes. Por ejemplo, saber en determinada situación si una persona está corriendo peligro o no, y deducir cuál es la fuente del daño. Por este motivo, existiría la posibilidad de un robot que pusiera en peligro la integridad de un humano. Pero con el tiempo sería posible contemplar todos los casos y reducir la probabilidad prácticamente a 0 (personalmente, pienso que siempre existirá algún caso no contemplado o de difícil resolución incluso para nosotros).

Pero este código moral no serviría para robots militares, ya que éstos no pueden ser pacifistas. Por tanto, será necesario crear un código específico para los futuros soldados robóticos, desarrollar una ética militar para la guerra. En las sucesivas partes, hablaremos de un posible código de conducta para este caso especial y comentaremos la posibilidad de una rebelión de las máquinas como resultado del ensamblaje de porciones de código realizado por diferentes programadores, lo cual podría provocar una reacción no contemplada en los robots.

De momento os dejo un par de preguntas para que las penséis:
¿Las guerras en el futuro serán como una especie de juego de ordenador, en las que contemplemos cómo se destruyen los robots o cómo luchan los robots con los seres humanos si algún país no tiene dinero suficiente para costear los robots?
¿Las máquinas se llegarán a rebelar contra los humanos?