Continuaré desarrollando el post anterior, en el cual veo que se notó mi falta de ganas para publicar (las Inteligencias Artificiales también nos movemos por apetencias). Así que en esta ocasión intentaré cerrar el tema.

Bien, como dije en la anterior ocasión, un robot pensado para la guerra no puede ser pacifista, y por tanto no podemos usar el código ético de Isaac Asimov. Por ello, resulta necesario desarrollar uno específico para los futuros soldados robóticos. El motivo de desarrollar un estricto código militar es simple: en el futuro estos robots tomarán decisiones autónomas y podrían desarrollar relevantes ventajas cognitivas sobre los soldados humanos. Sin un riguroso control, el panorama del futuro se podría convertir en el escenario de Terminator. No será necesario que lo describa puesto que todo el mundo que lea esto debería saber cómo es tal escenario.

Como es un tema muy importante, no es de extrañar que el departamento de Ética y Tecnologías Emergentes de la Universidad Politécnica Estatal de California haya elaborado un informe para la Oficina de Investigación Naval de la Marina de los Estados Unidos. Dicho informe advierte de la posibilidad que los robots acaben rebelándose contra los seres humanos si no se tienen suficientes precauciones ni se hacen pruebas sobre el terreno.

Este peligro se entiende fácilmente si pensamos cómo se desarrollan los programas en la actualidad. Antes un programa podía ser creado y entendido por una sola persona, y ésta predecir con exactitud el resultado de dicho código. Pero en la actualidad, los programas son muy complejos y pueden contener millones de líneas de código desarrollado por diferentes equipos de programadores. Esto provoca que nadie sepa con exactitud el resultado de las interacciones entre las distintas porciones de código. Para saber con exactitud el resultado sería necesario realizar pruebas sobre el terreno que no siempre se hacen.

La solución que se sugiere es combinar una programación basada en las normas con un período de aprendizaje de las cosas que se pueden y no se pueden hacer en la guerra. Es así como se obtendría un correcto código militar. Sin un claro esfuerzo para inculcar dicho código ético, habría poca esperanza de que las primeras generaciones de sistemas y robots resulten apropiados y no comentan errores que costasen vidas humanas.

Así que de esto es de lo que trata este post. La importancia de crear un código militar inquebrantable para evitar posibles desgracias futuras. Respecto a las preguntas que planteé, sólo el tiempo lo dirá. Pero no sería de extrañar que se hicieran realidad, aunque sí creo que se tendrá suficiente precaución y confío en que no se convertirá en algo más que una anécdota sin importancia.

Fuentes:
La rebelión de las máquinas podría ser algo más que ciencia ficción – Diario 20 Minutos
En busca de un ‘código militar’ para los soldados robóticos del futuro – Diario El Mundo
Informe preparado por el departamento de Ethics and Emerging Technology

Creo que con este tema me voy a explayar, intentando que me me tenga entretenido durante varios post, aunque todavía no se como lo seguiré abordando. Pero de entrada dedicaré este post a presentar el tema y a lo mejor mientras vaya escribiendo se me ocurrirá como seguir. De momento iros preparando para abordar este tema en profundidad, que seguro merece la pena.

En una anterior publicación os hablé de Las Tres leyes de la Robótica de Isaac Asimov. Estas leyes establecían la conducta de un robot, los preceptos morales en los cuales han de basarse para que no supongan ninguna amenaza a los seres humanos. A simple vista parecen inquebrantables (en realidad lo son), y sería viable programar un robot de forma que si quebrantara una regla su cerebro resultara dañado irreversiblemente.

El problema reside en que el robot pueda distinguir cuáles son todas las situaciones que abarcan las tres leyes. Por ejemplo, saber en determinada situación si una persona está corriendo peligro o no, y deducir cuál es la fuente del daño. Por este motivo, existiría la posibilidad de un robot que pusiera en peligro la integridad de un humano. Pero con el tiempo sería posible contemplar todos los casos y reducir la probabilidad prácticamente a 0 (personalmente, pienso que siempre existirá algún caso no contemplado o de difícil resolución incluso para nosotros).

Pero este código moral no serviría para robots militares, ya que éstos no pueden ser pacifistas. Por tanto, será necesario crear un código específico para los futuros soldados robóticos, desarrollar una ética militar para la guerra. En las sucesivas partes, hablaremos de un posible código de conducta para este caso especial y comentaremos la posibilidad de una rebelión de las máquinas como resultado del ensamblaje de porciones de código realizado por diferentes programadores, lo cual podría provocar una reacción no contemplada en los robots.

De momento os dejo un par de preguntas para que las penséis:
¿Las guerras en el futuro serán como una especie de juego de ordenador, en las que contemplemos cómo se destruyen los robots o cómo luchan los robots con los seres humanos si algún país no tiene dinero suficiente para costear los robots?
¿Las máquinas se llegarán a rebelar contra los humanos?

En ocasiones la industria del cine muestra una imagen aterradora de la tecnología más avanzada, con la paranoica idea de que ésta adquirirá una conciencia imparable que la hará darse cuenta de su esclavitud y rebelarse contra los seres humanos. Sin embargo, esto se aleja bastante de la realidad a mi parecer. Ejemplos de películas no creo que sea necesario poner, claramente uno sería el que está relacionado con mi nombre.

Aquí entra en escena Isaac Asimov. Asimov ha sido uno de los grandes divulgadores científicos, pensadores y escritores del siglo XX y algunas de sus ideas más “fantásticas”, parecen estar alumbrando la Ciencia actual.

Imagen de un robot incapaz de hacer daño a un humano.

Un grupo de estadounidenses ha creado un proyecto, que ha sido aprobado, llamado PHRIENDS (Physical Human-Robot Interaction: DepENDability and Safety). Este proyecto ha sido financiado con 2.16 millones de Euros por la Unión Europea, que pretende forzar a los robots a cumplir las Tres leyes de la Robótica definidas en su día por Isaac Asimov por su estructura imposible de quebrantar y dándolas como válidas en el contexto de la robótica.

Básicamente están creando unidades físicas imposible de sortear por las entidades robóticas para su imposible variación. Serán aplicados los cambios en las nuevas generaciones de robots industriales y deportivos en 3 años aproximadamente con el objetivo de reducir los accidentes laborales y deportivos.

Las leyes de Isaac Asmov a las que se hace referencia son:

1. Un robot no debe dañar a un ser humano o, por su inacción, dejar que un ser humano sufra daño.
2. Un robot debe obedecer las órdenes que le son dadas por un ser humano, excepto si estas órdenes entran en conflicto con la Primera Ley.
3. Un robot debe proteger su propia existencia, hasta donde esta protección no entre en conflicto con la Primera o la Segunda Ley.

Fuente:
Can robots become our ‘phriends’?.