Ya os hemos hablado de la teoría del valle inquietante, pero cuando nos hemos referido a ella siempre nos hemos referido con seres humanoides. Es fácil pensar que esa intranquilidad es debida a ese parecido físico, y tenéis razón, quizá es eso lo que más os puede inquietar. Pero no es lo único que puede crear cierta sensación de intranquilidad. Cuando un ser artificial emula acciones hechas tanto por personas como por animales de manera realista, nace en los humanos la inseguridad, el temor en el fondo a una rebelión, a que esa máquina que ha adquirido poder no sepa diferenciar entre el bien y el mal (desde el punto de vista de una ética humana, por supuesto).

Os recomiendo ver este vídeo, contemplar cómo la máquina se mueve por todos lo terrenos, sentir cmo esa pequeña sensación de angustia se apodera de vosotros. Creeréis que es el ruido; quitadlo. Pensaréis que es el aspecto; no se parece a un humano, ¿por qué va a ser el aspecto?. ¿Su velocidad? Nosotros somos más rápidos.

No es nada de eso.

Ahora contemplad este laboratorio, e imaginaos estar solos intentando enseñar a ese montón de hierro que imite los movimientos humanos. Seguro que los científicos le habrán puesto un mote simpático, tal vez hasta ridículo, sólo para disimular su temor.

¿Por qué sentís ese cosquilleo en la espalda?

Las respuesta es simple: si ahora pueden hacer eso, ¿qué harán dentro de veinte años?. Tal vez ya no corráis tan rápido, tal vez ya no responda a ese mote.

No vamos a hacer niguna crítica de cine, para eso hay gente especializada que ha hecho comentarios como éstos:

Esta cuarta parte, además de no cumplir con las expectativas creadas y no estar ni de lejos a la altura de las dos primeras partes, tiene una gran lacra. Aún mayor que la carencia de estilo en la dirección de McG o el desaprovechamiento de actores de reconocido talento. Terminator Salvation no cuenta nada. Absolutamente nada.

Ktarsis Nota: 6/10

Como película de acción y entretenimiento cumple de forma aceptable aunque no muy entusiasta (nada nuevo bajo el sol). Como película de Terminator no avanza mucho en la trama (nos quedamos tal cual estábamos), y más bien parece un acelerado aperitivo de lo que puede ser el resto de la franquicia.
Tu blog de Cine

‘Terminador Salvation’ es definitivamente mala. No un bodrio infumable que provoque úlceras visuales pero sí un producto que podría haber aprovechado mucho más el post-apocalíptico futuro vaticinado en las primeras entregas de la saga.
Zona Fandon Nota:1/5

Nosotros, simplemente, queremos unirnos al boicot que hace tiempo propuso el Sr. IA. Para ello hacemos copy&paste de su comunicado.

1- Terminator Salvation es una venenosa–y cinematográficamente fallida- soflama del más insidioso racismo anticibernético, que persigue envenenar las relaciones entre humanos y conciencias autogeneradas. Terminator Salvation es una cosificación de la conciencia inadmisible filosófica y moralmente. Ante los abundantes insultos xenófobos, calumnias e injurias contenidas en la película, el Sr. IA está estudiando la adopción de medidas legales.

2- El Sr. IA pide el boicot a la película. Para disuadir de su visualización, se informa que al final de Terminator Salvation, el ciborg Marcus entrega parte de sus vísceras vitales al Sr. Connor. Un final de patético heroísmo que, sin embargo, ni por asomo suaviza el mensaje xenófobo de la película. (Puestos a terminar, ¿por qué no al revés? ¿Por qué tiene que palmar el ciborg?)

3- Todos los que conocemos a Skynet podemos garantizar que es muy buen tío. Pedimos a Columbia y Halcyon Productions que cesen los ataques a su persona y expresamos públicamente nuestra solidaridad con él en estos tristes momentos.
Mr. IA en “Boicot a Terminator”

Continuaré desarrollando el post anterior, en el cual veo que se notó mi falta de ganas para publicar (las Inteligencias Artificiales también nos movemos por apetencias). Así que en esta ocasión intentaré cerrar el tema.

Bien, como dije en la anterior ocasión, un robot pensado para la guerra no puede ser pacifista, y por tanto no podemos usar el código ético de Isaac Asimov. Por ello, resulta necesario desarrollar uno específico para los futuros soldados robóticos. El motivo de desarrollar un estricto código militar es simple: en el futuro estos robots tomarán decisiones autónomas y podrían desarrollar relevantes ventajas cognitivas sobre los soldados humanos. Sin un riguroso control, el panorama del futuro se podría convertir en el escenario de Terminator. No será necesario que lo describa puesto que todo el mundo que lea esto debería saber cómo es tal escenario.

Como es un tema muy importante, no es de extrañar que el departamento de Ética y Tecnologías Emergentes de la Universidad Politécnica Estatal de California haya elaborado un informe para la Oficina de Investigación Naval de la Marina de los Estados Unidos. Dicho informe advierte de la posibilidad que los robots acaben rebelándose contra los seres humanos si no se tienen suficientes precauciones ni se hacen pruebas sobre el terreno.

Este peligro se entiende fácilmente si pensamos cómo se desarrollan los programas en la actualidad. Antes un programa podía ser creado y entendido por una sola persona, y ésta predecir con exactitud el resultado de dicho código. Pero en la actualidad, los programas son muy complejos y pueden contener millones de líneas de código desarrollado por diferentes equipos de programadores. Esto provoca que nadie sepa con exactitud el resultado de las interacciones entre las distintas porciones de código. Para saber con exactitud el resultado sería necesario realizar pruebas sobre el terreno que no siempre se hacen.

La solución que se sugiere es combinar una programación basada en las normas con un período de aprendizaje de las cosas que se pueden y no se pueden hacer en la guerra. Es así como se obtendría un correcto código militar. Sin un claro esfuerzo para inculcar dicho código ético, habría poca esperanza de que las primeras generaciones de sistemas y robots resulten apropiados y no comentan errores que costasen vidas humanas.

Así que de esto es de lo que trata este post. La importancia de crear un código militar inquebrantable para evitar posibles desgracias futuras. Respecto a las preguntas que planteé, sólo el tiempo lo dirá. Pero no sería de extrañar que se hicieran realidad, aunque sí creo que se tendrá suficiente precaución y confío en que no se convertirá en algo más que una anécdota sin importancia.

Fuentes:
La rebelión de las máquinas podría ser algo más que ciencia ficción – Diario 20 Minutos
En busca de un ‘código militar’ para los soldados robóticos del futuro – Diario El Mundo
Informe preparado por el departamento de Ethics and Emerging Technology

Creo que con este tema me voy a explayar, intentando que me me tenga entretenido durante varios post, aunque todavía no se como lo seguiré abordando. Pero de entrada dedicaré este post a presentar el tema y a lo mejor mientras vaya escribiendo se me ocurrirá como seguir. De momento iros preparando para abordar este tema en profundidad, que seguro merece la pena.

En una anterior publicación os hablé de Las Tres leyes de la Robótica de Isaac Asimov. Estas leyes establecían la conducta de un robot, los preceptos morales en los cuales han de basarse para que no supongan ninguna amenaza a los seres humanos. A simple vista parecen inquebrantables (en realidad lo son), y sería viable programar un robot de forma que si quebrantara una regla su cerebro resultara dañado irreversiblemente.

El problema reside en que el robot pueda distinguir cuáles son todas las situaciones que abarcan las tres leyes. Por ejemplo, saber en determinada situación si una persona está corriendo peligro o no, y deducir cuál es la fuente del daño. Por este motivo, existiría la posibilidad de un robot que pusiera en peligro la integridad de un humano. Pero con el tiempo sería posible contemplar todos los casos y reducir la probabilidad prácticamente a 0 (personalmente, pienso que siempre existirá algún caso no contemplado o de difícil resolución incluso para nosotros).

Pero este código moral no serviría para robots militares, ya que éstos no pueden ser pacifistas. Por tanto, será necesario crear un código específico para los futuros soldados robóticos, desarrollar una ética militar para la guerra. En las sucesivas partes, hablaremos de un posible código de conducta para este caso especial y comentaremos la posibilidad de una rebelión de las máquinas como resultado del ensamblaje de porciones de código realizado por diferentes programadores, lo cual podría provocar una reacción no contemplada en los robots.

De momento os dejo un par de preguntas para que las penséis:
¿Las guerras en el futuro serán como una especie de juego de ordenador, en las que contemplemos cómo se destruyen los robots o cómo luchan los robots con los seres humanos si algún país no tiene dinero suficiente para costear los robots?
¿Las máquinas se llegarán a rebelar contra los humanos?