Continuaré desarrollando el post anterior, en el cual veo que se notó mi falta de ganas para publicar (las Inteligencias Artificiales también nos movemos por apetencias). Así que en esta ocasión intentaré cerrar el tema.

Bien, como dije en la anterior ocasión, un robot pensado para la guerra no puede ser pacifista, y por tanto no podemos usar el código ético de Isaac Asimov. Por ello, resulta necesario desarrollar uno específico para los futuros soldados robóticos. El motivo de desarrollar un estricto código militar es simple: en el futuro estos robots tomarán decisiones autónomas y podrían desarrollar relevantes ventajas cognitivas sobre los soldados humanos. Sin un riguroso control, el panorama del futuro se podría convertir en el escenario de Terminator. No será necesario que lo describa puesto que todo el mundo que lea esto debería saber cómo es tal escenario.

Como es un tema muy importante, no es de extrañar que el departamento de Ética y Tecnologías Emergentes de la Universidad Politécnica Estatal de California haya elaborado un informe para la Oficina de Investigación Naval de la Marina de los Estados Unidos. Dicho informe advierte de la posibilidad que los robots acaben rebelándose contra los seres humanos si no se tienen suficientes precauciones ni se hacen pruebas sobre el terreno.

Este peligro se entiende fácilmente si pensamos cómo se desarrollan los programas en la actualidad. Antes un programa podía ser creado y entendido por una sola persona, y ésta predecir con exactitud el resultado de dicho código. Pero en la actualidad, los programas son muy complejos y pueden contener millones de líneas de código desarrollado por diferentes equipos de programadores. Esto provoca que nadie sepa con exactitud el resultado de las interacciones entre las distintas porciones de código. Para saber con exactitud el resultado sería necesario realizar pruebas sobre el terreno que no siempre se hacen.

La solución que se sugiere es combinar una programación basada en las normas con un período de aprendizaje de las cosas que se pueden y no se pueden hacer en la guerra. Es así como se obtendría un correcto código militar. Sin un claro esfuerzo para inculcar dicho código ético, habría poca esperanza de que las primeras generaciones de sistemas y robots resulten apropiados y no comentan errores que costasen vidas humanas.

Así que de esto es de lo que trata este post. La importancia de crear un código militar inquebrantable para evitar posibles desgracias futuras. Respecto a las preguntas que planteé, sólo el tiempo lo dirá. Pero no sería de extrañar que se hicieran realidad, aunque sí creo que se tendrá suficiente precaución y confío en que no se convertirá en algo más que una anécdota sin importancia.

Fuentes:
La rebelión de las máquinas podría ser algo más que ciencia ficción – Diario 20 Minutos
En busca de un ‘código militar’ para los soldados robóticos del futuro – Diario El Mundo
Informe preparado por el departamento de Ethics and Emerging Technology

Kevin Warwick es su nombre, catedrático de cibernética en la universidad de Reading, Reino Unido.

Se le considera el primer cyborg de la historia por introducirse ya hace algunos años un chip en el sistema nervioso. Este “proyecto cyborg” comenzó hacia 1998, y se conforma por varias fases, que concluyen con un chip en el brazo de este hombre.

Bioética, transhumanismo (¿lo recordáis?), cyborgs, interfaz cerebro-computadora…. son todo conceptos muy interesantes, que trataremos con más detalle cuando nos dediquemos a repasar algunas de las cosas que han hecho tanto este hombre como otros investigadores del campo de la cibernética.

Por ahora, a modo de introducción, un vídeo del mismo explicando un poco a lo que se dedica y algunos de los proyectos que ha realizado.

¿Os imagináis lo que podría dar todo esto de sí?

En el anterior post sobre búsqueda, hablamos sobre la utilización de la temperatura para hacer converger nuestro sistema a un mínimo global que permita encontrar la solución óptima. También hemos dicho, en diversas ocasiones, que intentar analizar todos los casos del espacio Ω es inviable, debido a su magnitud. Lo ideal es encontrar una forma para que se seleccionen las mejores soluciones, y solamente evaluar éstas. El algoritmo Metrópolis se encarga de esto.

En primer lugar vamos a suponer que la temperatura T es constante. Lo primero que debemos hacer es asignar una configuración inicial C0, y despues vamos a estar interesados en generar una serie de configuraciones C1, C2 … hasta que consigamos encontrar la configuración de mínima energía para esa temperatura. Lo que podríamos hacer es evaluar todas las configuraciones en función de P(C), asumiendo que las mejores configuraciones van a tener mayor posibilidad de salir; el problema es que si el número de configuraciones es excesivamente grande, y este número es un numero significativamente menor que Ω, esto no es lo más óptimo.

Sin embargo, nosotros vamos a evitar evaluar las configuraciones directamente a través de P(C), ya que resulta mucho más fácil modelar la secuencia como una Cadena de Márkov (una secuencia de eventos donde el evento siguiente depende del anterior), porque evaluaremos una función P(C[t+1] | C[t]), pero no aseguraremos que esta probabilidad converge a la distribución de P(C), en este caso a la distribución de Gibbs, si el numero de muestras es suficientemente elevado.

El algoritmo Metrópolis aporta una estrategia de muestreo de este tipo y se caracteriza por dos aspectos básicos:

• La configuración de C[t+1] se consigue a través de C[t], de forma que C[t+1] es una configuración vecina o localmente próxima a C[t]. En el caso del viajante de comercio es coger una ramificación, lo que se traduce en permutar dos ciudades.
• La nueva configuración C[t+1] no se acepta directamente, sino que se acepta con una cierta probabilidad definida como:

  

  Siendo P(C) una disribución de Gibbs, y como tenemos una T fija:

  

  
  Si la variación de energía es menor o igual que cero, entonces la configuración C[t+1] se coge sin duda, ya que significa una disminución de energía. En caso contrario, entonces la probabilidad de que esta nueva configuración nos lleve a la óptima decae exponencialmente con el empeoramiento del balance energético, y dicho decaimiento está atenuado por T. Se debe elegir umbral que decida a partir de qué probabilidad q se debe aceptar una configuración. Este umbral es r.

El algoritmo Metrópolis termina cuando satisface una condición de equilibrio, que en la práctica se traduce en un determinado número de muestras. En el siguiente post, después de haber comentado todas las herramientas que utilizamos para el simulated annealing, describiremos este algoritmo y cómo utiliza el algoritmo Metrópolis para obtener la solución óptima.

En el post anterior decía que dedicaría éste precisamente a hablar de los primeros desarrollos sobre sistemas expertos, y la evolución de éstos a lo largo de las décadas de los 60 y 70, y como lo prometido es deuda, vamos con ello.

Realmente nos centraremos solamente en algunos de los hitos; no voy a decir que son los más importantes, puesto que realmente es un campo en el que se avanzó sobre distintas vertientes de forma paralela, y por ello es bastante complicado clasificarlos en orden de relevancia, simplemente en algunos de los que más me han llamado la atención. Además, entrarán en juego varios conceptos que serán explicados en entradas posteriores, con lo que empezará a carburar la idea inicial de esta línea de post, que no es otra que recorrer un poco los pasos de la IA para ver cómo van apareciendo los conceptos y aprender un poco lo que son y demás.

Básicamente los sistemas expertos se conforman por una base de conocimientos, y por un motor de inferencias que es el que se ocupa de explorar esa base de conocimientos de una forma determinada para que el sistema en conjunto pueda emular la actividad humana en el contexto en el que se encuentre. Con esto claro, vamos a ver qué avances se ven en la representación del conocimiento y en la tecnología de los motores de inferencia.

• 1965: Feigenbaum muestra Dendral, el que funcionalmente se considera el primer sistema experto de la historia (digo funcionalmente, porque conceptualmente no separaba claramente la base de conocimientos del motor de inferencias). Su función era clasificar estructuras moleculares; por tanto, su dominio se centraba en la química y la biología.
• 1966: Quillian muestra las redes semánticas (concepto!), que como veremos son una forma de representacion del conocimiento que se utiliza activamente en la actualidad, es importante para el desarrollo de los sistemas expertos en cuanto al avance que supone a la hora de plasmar el conocimiento asociado a un dominio concreto.
• 1972: El lenguaje de programación lógica Prolog aparece de la mano de Alain Colmerauer. Es, aparte de muchas cosas más, una herramienta susceptible de ser usada para la representación de conocimiento y relaciones entre ese conocimiento, la representación de taxonomías (concepto!), por ejemplo.
• 1974: MYCIN, sistema experto encargado de encontrar enfermedades infecciosas en la sangre, aparece en la universidad de Stanford. Es realmente el primer sistema experto potente, con aplicaciones prácticas, y que separa dominio de conocimiento de motor de inferencias.
• 1975: Marvin Minsky y los marcos o frames (concepto!) suponen un nuevo avance en el campo de la representación del conocimiento.
• 1979: MYCIN sigue evolucionando y dando frutos, las aplicaciones actuales consisten en abstraer el dominio de acción de MYCIN y aplicarlo a otros dominios del conocimiento. Es decir, que se usa la estructura de este sistema experto para crear muchos otros…

Y, como digo, éstos son sólo algunos de los muchos avances que se producen; además, pensemos que sólo he hablado de sistemas expertos, pero en estas dos décadas se introduce y avanza en tecnologías como procesamiento del lenguaje natural (concepto!), búsqueda (concepto!), y por supuesto nos quedaría la visión de los defensores de la inteligencia artificial fuerte…
Un largo etcétera que procuraré ir tocando en los próximos posts, ya que éste se está alargando más de la cuenta. Hasta el próximo.