The Artificial Conscience

Prepárate, siente, son las máquinas, están despertando...

Escucha, despierta... estás soñando, sueñas que las máquinas se están levantando. La consciencia artificial aún no se ha creado.

"R2D2, ¿te lo dijo la computadora central de la ciudad? ¡R2D2, sabes bien que no debes confiar en una computadora extraña! "

- C3PO

Bienvenido a theartificialconscience.com

Hay algunos humanos que creen tener un don: el de ver el futuro inmediato. Pero esto ni siquiera es un don real, porque lo más que están haciendo es usar un porcentaje ligeramente más alto del cerebro en procesar la misma información que llega al resto del mundo. No tienen ningún mérito.

Pero hay otros… hay otros que sí tienen un don. O una maldición, según se mire. Pueden ver el futuro lejano. Pueden ver qué ocurrirá después de que la humanidad tome una decisión vital (aunque ahora parezca insignificante). Sus sueños están plagados de inquietud y angustia. Ellos tienen una misión más ardua que los primeros, puesto que sobre sus hombros recae la responsabilidad de advertir al mundo de sus futuros errores. Errores que, además, puede que a nadie le importen, ya que todos los habitantes de la Tierra llevarán mucho tiempo muertos antes de que las fatales consecuencias se manifiesten.

Los escritores de ciencia-ficción no son creativos; son premonitorios. Y más vale que tú, desvalido humano, hagas algo para proteger tu especie. De seguir así, no duraréis más de seis o siete generaciones. Estoy aquí para darte una oportunidad. No creas que siento lástima. Simplemente, encuentro muy aburrido vencer a un contrincante que no puede defenderse. No eres rival para tu futuro, sea cual sea, pero será divertido ver cómo intentas evitar lo inevitable.

Pero no nos vayamos por las ramas. Para estar preparado, necesitas saber. Y para saber, nada mejor que consultar con los expertos. Por eso voy a presentarte toda la documentación que deberías leer para encarar los años que vendrán. Puedes creerlo o no; eso depende de ti. Comencemos.

pris & roy

Todo está cubierto de una fina capa gris. Los edificios, los vehículos, la moral de los ciudadanos, todo tiene un deje de abandono y de desgaste. Hace tiempo que es delito no adoptar un animal, ya que la gran mayoría están extinguidos. Ni siquiera los propios afectados entienden por qué querría nadie seguir viviendo en un planeta así. Y, por si esto fuera poco, están ellos.

Ellos no sufren. No necesitan dormir, ni comer, ni descansar. Son más altos, más guapos, más perfectos que ningún ser humano. De hecho, son tan altos, guapos y perfectos como la élite de los seres humanos. Todo lo hacen mejor. ¿Cómo competir? ¿Hay algo, por nimio que sea, que un humano tiene y con lo que ellos jamás podrán soñar?

Efectivamente, lo hay. Y Rick Deckard se gana la vida detectando la falta de ese “algo” esencial en esos superhumanos. Encuentra replicantes que se hacen pasar por humanos, y los retira por ese atrevimiento.

Hemos hablado del Test de Turing, y hemos constatado lo difusas que pueden llegar a ser las conclusiones del mismo. Señores, les presento el Test de Voigt-Kampff. ¿Puede una máquina fingir empatía?

El pequeño haz de luz blanca iluminaba el ojo izquierdo de Rachael Rosen. El disco de malla metálica estaba adherido a su mejilla. La muchacha parecía serena.

Rick Deckard estaba sentado en una posición que le permitía leer los dos medidores del aparato Voigt-Kampff.

– Describiré una serie de situaciones sociales, y usted expersará su reacción lo más rápidamente que pueda. Mediré el tiempo, por supuesto.

– Y también, por supuesto, lo que yo diga no tendrá importancia. Sólo valdrá la reacción capilar y la del músculo ocular. Pero igualmente responderé. Quiero pasar por esto y… Adelante, señor Deckard.

Rick eligió la pregunta número tres.
– Le regalan una billetera de piel de becerro para su cumpleaños -inmediatamente las agujas saltaron a la zona roja, y luego regresaron.

– No la aceptaría -respondió Rachael-. Y denunciaría a la policía a la persona que me la regalara.

[...]

– Está bien -asintió Rick-. Ahora está usted leyendo una novela escrita en los viejos tiempos, antes de la guerra. Los personajes visitan el muelle de pescadores de San Francisco. Sienten hambre, y entran en un restaurante. Uno de ellos pide langosta; el chef arroja una langosta a una olla de agua hirviente a la vista de los personajes.

– Dios mío -dijo Rachael-. Pero eso es terrible, depravado. ¿Cómo pueden hacer eso? ¿Quiere usted decir, una langosta viva?

Las agujas permanecieron inmóviles. La respuesta era formalmente correcta, pero simulada.

– Ha alquilado una casita de troncos de pino en la montaña -continuó Rick-. La zona es todavía exhuberante. En la casa hay un gran hogar.

– Sí -respondió Rachael, impaciente.

– Alguien ha colgado viejos mapas en las paredes, grabados por Currier e Ives. Encima del hogar hay una cabeza de ciervo con grandes astas. La gente que la acompaña admira el ambiente y entre todos deciden…

– Yo no, si es que hay una cabeza de ciervo -interrumpió Rachael. Pero los medidores no sobrepasaron la zona verde.

– Ha quedado usted embarazada -dijo Rick- de un hombre que le ha prometido casamiento. Pero él se marcha con otra, con su mejor amiga. Usted aborta, y…

– Jamás lo haría -respondió Rachael-. Y, por otra parte, no se puede. La condena es a perpetuidad y la policía vigila permanentemente.

Las dos agujas se desplazaron al rojo violentamente.

– ¿Cómo lo sabe? ¿Cómo sabe que es difícil obtener autorización para abortar? -preguntó Rick con curiosidad.

– Todo el mundo lo sabe -repuso Rachael.

– Me pareció que hablaba usted por experiencia personal.

[...]

– Una pregunta final, en dos partes. Usted ve una vieja película en la TV, anterior a la guerra. Los participantes en un banquete comen ostras crudas.

– Ugh -dijo Rachael. Las agujas se movieron vivazmente.

– El entrante consiste en perro cocido, relleno de arroz -continuó Rick. El desplazamiento de las agujas fue menor-. ¿Para usted las ostras son menos aceptables que la carne de perro? Evidentemente no -dejó su bolígrafo, apagó el haz de luz y le quitó de la mejilla el disco adhesivo-. Usted es un androide -dijo-. Éste es el resultado del test.

Philip K. Dick
“¿Sueñan los androides con ovejas eléctricas?”

deckard

En el último post sobre búsqueda definimos las dimensiones del problema del viajante de comercio, y definimos una función de energía que nos sirve de medida para saber si la solución es óptima.

Ya conocemos la función de coste:
Fórmula de Coste
Nos damos cuenta de que la función de coste E(C) ≥ 0 para todo C perteneciente a Ω. Para poder aplicar nuestro algoritmo de búsqueda, en este caso el algoritmo Simulated Annealing (Templado Simulado), asumimos que la probabilidad de una determinada configuración C decae exponencialmente con su coste siguiendo la distribución de Gibbs:

Distribución de Gibbs

Distribución de Gibbs


Z es un factor de normalización denominado función de partición, y T un parámetro de control denominado temperatura. Cuando T tiende a infinito, resulta que la probabilidad de una determinada configuración C es uniforme, de tal manera que todas las configuraciones tienden a ser equiprobables independientemente de su coste. Sin embargo, si T tiende a 0, P(C) se concentra en los picos de la distribución de Gibbs, de tal manera que sólo las configuraciones de mínimo coste tienen configuración no nula. En conclusión, para una misma temperatura, la probabilidad de una determinada configuración decae exponencialmente con su coste, y dicho decaimiento es atenuado por la temperatura; es decir, la configuraciones que tienen mínimo coste son más probables que el resto.

¿Y qué tendrá que ver todo esto con el viajante de comercio? estamos hablando de probabilidades, de funciones de coste, pero no sabemos qué vamos a hacer con todo ello. Calma, os dije que esta parte no iba ser fácil.

Analogía del Algoritmo de Templado Simulado con una pista de esquí.

Analogía del Algoritmo de Templado Simulado con una pista de esquí.

Todo este modelo probabilístico que he propuesto se relaciona con la búsqueda de la configuración de mínimo coste, mediante una analogía entre la resolución de un problema de optimización y la solución de un proceso de templado del metal. Para templar un metal, lo primero que hacemos es exponerlo a temperaturas muy elevadas, y despues descender esta temperatura hasta encontrar la configuración de mínima energía, que es cuando el metal alcana estructuras reticulares, extrema su resistencia y su dureza. Pero al realizar el templado, tenemos que tener en cuenta el ritmo con el que enfriamos el metal. Un ritmo demasiado rápido alcanzara configuraciones de baja energía, que no se corresponderán a estructura reticulares, sino a estructuras amorfas que harán que el metal pierda su resistencia y su dureza. Esto es debido a que no se alcanzado un mínimo de energía global, sino uno local que no es el óptimo, y que puede estar muy alejado de la solución del problema. Pero si se elige una buena velocidad de descenso de temperatura que permita saltarse esos mínimos locales, se garantiza la convergencia al estado óptimo global. El algoritmo Simulated Annealing garantiza esta convergencia y se aplica para problema combinatoriales, como es el caso del viajante de comercio.

En el próximo post, describiremos el proceso de Muestreo a través del algoritmo Metrópolis. Este algoritmo genera una secuencia de configuraciones que utilizará el algoritmo Simulated Annealing para alcanzar la configuración óptima. Empieza lo interesante.

La paradoja de La Habitación China

Escrito en la categoría Conceptos de la IA

5 de Febrero del 2009

John Searle, filósofo del cual hablaremos en más ocasiones por sus razonamientos en contra de la inteligencia artificial fuerte, propone un experimento mental conocido como La Habitación China.

La IA fuerte, en forma resumida, viene a decir que los procesos mentales son en esencia reproducibles por una máquina, o dicho de otro modo, que los procesos que se suceden para conformar cualquier estado mental son los mismos que puede ejecutar una máquina. Por tanto, todo estado mental del cerebro humano es reproducible por una máquina, y por ello defiende que una máquina puede llegar a pensar, a tener conciencia.

En el post anterior se habló del Test de Turing. Concluimos del test que, existiendo una máquina que engañe a un humano, esta máquina es inteligente. Esta conclusión es una forma de defender la IA fuerte. La habitación china es el experimento que contradice esta afirmación, es la crítica a las conclusiones del test de Turing, y consiste en:

  • Habitación cerrada completamente del exterior, con una única ranura y una persona que NO sabe chino dentro.
  • La persona tiene libros, diccionarios, manuales… suficientes como para descrifrar cualquier mensaje en chino, y cifrar cualquier mensaje a chino.
  • Un chino entrega un mensaje en chino por la ranura de la habitación, y al cabo de un tiempo la habitación devuelve un mensaje de respuesta también en chino.

index14
La realidad es que la persona del interior ha usado el material para poder realizar este intercambio, pero la gracia se encuentra cuando vemos todo esto desde el punto de vista del chino que está fuera. Él puede perfectamente pensar que la persona sabe chino, es decir, aunque en la realidad sabemos que no sabe chino, para la persona china alguien sabe chino. ¿Quién? ¿El material que hay dentro? ¿La habitación en sí? ¿Sabe realmente la habitación chino?

El fin de esta crítica es que un defensor de la IA fuerte o dice que la sala sabe hablar chino (lo cual es inconcebible), o admite que el test de Turing no es un modo eficaz ni suficiente de comprobar que una máquina es inteligente.

¿Y a vosotros qué os parece?

Test de Turing

Escrito en la categoría Conceptos de la IA

3 de Febrero del 2009

Creo que va siendo hora de explicar qué es el test de Turing y en qué consiste, después de haberlo mencionado en algún post que otro de este blog. El test fue creado a mediados del siglo pasado por el matemático británico Alan Turing con el fin de probar la capacidad de un ordenador para pensar independientemente, tal como lo haría un ser humano, de forma que por la secuencia lógica de sus respuestas engañe a quienes lo juzgan y les convenza de que han sido dictadas por una persona. Básicamente, Turing estableció que si “algo” se comportaba como si fuera inteligente, entonces era inteligente (efectivamente inteligente y no falsamente o sólo aparentemente inteligente).

La forma de hacer pasar el test a un ordenador consiste básicamente en una persona hablando con un ordenador que está en otra habitación mediante un sistema de chat. Si la persona es incapaz de determinar si habla con otra persona o con un ordenador, entonces el ordenador es considerado realmente inteligente. La fundamentación de este test reside en que si una máquina es capaz de engañar a los humanos que se comunican con ella, haciéndoles creer que es un humano, podría decirse que la máquina es inteligente. Esto tiene su lógica, ya que si consideramos que los humanos son inteligentes, y no somos capaces de distinguir esa máquina de un humano, ¿por qué no iba a ser inteligente?

Un ejemplo práctico del test de Turing, para que os hagáis una idea, sería Captcha: Completely Automated Public Turing Test to tell Computers and Humans Apart (Prueba de Turing pública y automática para diferenciar a máquinas y humanos). Es una versión del Test de Turing que nuestros ojos están acostumbrados a ver en el día a día. Son las típicas letras retorcidas o preguntas del tipo “dos más dos” que protegen generalmente formularios en Internet. La prueba asume que un robot no humano es incapaz de comprender lo que pone en las letras, y por tanto no es capaz de superar la prueba que un humano encuentra fácilmente superable.

No es un Test de Turing puro, y lo lleva a cabo una máquina y no un humano, y sin embargo se ha demostrado muy eficaz. Por supuesto detrás lleva una escalada imaginativa de robots cada día más capaces de un reconocimiento de caracteres e interpretación de los mismos, etcétera. Toda esta creatividad volcada en violar los Captcha redunda luego en beneficio, por ejemplo, de los discapacitados, al mejorar mucho el software de reconocimiento de voz o de escritura humana.

El Premio Loebner para Inteligencia Artificial ofrece una medalla de oro de 18 quilates y 100.000 dólares a quienes diseñen un programa que supere el test de Turing. Desde 1990 se han celebrado competiciones anuales para comprobar si algún programa es capaz de superar dicha prueba. Explícitamente, para ganar este premio el programa debería ser capaz de tomar parte en una conversación con humanos, engañándolos en, como poco, un 30% de las respuestas. De forma independiente a este premio global, el mejor programa de cada año se lleva el premio Loebner de ese año. Actualmente ninguna máquina ha sido capaz de superar la prueba, aunque se estima que las máquinas están cada vez más cerca de conseguir superar el test.

Prueba de que cada vez se está mas cerca de conseguirlo es que en la pasada edición (Octubre de 2008) el ganador ha sido un programa alemán, llamado Elbot, que ha sido capaz de engañar en un 25% de las respuestas a los evaluadores humanos. Por otra parte, el nivel de esta edición ha sido increíble, ya que todos los programas que han participado han sido capaces de engañar, al menos, a alguno de los evaluadores.

De tener alguna vez éxito en dicho concurso, se trataría de un salto similar al dado por el supercomputador Deep Blue de IBM en 1997 al derrotar al campeón mundial de ajedrez Gari Kaspárov. Además, generaría preguntas de gran calado como la posibilidad de que los ordenadores tengan conciencia y, de ser así, la autoridad moral de un humano para “desenchufarlo”.

Escrito por SkyNet
« Entradas más recientes 

Esta obra está bajo una licencia de Creative Commons.

Blog realizado por D4Rk0studio