Pajas Mentales 3: “¿Pueden las máquinas tener conciencia?”

A raíz de una discusión en Facebook sobre un artículo de Sebastián Agulló he decidido formular esta pregunta…

Primero definamos conciencia:

conciencia.

(Del lat. conscientĭa, y este calco del gr. συνείδησις).

1. f. Propiedad del espíritu humano de reconocerse en sus atributos esenciales y en todas las modificaciones que en sí mismo experimenta.

2. f. Conocimiento interior del bien y del mal.

3. f. Conocimiento reflexivo de las cosas.

4. f. Actividad mental a la que solo puede tener acceso el propio sujeto.

5. f. Psicol. Acto psíquico por el que un sujeto se percibe a sí mismo en el mundo.


En la primera acepción ya nos encontramos con un escollo insalvable, el “espíritu humano”. Ese concepto, de por sí, da para unos cuantos artículos, pero voy a obviarlo, pues esta acepción podemos considerar que limita el concepto a la “conciencia humana”. Lógicamente, y por definición, solo un humano puede tenerla.

Elevando el concepto de conciencia fuera del ámbito humano (pues es lo que intentamos, que algo no humano tenga conciencia) y leyendo todas las acepciones, podemos decir que una conciencia debe tener estas cualidades:

– Capacidad de reconocer la propia existencia y todo lo que le rodea

– Diferenciación entre el bien y el mal

– Procesamiento reflexivo de las cosas

– Actividad mental privada.

Si conseguimos implementar cada una de estas características en una máquina, por definición, habremos creado una conciencia. Allá vamos:

1.  Proceso luego existo

Prácticamente todos los lenguajes de programación actuales nos permitirían consultar si un programa esta funcionando en un entorno concreto. La utilidad de ese desarrollo es nula, pues si el programa no esta funcionando, no puede hacer la consulta, del mismo modo que un humano muerto no puede preguntarse si esta vivo.

El mismo programa, no solamente puede saber si esta funcionando, sino que además puede consultar la cantidad de memoria que esta utilizando, el espacio que ocupa en el disco duro, sus capacidades, funcionalidades… Es decir, de una manera diferente a la nuestra, reconoce su existencia y cada una de sus atributos esenciales.

Además ese programa podría estar funcionando sobre un sistema con sensores, cámaras, micrófonos, antenas… Que le permitieran recibir información del mundo exterior, procesarla y guardar y/u ofrecer los resultados, dejando un registro de cada cosa que ha hecho, el modo en el que lo ha hecho, y los resultados obtenidos. Para en próximas ejecuciones poder consultar esa memoria y decidir, con el algoritmo adecuado, como proceder para mejorar el resultado… Es decir, aprendizaje.

Aquí os dejo una muestras de lo que la robótica, en lo que a nivel físico se refiere puede conseguir. Respecto a fuerza, nadie duda que podemos crear robots tremendamente fuertes, pero respecto a habilidad, siempre pensamos en ellos como máquinas lentas y pesadas… ¿Seguro? ¿Puedes hacer alguna de estas cosas mejor que ellas?

2.  Moralidad digital

¿Cómo diferenciamos el bien del mal? Matar es malo, amar es bueno… De forma automática. Parece que tengamos 2 listas, una para el bien y otra para el mal, y todas las cosas del universo estuvieran en una de las dos.

Eso es una base de datos… ¿Por qué no tener una extensa base de datos asociada a nuestro programa en la que cada decisión a tomar se sopesara con ambas listas y además con la moralidad con la que hayamos creado la conciencia artificial? (podríamos crear un programa malvado…)

¿Matarías a un ser querido para salvar a otro? ¿Eso es bueno o malo? Esto ya no es tan sencillo como matar y amar… ¿Qué hacemos con las cosas que no estén en la base de datos? Pues lo mismo que haríamos para tomar esa decisión… Dudar, que no es otra cosa que sopesar cuidadosamente cada opción para decidir en que lista colocar la acción a realizar. En el programa puede que el tiempo de proceso de la decisión se alargara hasta evaluar las semejanzas posibles con los elementos de ambas listas para finalmente obtener el porcentaje que nos dé el carácter, malvado o benévolo, de la dudosa acción.

3. No leas mi mente

El carácter privado de nuestra conciencia artificial tampoco sería ningún problema. No tiene sentido desarrollar un programa que no podamos gestionar y examinar en su totalidad, pues el objetivo de un desarrollo informático es realizar una acción concreta bajo nuestro total control.

Sin embargo sería fácil desarrollar una conciencia y eliminar la posibilidad de acceso exterior a la misma. Tan sencillo como hacerla “nacer” (ejecutar inicialmente el programa) y quitar el ratón y el teclado (y otros medios de acceso)…

Solo el programa “ve y decide”.

4.  Cuestión cuantitativa

Ya hemos podido ver que hoy por hoy (no hace falta viajar a un futuro de naves espaciales) podemos crear una conciencia que cumpla con las acepciones actuales de su definición. Una conciencia que se reconoce a si misma, con memoria, moralidad, capacidad de procesar su entorno y aprender de su experiencia. Sin embargo, apuesto a que aún no te has quedado convencido/a con mis explicaciones.

Tú consideras tu conciencia mucho más elevada y compleja que la versión miniaturizada que te he expuesto. Pero entonces es una cuestión ¿cualitativa o cuantitativa?

Pensemos en todas esas cosas que tú podrías poseer y de las que carece mi modelo de conciencia: miedo, alegría, tesón, prejuicios, obsesiones… Todas estas cosas son sin duda partícipes en la toma de cada decisión de tu vida, pero ¿cómo tomas cada una de esas decisiones?

¿Dónde vas a irte de vacaciones? ¿Por qué allí? Piensa en el complicado camino que te lleva a decidir desde el color de tu coche hasta lo que te apetece de postre… para cada decisión hay una cantidad ingente de razones correspondientemente tasadas y evaluadas que tu cerebro procesa en un instante, convirtiendo la decisión en algo sencillo, casi inmediato y de origen incierto.

Un ordenador podría implementar cada uno de esos valores y el algoritmo o procedimiento a seguir a la hora de evaluar una decisión.

La complejidad de cada toma de decisión y el enorme número de variables que la determinan junto al carácter privado y oscuro del proceso natural, convierte su representación artificial en algo realmente complicado, por lo qué, a día de hoy, nuestra conciencia artificial no se parece demasiado a la humana.

La elaboración de dicha conciencia es muy similar a la creación de modelos meteorológicos que pronostiquen el clima. Los procesos y variables que determinan si lloverá esta tarde en tu región son enormes y complejos, y su implementación, aun es poco efectiva, pero nadie duda que los modelos informáticos de simulación irán acercándose poco a poco a la realidad

5.  Conciencia social. La sociedad de las máquinas

A nadie le sorprende hoy que las máquinas se comuniquen entre si. Lo hacemos todos los días, mientras vemos esta página tu máquina se esta comunicando con la que contiene físicamente este artículo por medio de un estricto lenguaje, en términos telemáticos llamado; protocolo. Las máquinas se piden información unas a otras para procesarla como un elemento más del entorno de cada una.

De este modo, la “sociedad” de máquinas ajenas actúa como un estímulo externo más sobre la “máquina-individuo” del mismo modo que la sociedad, en mayor o menor medida, contribuye al desarrollo mental del individuo.

El ejemplo claro podría ser este vídeo. Robots independientes jugando al fútbol. Ellos se comunican entre si, evalúan posibilidades y actúan. Pueden informarse unos a otros de quien tiene el porcentaje de éxito más alto para meter un gol según su posición, la del contrincante, distancia a la portería…  Y quién da la asistencia final al delantero lo hace evaluando la información de todo el equipo, como si existiera una conciencia grupal o social.

Elevando nuevamente esta idea hasta un nivel de complejidad mucho más alto podrían crearse sociedades virtuales de entes artificiales. Relaciones complejas entre ellos: castas, roles, relaciones…

6.  ¿Y si fuésemos programas informáticos?

Si aún no te inquieta la idea de “máquinas con conciencia”, piensa en una cualidad que los humanos podríamos compartir con ellas. Salvo que se programara explícitamente, ellas no podrían diferenciarse de nosotros. Podríamos programarlas para que se creyeran tan humanas como nosotros, tan reales como se sientan… Y no podrían evitarlo.

¿Quién nos asegura que nosotros no somos sino entes programados por otro ser y en cuya programación ignoramos nuestra incapacidad para reconocernos prisioneros de nuestra naturaleza? ¿Acaso nuestro cerebro no es sino un complejo circuito biológico programado con ADN? ¿Alguien puede demostrar lo contrario?

Proximamente: “The Signal”

Una apuesta interesante. Y si se pudiese inducir un estado de violencia psicótica a la población a través de una señal televisiva? No es tan ficción como parece…