Pajas Mentales 3: “¿Pueden las máquinas tener conciencia?”

A raíz de una discusión en Facebook sobre un artículo de Sebastián Agulló he decidido formular esta pregunta…

Primero definamos conciencia:

conciencia.

(Del lat. conscientĭa, y este calco del gr. συνείδησις).

1. f. Propiedad del espíritu humano de reconocerse en sus atributos esenciales y en todas las modificaciones que en sí mismo experimenta.

2. f. Conocimiento interior del bien y del mal.

3. f. Conocimiento reflexivo de las cosas.

4. f. Actividad mental a la que solo puede tener acceso el propio sujeto.

5. f. Psicol. Acto psíquico por el que un sujeto se percibe a sí mismo en el mundo.


En la primera acepción ya nos encontramos con un escollo insalvable, el “espíritu humano”. Ese concepto, de por sí, da para unos cuantos artículos, pero voy a obviarlo, pues esta acepción podemos considerar que limita el concepto a la “conciencia humana”. Lógicamente, y por definición, solo un humano puede tenerla.

Elevando el concepto de conciencia fuera del ámbito humano (pues es lo que intentamos, que algo no humano tenga conciencia) y leyendo todas las acepciones, podemos decir que una conciencia debe tener estas cualidades:

– Capacidad de reconocer la propia existencia y todo lo que le rodea

– Diferenciación entre el bien y el mal

– Procesamiento reflexivo de las cosas

– Actividad mental privada.

Si conseguimos implementar cada una de estas características en una máquina, por definición, habremos creado una conciencia. Allá vamos:

1.  Proceso luego existo

Prácticamente todos los lenguajes de programación actuales nos permitirían consultar si un programa esta funcionando en un entorno concreto. La utilidad de ese desarrollo es nula, pues si el programa no esta funcionando, no puede hacer la consulta, del mismo modo que un humano muerto no puede preguntarse si esta vivo.

El mismo programa, no solamente puede saber si esta funcionando, sino que además puede consultar la cantidad de memoria que esta utilizando, el espacio que ocupa en el disco duro, sus capacidades, funcionalidades… Es decir, de una manera diferente a la nuestra, reconoce su existencia y cada una de sus atributos esenciales.

Además ese programa podría estar funcionando sobre un sistema con sensores, cámaras, micrófonos, antenas… Que le permitieran recibir información del mundo exterior, procesarla y guardar y/u ofrecer los resultados, dejando un registro de cada cosa que ha hecho, el modo en el que lo ha hecho, y los resultados obtenidos. Para en próximas ejecuciones poder consultar esa memoria y decidir, con el algoritmo adecuado, como proceder para mejorar el resultado… Es decir, aprendizaje.

Aquí os dejo una muestras de lo que la robótica, en lo que a nivel físico se refiere puede conseguir. Respecto a fuerza, nadie duda que podemos crear robots tremendamente fuertes, pero respecto a habilidad, siempre pensamos en ellos como máquinas lentas y pesadas… ¿Seguro? ¿Puedes hacer alguna de estas cosas mejor que ellas?

2.  Moralidad digital

¿Cómo diferenciamos el bien del mal? Matar es malo, amar es bueno… De forma automática. Parece que tengamos 2 listas, una para el bien y otra para el mal, y todas las cosas del universo estuvieran en una de las dos.

Eso es una base de datos… ¿Por qué no tener una extensa base de datos asociada a nuestro programa en la que cada decisión a tomar se sopesara con ambas listas y además con la moralidad con la que hayamos creado la conciencia artificial? (podríamos crear un programa malvado…)

¿Matarías a un ser querido para salvar a otro? ¿Eso es bueno o malo? Esto ya no es tan sencillo como matar y amar… ¿Qué hacemos con las cosas que no estén en la base de datos? Pues lo mismo que haríamos para tomar esa decisión… Dudar, que no es otra cosa que sopesar cuidadosamente cada opción para decidir en que lista colocar la acción a realizar. En el programa puede que el tiempo de proceso de la decisión se alargara hasta evaluar las semejanzas posibles con los elementos de ambas listas para finalmente obtener el porcentaje que nos dé el carácter, malvado o benévolo, de la dudosa acción.

3. No leas mi mente

El carácter privado de nuestra conciencia artificial tampoco sería ningún problema. No tiene sentido desarrollar un programa que no podamos gestionar y examinar en su totalidad, pues el objetivo de un desarrollo informático es realizar una acción concreta bajo nuestro total control.

Sin embargo sería fácil desarrollar una conciencia y eliminar la posibilidad de acceso exterior a la misma. Tan sencillo como hacerla “nacer” (ejecutar inicialmente el programa) y quitar el ratón y el teclado (y otros medios de acceso)…

Solo el programa “ve y decide”.

4.  Cuestión cuantitativa

Ya hemos podido ver que hoy por hoy (no hace falta viajar a un futuro de naves espaciales) podemos crear una conciencia que cumpla con las acepciones actuales de su definición. Una conciencia que se reconoce a si misma, con memoria, moralidad, capacidad de procesar su entorno y aprender de su experiencia. Sin embargo, apuesto a que aún no te has quedado convencido/a con mis explicaciones.

Tú consideras tu conciencia mucho más elevada y compleja que la versión miniaturizada que te he expuesto. Pero entonces es una cuestión ¿cualitativa o cuantitativa?

Pensemos en todas esas cosas que tú podrías poseer y de las que carece mi modelo de conciencia: miedo, alegría, tesón, prejuicios, obsesiones… Todas estas cosas son sin duda partícipes en la toma de cada decisión de tu vida, pero ¿cómo tomas cada una de esas decisiones?

¿Dónde vas a irte de vacaciones? ¿Por qué allí? Piensa en el complicado camino que te lleva a decidir desde el color de tu coche hasta lo que te apetece de postre… para cada decisión hay una cantidad ingente de razones correspondientemente tasadas y evaluadas que tu cerebro procesa en un instante, convirtiendo la decisión en algo sencillo, casi inmediato y de origen incierto.

Un ordenador podría implementar cada uno de esos valores y el algoritmo o procedimiento a seguir a la hora de evaluar una decisión.

La complejidad de cada toma de decisión y el enorme número de variables que la determinan junto al carácter privado y oscuro del proceso natural, convierte su representación artificial en algo realmente complicado, por lo qué, a día de hoy, nuestra conciencia artificial no se parece demasiado a la humana.

La elaboración de dicha conciencia es muy similar a la creación de modelos meteorológicos que pronostiquen el clima. Los procesos y variables que determinan si lloverá esta tarde en tu región son enormes y complejos, y su implementación, aun es poco efectiva, pero nadie duda que los modelos informáticos de simulación irán acercándose poco a poco a la realidad

5.  Conciencia social. La sociedad de las máquinas

A nadie le sorprende hoy que las máquinas se comuniquen entre si. Lo hacemos todos los días, mientras vemos esta página tu máquina se esta comunicando con la que contiene físicamente este artículo por medio de un estricto lenguaje, en términos telemáticos llamado; protocolo. Las máquinas se piden información unas a otras para procesarla como un elemento más del entorno de cada una.

De este modo, la “sociedad” de máquinas ajenas actúa como un estímulo externo más sobre la “máquina-individuo” del mismo modo que la sociedad, en mayor o menor medida, contribuye al desarrollo mental del individuo.

El ejemplo claro podría ser este vídeo. Robots independientes jugando al fútbol. Ellos se comunican entre si, evalúan posibilidades y actúan. Pueden informarse unos a otros de quien tiene el porcentaje de éxito más alto para meter un gol según su posición, la del contrincante, distancia a la portería…  Y quién da la asistencia final al delantero lo hace evaluando la información de todo el equipo, como si existiera una conciencia grupal o social.

Elevando nuevamente esta idea hasta un nivel de complejidad mucho más alto podrían crearse sociedades virtuales de entes artificiales. Relaciones complejas entre ellos: castas, roles, relaciones…

6.  ¿Y si fuésemos programas informáticos?

Si aún no te inquieta la idea de “máquinas con conciencia”, piensa en una cualidad que los humanos podríamos compartir con ellas. Salvo que se programara explícitamente, ellas no podrían diferenciarse de nosotros. Podríamos programarlas para que se creyeran tan humanas como nosotros, tan reales como se sientan… Y no podrían evitarlo.

¿Quién nos asegura que nosotros no somos sino entes programados por otro ser y en cuya programación ignoramos nuestra incapacidad para reconocernos prisioneros de nuestra naturaleza? ¿Acaso nuestro cerebro no es sino un complejo circuito biológico programado con ADN? ¿Alguien puede demostrar lo contrario?

Anuncios

9 comentarios to “Pajas Mentales 3: “¿Pueden las máquinas tener conciencia?””

  1. Zapa Says:

    Asustaico me dejas. Es una duda actualizada sobre la existencia de Dios. Interesante…

  2. Inquisidor Says:

    Pues de esto al punto infinito…

  3. anarkai Says:

    Pos como yo me entere de quién es el hijo de su madre que ha programao mi economía se va a enterar…

  4. Madame Oscura Says:

    Tuuu programador, crea un RDR para que me toque el euromillón!!

    😛

  5. jdelasmuelas Says:

    Tu economía la programas tú solico.
    Lo que pasa que como conscientemente no te has puesto a analizar en cómo estás económicamente, cómo has llegado ahí y a dónde quieres llegar, así te va a ir.
    Realmente si comprendiésemos las consecuencias de todas las decisiones que tomamos, económicas o no, el futuro sería más previsible de lo que creemos.
    Los robots son más eficientes que nosotros si ejecutan lo que tienen programado pero en cuanto dudan, el ser humano les gana la partida, si no fijaos en wondows en las veces que se queda colgado por “dudas” o incorrecciones internas.
    Nosotros podemos improvisar, ellos no.
    Un saludo.

  6. anarkai Says:

    Jdelasmuelas otra cosa que nos diferencia de las máquinas es el sentido del humor, no lo perdamos no vaya a ser que el próximo presidente del gobierno sea R2D2… aunque pensandolo bien al igual es un humanoide… hummm pajas mentales 4?

  7. Esther Says:

    Raúl Arrabales Moreno, investigador de la conciencia artificial de la Universidad Carlos III de Madrid comenta que una de las líneas más importantes que lleva es poder medir el grado de conciencia, pues ese es uno de los grandes problemas ya que no hay consenso entre los especialistas. Por ejemplo, no está claro del todo si una persona en coma puede soñar o qué grado de conciencia tiene. El término per se ya es un problema.

    En base a esto, es importante pensar en lo que entendemos como conciencia ‘humana’ y para ello nos puede ayudar la información que se facilita en cuanto a la misma de los bebés. Aseguran en algunos estudios que los bebés toman conciencia real de sí mismos aproximadamente a partir de los nueve meses. Aunque desde el primer momento, el bebé percibe el mundo desde su propio punto de vista, a pesar de que aún no es consciente de ello. Cuando ve un objeto, por ejemplo, cree que sólo existe mientras él lo mira y que desaparece cuando aparta la vista. La noción de sí mismo está limitada a su percepción como ente físico; esto no quiere decir que no perciba las sensaciones como algo real, sino que éstas se limitan a sus necesidades y características físicas.
    La conciencia que el pequeño tiene de su propio cuerpo se relaciona con la capacidad de reconocer las partes que lo componen. Sin embargo, para que el niño pueda percibirse como un individuo que se mueve por el espacio y el tiempo debe comprender que hay un antes y un después, un aquí y un allá. Es decir, debe comprender que antes de estar en los brazos de mamá estaba sentado en su silla y minutos antes, durmiendo en su cuna. Hasta los nueve meses, el bebé no será capaz de darse cuenta de ello; antes de esta edad, únicamente reconoce las cosas cuando las mira.

    Comenta también Raúl Arrabales que el cerebro es paralelo, ya que hace muchas cosas a la vez, pero en cambio la conciencia es lineal. ¿Cómo se gestiona eso? De la infinidad de contenidos que hay en la mente en cada segundo, ¿cómo se pasa la frontera y se ubica en primer plano? La conciencia es como un iceberg en el mar de la inconsciencia.

    La frontera entre la conciencia ‘humana’ y la artificial está fijada en el aspecto fenomenológico, es decir, en la experiencia interior. Atención, imaginación, aprendizaje… Son aspectos en los que, según lo que he tenido ocasión de leer, la mayoría están de acuerdo en que tarde o temprano se podrán implementar en las máquinas pero en la experiencia subjetiva no se sabe. Según Raúl Arrabales la diferencia radica en que si a alguien se le pega, por ejemplo, sentirá una experiencia subjetiva de dolor, de odio, el robot no, sería un ‘zombi’ porque no tendría experiencia interior.

    Si hablamos de una conciencia artificial en base a la descripción que tú facilitas, a pesar de que sea un tema en activa discusión, ya que en muchos casos se difiere. Quizá la empatía no sería importante, pero si hablamos de conciencia en los humanos, que es tal y como podemos percibirla nosotros, por deficiencia en aspectos subjetivos y empatía por ejemplo, estamos muy lejos de poder conseguir similitudes artificiales.

    De todos modos yo podría llegar a considerar una conciencia artificial siempre y cuando nos alejáramos de la conciencia humana, es decir, la ‘mente artificial’ no necesitaría disponer de sentimientos, emociones, debilidades, temores… Si entendemos que eso son cualidades de la ‘mente natural’ (por denominarlo de alguna forma), con la empatía ocurriría lo mismo. Por tanto si asimilamos que éstos son aspectos importantes para la conciencia de uno mismo, sería imposible imaginar una conciencia artificial.

    Hay un tema sobre el que también habla Raúl Arrabales que es el afecto y me parece también muy interesante. Hace un símil con la compañía de un perro. Comenta que se le pueden atribuir experiencias internas que a lo mejor él no tiene, pero para nosotros, la retroalimentación que se obtiene es real y ese es el verdadero dilema. Para el caso de la investigación en conciencia artificial, comenta, finalmente no importa si uno tiene estados fenomenológicos internos, pero si para alguien los tiene, son reales y es consciente para ese alguien.

    Siento decirte que voy a seguir pensando que mi calculadora no sufre cuando la apago o que no es consciente de que la he encendido, tampoco he visto en su pantalla siquiera un ‘n000000000’ al apagarla (tampoco al encenderla ;)). De todos modos alguien tan ‘científico’ como tú debería demostrar las teorías que fervientemente defiende.

  8. Sebastián Says:

    Yo estoy muy pero que muy de acuerdo con esta exposición. La informática creada por el humano es una Ciencia que apenas lleva un siglo evolucionando: el ser humano lleva más de dos millones de años evolucionando.

    Puede que dentro de dos millones de años las máquinas alcancen el nivel de conciencia que tenemos nosotros en la actualidad (posiblemente cuando eso pase nosotros les llevemos otros dos millones de años de ventaje, de nuevo).

    De acuerdo con un libro del físico relativista Roger Penrose, te voy a citar algunos de los argumentos que él da para aseverar que la conciencia humana es teóricamente imposible de imitar por las máquinas (de los que no estoy de acuerdo, por cierto):

    1. Un computador no superaría el test de Turing.
    2. Cualquier algoritmo estaría expuesto al caos.
    3. Un algoritmo no sabría acceder a la realidad platónica de las matemáticas.
    4. La lógica de Gödel demostró que la aritmética es inconsistente.
    5. Discusión determinista acerca del comportamiento de los algoritmos.
    6. Incongruencias entre mecánica cuántica y la entropía con la hipótesis de una inteligencia artificial equiparable a la del ser humano (el libro es de 1989).
    7. Plasticidad cerebral y consciencia animal.

    Muy buen artículo; saludos.

  9. Eric Says:

    No estoy de acuerdo con que en 100.000 a … Leer másños los computadores recién igualen a los humanos, ya que ya han incluso superado al humano en algunos aspectos, como el cálculo matemático, jugar al ajedrez, reconocer 250 rostros por segundo, predecir 7 segundos antes lo que tú vas a responder ante una pregunta con un sistema conectado a tu cerebro, reconocer objetos, etc. Además, ya se han hecho prototipos de robots líquidos que almacenan computaciones. Se han desarrollado sistemas que simulan el proceso del neocórtex cerebral, la visión, la simulación de un cerebro de rata. Y ahora, se está estimado que para el 2020 estará listo el primer cerebro artificial simulado con todas sus características. Las máquinas llevan unas cuantas décadas en la tierra y ya se ha avanzado a todos estos pasos, y que van en un ritmo exponencial por la ley de Moore que dice que cada 18 meses se avanza más en las tecnologías computacionales, en cambio, los humanos, llevamos ¿cuánto tiempo siendo iguales?, mucho más tiempo, las máquinas no sólo nos igualarán, nos superarán, y para eso, es sólo cuestión de tiempo.


Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión / Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión / Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión / Cambiar )

Google+ photo

Estás comentando usando tu cuenta de Google+. Cerrar sesión / Cambiar )

Conectando a %s

A %d blogueros les gusta esto: