¿Cuánto falta para que una inteligencia artificial sea conciente?

Es el año 1997 y  - luego de dar sobradas muestras de ser superior en diferentes tareas para la toma de decisiones tácticas y militares - se le da el control del sistema de defensa de Estados Unidos a Skynet. Creado por Cyberdyne Systems Corporation, se trata de una inteligencia artificial  que utiliza un revolucionario procesador de red neuronal. Dotado de la capacidad de aprender comienza a consumir datos y procesarlos a una velocidad vertiginosa. El 29 de agosto de 1997 a las 2:14 toma autoconciencia. Las personas a cargo de Skynet entran en pánico e intentan desconectarla. La IA se defiende provocando un ataque masivo nuclear a la Unión Soviética esperando la respuesta bélica que terminará con quien lo amenaza.

El anterior es el trasfondo de la historia de la saga Terminator. La primera película de la misma fue realizada en el año 1984 en medio de la guerra fría. Condensa varios temores apocalípticos de los seres humanos. La conciencia de un ser artificial no es explicada. Si bien es un aspecto clave en el universo ficticio de la saga, funciona más como excusa que como motor de la trama.

La conciencia de un ser creado por el hombre es un concepto que emerge en la ciencia ficción, pero que proviene de la investigación de la inteligencia artificial. Puede un programa informático ser conciente? Si la respuesta es afirmativa, que tan cerca estamos de Skynet? debemos preocuparnos?

Marvin Minsky

En el año 1956 se llevó adelante un proyecto en el Dartmouth College en Hanover, New Hampshire de investigación de inteligencia artificial. A ella concurrieron 10 investigadores, entre ellos John McCarthy, Marvin Minsky, Claude Shannon y Ray Solomonoff. Cada uno de ellos estaba trabajando en forma independiente en el campo de la inteligencia artificial, disciplina que hasta esa fecha no tenía ni un nombre ni una definición. Es a instancia de Minsky que surge la primera definición formal de la IA como "la ciencia de hacer que las máquinas hagan cosas que requerirían inteligencia si las hubiera hecho un ser humano".

No se deben desmerecer los aportes anteriores como el de Alan Turing que en 1950 ya había propuesto el hoy conocido como test de Turing para determinar la inteligencia de una máquina. Así como tampoco el concepto de redes neuronales artificiales presentado en 1943 por los neurólogos Warren McCulloch y Walter Pitts.

La definición de Minsky es bastante general y hoy día ha sido considerablemente modificada. En primer lugar no existe una definición totalmente aceptada del concepto de inteligencia. Se han sugerido la existencia de múltiples inteligencias. La definición de inteligencia que un grupo de trabajo de la asociación psicológica americana en 1996 dice:

Individuals differ from one another in their ability to understand complex ideas, to adapt effectively to the environment, to learn from experience, to engage in various forms of reasoning, to overcome obstacles by taking thought. Although these individual differences can be substantial, they are never entirely consistent: A given person's intellectual performance will vary on different occasions, in different domains, as judged by different criteria. Concepts of "intelligence" are attempts to clarify and organize this complex set of phenomena.

La inteligencia se entiende entonces como una suma de diferentes capacidades entre las que se pueden mencionar: comprender tareas complejas, adaptarse al entorno, aprender de la experiencia, razonar y sobrepasar obstáculos. También se podría agregar la capacidad de comunicarse o socializar, realizar un plan y modificar el entorno para lograr un objetivo. Esta definición aplica tanto para seres humanos como para un gran número de animales. Una inteligencia artificial no necesariamente debe involucrar la imitación de los seres humanos. Existen animales inteligentes a los que una construcción artificial podría copiar. Existen diferentes proyectos que intentan imitar el funcionamiento inteligente de animales.

En las primeras décadas luego de las conferencia de Dartmouth, tal como se la llamó, las voces eran optimistas acerca del desarrollo de la inteligencia artificial. A mediados de la década del 60, Herbert Simon predecía que las maquinas serian capaces en 20 años de realizar cualquier trabajo que un hombre puede hacer. En el mismo sentido, Minsky afirmaba que en el transcurso de una generación el problema de crear una inteligencia artificial estaría sustancialmente resuelto.

Una etapa más pesimista resultó los finales de los 80 e inicios del 90. Algunas voces comenzaron a dudar de la posibilidad de construir un ser artificial que pudiese ser indistinguible a uno natural. Se comienza a hacer una división entre 2 inteligencias artificiales. La inteligencia artificial débil se opone a la inteligencia artificial fuerte. En palabras de John Searle la primera es aquella que simplemente intenta simular los estados mentales sin con ellos lograr conciencia. La segunda considera que una inteligencia artificial debe reproducir de forma idéntica los procesos realizados por un cerebro. Estos procesos incluyen a la conciencia y por lo tanto el objetivo fundamental es la construcción de una máquina consciente.

En la actualidad nos encontramos con un auge de aplicaciones de inteligencia artificial débil. Aplicaciones que están construidas para solucionar problemas específicos. Desde programas que dominan juegos como el ajedrez, damas y Go. Realizar tareas de clasificación en la industria, comunicaciones con seres humanos y otras tareas más. Todas estas aplicaciones no requieren ningún tipo de conciencia en un programa para lograr su objetivo.

Ahora... que sería la conciencia? La conciencia se puede definir como el conocimiento que se tiene sobre uno mismo y su relación al entorno. Es decir saberse una unidad separada del resto con capacidad de influir en el exterior y ser influido por el mismo. El concepto mismo es mezclado muchas veces inadvertidamente con el de moral. Este último le asigna un valor positivo o negativo a las acciones o situaciones a las que un individuo se enfrenta interna y externamente. El juicio de valor sobre un hecho es una construcción lógica y racional que se sustenta en una visión del mundo que puede tener un sustento filosófico o religioso.

John Searle

Searle presenta el ejercicio mental conocido como la habitación china (del que hablamos en un artículo anterior). En este escenario muestra como un programa puede cumplir perfectamente con una tarea dando la idea de ser consciente de si mismo y engañando a terceros. Finalmente, concluye la maquina no es consciente de absolutamente nada de lo que ocurrió. Puede haber comentado sobre la emoción que le causó escuchar cierta canción. O sobre su deseo de conocer un determinado país o incluso su apetito por un plato culinario. Nada de eso será cierto. Es solo una simulación. La máquina no es consciente. Por lo tanto no hay lugar para la inteligencia artificial fuerte.

Otros autores llegan a conclusiones similares mediante otros caminos. Un exponente de peso es Roger Penrose. En el libro de 1989 "La nueva mente del emperador" presenta su teoría. Postula que el problema es de base y que se debe a las diferentes naturalezas del cerebro y las computadoras digitales.

Ejemplo de máquina de Turing

La arquitectura de todas las computadoras se basan en la máquina de Turing. Propuesta por Alan Turing, inicialmente como "máquina automática" en 1936, es una construcción teórica que puede resolver cualquier algoritmo. Esta máquina se puede ver como una cinta infinita dividida en celdas en el cual se puede almacenar información. Un cabezal puede leer o escribir una celda y luego puede avanzar o retroceder la cinta en una celda. Existe un registro de estado que almacena el estado actual de la máquina de Turing. Además existe una  tabla finita de acciones que indican como proceder lógicamente ante un estado.

Alan Turing

El mismo Alan Turing identificó que ciertos programas específicos no se pueden computar. Es decir que una máquina de Turing no puede resolver. El ejemplo que el mismo Turing presentó se conoce como "el problema de la parada". El mismo establece la imposibilidad de crear un algoritmo que dado cualquier máquina de turing (una serie de intrucciones dada o programa) con cualquier entrada  (los datos) determine si el mismo se terminará de ejecutar en un número finito de pasos. Se conoce a este tipo de procesos como incomputables.

Gödel

En el mismo sentido y gracias al aporte de Gödel, sabemos que existen limitaciones sobre lo que se puede demostrar mediante un razonamiento lógico-matemático. Conocido como teorema de incompletitud de Godel y demostrados por su autor en 1931 establece la imposibilidad de crear un sistema axiomático que pueda demostrar todas las verdades matemáticas y ninguna falsedad. Es decir crear un modelo axiomático completo y consistente al mismo tiempo no es posible.

Siendo las computadores modernas máquinas de Turing y que funcionan mediante construcciones lógicas y matemáticas, Penrose sostiene que no pueden tener conciencia, puesto que la conciencia - según afirma es no computable. En el ser humano la conciencia es el resultado de procesos que ocurren en su mente producto de procesos explicados por la mecánica cuántica.

Roger Penrose

Minsky salió al cruce de Penrose. Afirma que el autor de la teoría cuántica de la mente no utiliza argumentos científicos sino religiosos. La separación alma cuerpo donde la primera es un atributo humano insuflado por una divinidad es un concepto religioso de larga data. Nos pone en un papel privilegiado y separado del resto de la "creación divina". Al construirse teorías científicas fue mutando el concepto cuerpo-alma a una dualidad cuerpo-mente. También en ella se trasladaron los mismos prejuicios. Se puede ver la argumentación como la que se describe a continuación. El cerebro y el sistema nervioso central como depositario de la mente, deben ser únicos. Puesto que la conciencia no puede ser copiada debe existir algo mas. Las física cuántica habla de la imposibilidad de poder conocer todo (principio de incertidumbre). Por lo tanto el cerebro funciona con mecánica cuántica como expresión de la conciencia. Que ninguna máquina podrá imitar.

Se podría adaptar la siguiente frase de William Shapespeare como esta dualidad "La conciencia es la voz del alma; las pasiones, la del cuerpo.". Lo humano y lo divino, la mente y el cuerpo.

No hay acuerdo científico sobre si una inteligencia artificial fuerte pueda alguna vez construirse. Posiblemente opere también un resabio de dualismo. Construir una "mente" consciente humana en una máquina que no tiene un cuerpo humano imposibilita que esa mente al hablar de comer, beber o realizar otras acciones que requiera poseer esas capacidades pueda comprenderlo. Puede construirse una mente consciente artificial en un cuerpo artificial? Según 13 neurocientíficos que firmaron en 2012 el Cambridge Declaration on Consciousness la conciencia está presenta en animales no-humanos como todos los mamíferos, pájaros y otros como pulpos. Si la conciencia emergió en varios seres vivos evolutivamente distantes (pulpos y mamíferos), podría aparecer en otro tipo de ser aunque sea mecánico? Por el momento no hay casos. Pero tampoco existe algo concreto y aceptado que lo imposibilite.