Foto referencial: Agencia Uno.

Columna de Constanza Michelson: Un lugar sin oscuridad

El problema acá no es el avance de las neurociencias ni de la IA, sino la ideología de delegar nuestra inteligencia, nuestra ética, nuestra libertad, al silencio de las sinapsis. Sin compromiso subjetivo en nuestros actos y decires, podemos tratarnos a nosotros mismos como máquina, y por cierto, hacerla funcionar hasta fundirla.

“No veo nada tan especial sobre esto que llamamos ‘alma’ en nuestra conciencia, que no pueda ser reproducida dentro de una construcción lo suficientemente compleja. No creo que tenga que estar hecha de carbono y tener un ADN. Creo que llegará un momento en que mi IPhone empiece a tener conciencia propia”, son las palabras del matemático y divulgador científico Marcus Du Sautoy en una entrevista hace algunos días.

Es curioso: comparado a la indignación vuelta costumbre emocional, se suelen recibir estos discursos de una élite tecnológica -que básicamente sostienen, desde su escritorio, que el ser humano es lo mismo que un televisor- con total condesendencia.  Como si esa idea de futuro no tuviera consecuencias antropológicas y políticas.

Si bien hay diversas posiciones respecto de la discusión sobre qué es lo humano a partir de la ciencia y la filosofía, hay una posición que se va tornando hegemónica, al menos en la divulgación científica, a la que debemos prestar atención.

Para el científico entrevistado es absolutamente irrelevante de qué está hecha el “alma”, puesto que para él, “alma” o conciencia son expresiones de un proceso material: que sea hecho de células o cables es indiferente. Y tiene toda la razón, por supuesto es coherente bajo su lógica, la que por cierto, como toda lógica, está atravesada de ideología. Lo ideológico en este relato de la IA es una toma de posición respecto de qué es el ser humano. Para su lógica, aquello fuera del soporte material verificable es mera religión y superstición. Sin embargo, hay algo que en este punto de nuestra historia es fundamental considerar: ciencia no es lo mismo que Ilustración, así como “alma”, mundo interior, o como quieran llamar a la subjetividad, no es lo mismo que superstición. Es posible, y necesario, discutir con el discurso científico algunos asuntos tan importantes como “qué somos”, desde una actitud radicalmente ilustrada; es decir, desde una posición crítica que interrogue las creencias.

Como dice la filósofa Marina Gárces, para afrontar la situación epocal en que nos encontramos, más que nunca es necesario afirmar la Ilustración, rechazando las resistencias antimodernas que han emergido, por ejemplo, los fundamentalismos religiosos; pero distingue una defensa a la Ilustración como actitud, y no como el proyecto en el que derivó: una idea de humanismo como empresa de dominio sobre las cosas, resultando todo una materia a explotar, el planeta, las neuronas, el cuerpo.

Pensemos algunas cosas. Hay que poner atención a las metáforas. Cuando se dice, “podemos ver cómo piensa el cerebro” o “las  máquinas toman decisiones”, debemos preguntarnos: ¿el hecho de que se prendan unas luces cuando estamos pensando, es que realmente “podemos ver” cómo pensamos? Que una máquina tome decisiones (por cierto, igual a lo que demuestra la biología, que cada célula toma decisiones), ¿es posible decir que esa agencia es similar a la humana? Y es que la ideología cerebrista o de la IA como su continuación, niega algo fundamental: por más luces que se prendan e indiquen que estamos amando, pensando o soñando, lo cierto, es que desde Homero hasta la Joven y alocada, la literatura nos enseña mucho más sobre la condición humana. Si bien, la materialidad del cuerpo es el soporte para pensar, no garantiza que lo hagamos.

“La ideología cerebrista o de la IA como su continuación, niega algo fundamental: por más luces que se prendan e indiquen que estamos amando, pensando o soñando, lo cierto, es que desde Homero hasta la Joven y alocada, la literatura nos enseña mucho más sobre la condición humana. Si bien, la materialidad del cuerpo es el soporte para pensar, no garantiza que lo hagamos”.

Markus Gabriel en su “Yo no soy mi cerebro” escribe que no es casual que fuera en 1990 cuando George H. W. Bush proclamara oficialmente que entrábamos a la “Década del cerebro”. Era el fin de la guerra fría, y el supuesto de un fin de la ideología no requería pensar lo humano en términos de sujeto político. Es también el inicio de otras formas de control, aparece una forma de vigilancia consentida, y que ya sabemos en qué va hoy; no sólo hay control a través de cámaras y algoritmos, sino que las personas estamos dispuestas a entregar información, bajo el convencimiento de que a cambio, tendremos un saber sobre nosotros mismos: calcular las pulsaciones, saber qué químico o alimento requerimos con exactitud. Adquirimos saberes que nos ahorran el deseo, se trata de una forma del saber sin sujeto. Quizá por lo mismo, sabemos cada vez más cosas, pero la sensación que crece es de impotencia.

Por supuesto que el problema acá no es el avance de las neurociencias ni de la IA, sino la ideología de delegar nuestra inteligencia, nuestra ética, nuestra libertad al silencio de las sinapsis. Sin compromiso subjetivo en nuestros actos y decires, podemos tratarnos a nosotros mismos como máquina, y por cierto, hacerla funcionar hasta fundirla. Bajo ese tratamiento de lo humano, la idea de poner a la técnica a nuestro servicio y no al revés, es imposible; ya que la técnica pasa de ser una herramienta a un regimen de verdad, es decir inventa al mundo y al sujeto humano. Por más que digamos que el fin justifica los medios, la historia muestra como, trágicamente, los medios son el fin.

Quizá esto es sólo un paso más de un viejo problema: la incomodidad respecto de nuestra libertad. Una aclaración: no me refiero a la libertad de mercado y toda la trampa de la meritocracia, que supone o quiere creer que somos libres a secas. Hablo de la libertad como condición humana: estamos obligados a elegir, aún cuando creamos que no lo hacemos. Lo terrible y asombroso es que lo hacemos bajo condiciones complicadas; elegimos a pesar de estar sujetos a un cuerpo y sus determinaciones, a un mundo, a los otros. Elegimos llenos de amarras, sin certezas, en conflicto, pero así y todo, como escribió Sartre, estamos condenados a nuestra libertad.

“Quizá esto es sólo un paso más de un viejo problema: la incomodidad respecto de nuestra libertad. Una aclaración: no me refiero a la libertad de mercado y toda la trampa de la meritocracia, que supone o quiere creer que somos libres a secas. Hablo de la libertad como condición humana: estamos obligados a elegir, aún cuando creamos que no lo hacemos”.

El mito del Génesis es justamente ése: empieza nuestro devenir en el mundo cuando a Dios se le ocurre que podemos elegir comer o no la manzana. Es la invención de la prohibición la que crea al mal, y a la vez nos condena a la libertad. Se trata del momento de la ética humana: elegir. La idea del mal como algo externo es posterior, cuando en las  interpretaciones del mito se encarna en la serpiente, las brujas, los judíos, los inmigrantes, la derecha, la izquierda, los otros siempre. La tentación a la deresponsabilización subjetiva es grande, a fin de cuentas seguimos soñando con el paraíso como condición de inmediatez y de unidad con el mundo; es decir, con una existencia sin conflicto. Pero ese sueño no es sin costos, es lo que nos enseña la clínica de las toxicomanías y las depresiones; nos muestran que antes que paraíso, la ausencia de deseo/conflicto nos arroja al infierno. Sería extenderme demasiado profundizar aquí sobre esto, pero alcanzo a decir que en esos estados lo que hay es un acceso al cuerpo como máquina, como una anatomía doliente demasiado presente, como un laboratorio de química. Lo que se pierde es el cuerpo erógeno, el cuerpo envuelto en palabras.  

La frase de Orwell en 1984 “We shall meet in the place where is no darkness” (nos encontraremos en el lugar sin oscuridad) está absolutamente vigente, no sólo por las tecnologías de vigilancia, sino porque comenzamos tratarnos a nosotros mismos como un electrodoméstico: rige el supuesto de que “ver todo” el cableado, es la verdad humana.

Que paradoja, matamos a Dios, para luego delegar nuestra libertad y consentir volvernos estúpidos.

*Constanza Michelson es psicoanalista y escritora.

Comentarios