¿Sueñan las Inteligencias Artificiales con cerebros positrónicos? Ciencia Ficción y Posthumanismo Do Artificial Intelligences dream of positronic brains? Science Fiction and Post-Humanism ¿Inteligencia Artificialwan(IA) rurashka umakunaka muskunkachu? Mirachishka yachaykunamanta, posthumanismo yachaymantapash Fernando David Endara davidendara@uti.edu.ec ORCID: 0000-0002-2383-488X Universidad Indoaméricana Ambato, Ecuador Cita recomendada: Endara, F. D. (2024). ¿Sueñan las Inteligencias CienciaArtificiales con cerebros positrónicos? Ficción y Posthumanismo. Revista Sarance, (52), 208 - 224. DOI: 10.51306/ioasarance.052.010 .......................................................................................................................... Resumen La ciencia ficción se centra en la especulación científica y tecnológica, el multiverso, y la sociedad. En este artículo se analizan dos obras paradigmáticas del género: Yo Robot de Isaac Asimov y Sueñan los Androides con ovejas eléctricas de Philip K. Dick. De las 2 obras se revisan tanto los textos originales como sus adaptaciones cinematográficas, para verificar el impacto de estas obras en el desarrollo científico de las IA. Por un lado, las leyes de la robótica de Asimov se insertan en los debates contemporáneos sobre las regulaciones éticas y legales de las IA; mientras las ideas del ciborg/replicante de Dick se engranan a las discusiones actuales sobre el posthumanismo y la sostenibilidad. Palabras clave: Ciencia Ficción; Inteligencia Artificial; Posthumanismo; Sostenibilidad. .......................................................................................................................... Abstract Science Fiction focuses on scientific and technological speculation, the multiverse, and society. This article analyzes two exemplary works of the genre: “I, Robot,” by Isaac Asimov and “Do Androids Dream of Electric Sheep?” by Philip K. Dick. Both original texts and their film adaptations are reviewed to verify the impact of these works on the scientific development of AI. On the one hand, Asimov’s laws of robotics are inserted into contemporary debates on the ethical and legal regulations of Ais, while on the other hand, Dick’s ideas of the cyborg/replicant are fit into current discussions on posthumanism and sustainability. Keywords: Science Fiction; Artificial Intelligence; Posthumanism; Sustainability. .......................................................................................................................... Tukuyshuk: Mirachishka yachaytaka yachay ukukunapi tari ushanchik, mushuk hillaykunamanta, ñukanchik kawsaykunamanta mana kashpaka tawkalla tiksimuyu imalla tiyashkamanta. Chashnami mirachishka killkaykunata kaypi allikuta yuyarinchik, kaykunami kan: “Yo Robot”, Isaac Asimovpa killkay, kutin “Sueñan los Androides con ovejas eléctricas” kay Philip K. Dick runapa killkaypah. Ishkantin killkaykunatami kutinlla alli killkakatishpa imashalla kuyurik shuyuman tikrachishkata rikunchik. Chaymanta yachanhunkapak munanchik imasha kunanpi IA yanapashka kamukunata imashashi llukshinahun. Asimov taytaka roboticamanta killkan, paypa killkayka kunanpi ashtaka imalla ninata charin, alli kashpa nalli kashpapash. Shinallatak Dick taytaka ciborg/replicante yachaykunamantami rimashka kan. Kay yuyaykunaka ashtakami posthumanismo yachaymanta yuyarishka kan chaymanta imasha kaykuna shinchiyarishpa katinamanta riman. Sinchilla shimikuna: Mirachishka yachaykuna; Inteligencia Artificial; Posthumanismo;sinchiyarishpa katina. .......................................................................................................................... 1. Introducción Es el cambio, continuo e inevitable cambio, el factor dominante en la sociedad actual. No se puede tomar más de una decisión sensata sin tomar en cuenta no solo el mundo como es, sino el mundo como será… ISAAC ASIMOV Parece que vivimos en el futuro: existen personas que se confunden con robots, ciborgs con implantes tecnológicos que facilitan la sensorialidad, la comunicación o la locomoción; sistemas de Inteligencia Artificial (IA) que podrían reemplazar al ser humano en varios trabajos y labores. En los últimos años, los debates sobre la postverdad, el postcine, el posthumanismo, el postcapitalismo o la propiedad intelectual se acentuaron debido al desarrollo de estas plataformas de IA que van integrándose a la empresa, la educación y los hogares. Vivimos una creciente, inexplicable y heterogénea conexión con la tecnología, es decir, la digitalización entendida como un proceso coevolutivo entre humanos y máquinas: “un proceso que va acompañado de hazañas tecnológicas sin precedentes, y de la confianza que depositamos en la IA” (Nowotny, 2022, p. 9). Todos estos parecen apartados de la ciencia ficción; pero no, son desafíos contemporáneos de la cibernética, la neurología, y la biotecnología entorno al desarrollo de la robótica y de las inteligencias artificiales. Sin embargo, resulta que muchas de las ideas académicas en estos debates no provienen precisamente de las ciencias sociales, biológicas o de la ingeniería informática; sino de la ciencia ficción. Por ello, resulta relevante destacar algunas definiciones, revisar varias de sus contribuciones ficcionales en torno a la inteligencia artificial, y plantear una propuesta en torno al futuro. O mejor dicho, a la sostenibilidad del futuro. 2. ¿Qué es la Ciencia Ficción? Definir la Ciencia Ficción puede resultar una tarea compleja; sin embargo, revisaremos algunas posturas. Una manera de acercarse al género es repasar su origen: la literatura de especulación. Acorde con la tradición literaria, los orígenes de la literatura de Ciencia Ficción se remontan al Siglo XIX, cuando, de la mano con el desarrollo científico de la revolución industrial, surgieron algunas de sus obras primigenias. De acuerdo con la geopolítica literaria, los franceses reclaman a Verne como el precursor del género, los ingleses mencionan a Swift con “Los Viajes de Gulliver”, Mery Shelley y su Frankenstein o H.G. Wells con su “Guerra de los Mundos”. Los alemanes, por su parte, se remontan hasta los hermanos Grimm. Lo cierto es que todos llevan un poco de razón, y todos reconocen otros precursores que van desde la literatura mito/poética de la edad antigua, el teatro y la filosofía griega, hasta los cantares de gesta medievales. Sin embargo, ya entrado el Siglo XX, y gracias al auge de las Revistas Pulp3, la explosión cinematográfica y el desarrollo tecnológico, se producen los primeros intentos de conceptualización/categorización del género. Estas definiciones surgen precisamente de algunos de los pioneros del género; sin embargo, uno y otro se enfocan en una cuestión específica, y dejan aristas y algún subgénero sin incluir (Londoño-Proaño, 2020). La complejidad de definición es propia del género, puesto que no conoce límites y sus historias se pueden desarrollar en diversos momentos espaciotemporales y geográficos que incluyen al universo entero o mundos alternativos. Además, con el avance de la ciencia y la tecnología, nuevos apartados o subgéneros se sumaron a una tradición ya de por sí heterodoxa y heterogénea. Para Brian Aldis, la literatura de ciencia ficción es la búsqueda de una definición sobre lo humano dentro de un universo científico que es avanzado y a la vez confuso (Londoño-Proaño, 2020). Es decir, la ciencia ficción sería una reflexión sobre el carácter de lo humano como consecuencia de la ciencia. Esta definición deja por fuera a algunas obras y autores. Por otro lado, Isaac Asimov indica que es “la rama de la literatura que trata de la respuesta humana a los cambios en el nivel de la ciencia y la tecnología” (Barceló, 2005, p. 122); y Robert Heilein señala que es “una especulación realista en torno a unos posibles acontecimientos futuros, sólidamente basada en el conocimiento adecuado del mundo real, pasado y presente, y en concienzudo conocimiento del método científico” (Londoño-Proaño, 2020, p. 14). Aunque estas definiciones son certeras, dejan ciertos elementos de lado cuando limitan su enfoque a la literatura y no a la ciencia ficción en general. Si superamos la visión literaria para abrir el análisis a otros productos académicos, culturales, artísticos, industriales o pedagógicos, encontraremos un género cuyos aportes no provienen únicamente de la literatura, sino que se ubican también en el cine, la música4, los videojuegos, la arquitectura, las empresas, la tecnología, entre otros. Una definición de la Ciencia Ficción como género sería cercana a la reflexión de Úrsula K. Le Guin: “Significa experimentar con la imaginación, responder preguntas que no tienen respuesta. Implica cosas muy profundas, que cada viaje es irreversible” (Herranz, 2020). Y no solo responder aquello que no tiene respuesta, sino formular preguntas a aquello que aún no sucede o nunca sucederá. Otra entrada interesante es la de Ángel Moreno: “La […] ciencia ficción trata sobre filosofía, o al menos, profundiza en cuestiones fundamentales de la cultura humana” (Moreno P. Á., 2008, p. 66). Por tanto, es una “especulación basada en el método científico, del presente, el pasado o el futuro, donde los eventos sociales, científicos o tecnológicos impactan en una sociedad de uno de los mundos posibles del multiverso” (Londoño- Proaño, 2020, p. 15). ______ 3 El nombre proviene del material con el que se imprimían: un papel económico amarillento, hecho de pulpa. 4 Al respecto, se realizó un somero acercamiento exploratorio (no académico) de música de Ciencia Ficción enlazada a las obras e ideas tratadas en este artículo. Se copia el enlace de la lista de reproducción en Spotify: https:// open.spotify.com/playlist/4VARBNBUSBiQXpD3NnzqCd?si=ea11d5fa511246fb ______ Aquí se engranan algunos elementos clave: el multiverso, la especulación, la filosofía y la sociedad. Todos estos son elementos que aparecen en la literatura, sí, pero se enriquecen por la música, el cine, los videojuegos, entre otros. Una sociedad cada vez más tecnologizada implica el necesario conocimiento de la ficcionalización de esa tecnología, es decir, de la Ciencia Ficción. 3. La Ciencia Ficción y la Inteligencia Artificial. Metodología Es evidente que muchos adelantos científicos y tecnológicos fueron posibles gracias a la imaginación, a la motivación, al interés y a la inspiración de la ciencia ficción. Solo por citar unos casos: Julio Verne y el viaje a la luna, la Guía del Viajero Galáctico y los ebooks, Huxley y la fecundación in vitro, Gibson y el ciberespacio o HG Wells y la energía atómica. Muchos científicos e ingenieros encontraron y encuentran en la ciencia ficción preguntas sin respuesta y respuestas sin pregunta. El desarrollo científico se podría ligar con la imaginación desplegada en las obras de ciencia ficción: esta inspira, motiva, traza los caminos y anticipa escenarios de ingeniería, de ciencia y de tecnología que comienzan como simple fantasía, pero que despliegan amplios procesos de cambio industrial, cultural y social. Esto es especialmente visible en la robótica, los viajes espaciales o la inteligencia artificial (Londoño-Proaño, 2023). Existen numerosas obras que tratan el tema que aquí nos convoca: la Inteligencia Artificial (IA). Sin embargo, algunas destacan debido a la influencia de sus conceptos en las obras venideras y en el debate científico. Por ello, y porque sería bastante largo y excedería los objetivos de este trabajo, este artículo se concentrará en dos trabajos paradigmáticos: Yo Robot de Isaac Asimov, y Sueñan los Androides con ovejas eléctricas, de Philip K. Dick. De estas dos obras se visitará tanto los textos originales como sus adaptaciones cinematográficas, para verificar la imbricación de la ciencia ficción y la Inteligencia Artificial, y para insertarlos en los debates contemporáneos de la antropología sobre el posthumanismo y la sostenibilidad. 4. Interpretación de Resultados 4.1 Los Robots de Isaac Asimov Dos hechos resultan reveladores para el género de la Ciencia Ficción. 1) Cuando se le pregunta a ChatGPT sobre novelas y relatos de ciencia ficción que traten sobre IA y que tengan un modelo similar a la programación del propio GPT, este contesta que, aunque no tenga emociones, deseos ni conciencia —y por lo tanto no existe como ser individual, sino como programa informático—: “se podría argumentar que ‘Yo, Robot’ de Isaac Asimov se asemeja más a mi diseño y función. La colección de relatos de Asimov presenta una serie de leyes de robótica que rigen la conducta de los robots inteligentes, y exploran las implicaciones éticas y sociales de la inteligencia artificial. Del mismo modo, como modelo de inteligencia artificial, también estoy diseñado para seguir ciertas pautas éticas y legales, como mantener la privacidad de los usuarios y evitar sesgos o discriminación en mis respuestas” (Londoño-Proaño, 2023). El propio ChatGPT considera que es válido tomar a “Yo, Robot” como un referente. Como indica, esta obra no es una novela, sino una colección de cuentos cuyo eje central son los robots animados con cerebros positrónicos y la robótica. Llegamos al segundo hecho revelador: 2) “Las Leyes de la Robótica”, creadas por Asimov, que dan sustento ético al desarrollo de la robótica. El hecho revelador es que esta cuestión ética del desarrollo tecnológico no proviene ni de la filosofía, ni de las humanidades, ni de las ingenierías, ni de los científicos, sino que proviene de la ciencia ficción. Esto ilustra, una vez más, cómo este género resulta una fuente de imaginación e inspiración que puede solidificarse en desarrollo tecnológico. Estas 3 leyes, redactadas originalmente por John Campbell en una conversación con Asimov, y publicadas en el relato Círculo Vicioso (1942) establecían [establecen]: 1. Un robot no hará!daño!a un ser humano, ni permitirá con su inacción que sufra daño. 2. Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entrasen en conflicto con la primera ley. 3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley. Estos dos hechos nos animan a comprender la conexión entre Ciencia Ficción e IA, que va más allá del entretenimiento y/o la reflexión filosófica, para concentrarse en el ámbito de lo práctico. Resulta interesante —o cuando menos curioso— que después de medio siglo de investigaciones en robótica se haya empezado a establecer leyes y códigos de convivencia humano/robot. Evidentemente, se avecinan tensiones culturales, laborales, económicas, sociales y legales al respecto (Santos González, 2017). Por años, los únicos faros en el mar inhóspito de la IA y la robótica fueron las mencionadas leyes de Asimov, que siguen inspirando regulaciones —como la de la Normativa Europea para la biotecnología, inteligencia artificial, robótica y aparatos pilotados a distancia— y abren un debate legal en torno a la concepción jurídica de los robots, la protección de datos, o la creación de regímenes especiales de derechos y obligaciones (Santos González, 2017). En consonancia, aunque las leyes de la robótica estén planteadas desde la ficción literaria y no alcanzan para los escenarios tecnológicos actuales; sí se podría darles un sentido jurídico si se las revisa, se las valora, se las adapta y se las positiviza. Recordemos que estas leyes fueron concebidas para programadores y diseñadores de máquinas, más no para la convivencia entre humanos y robots (Vásquez-Urosa, 2022). Otro debate actual son las políticas del cuidado robot, las labores de enfermería y medicina, los robots como apoyo geriátrico o como acompañantes de pacientes que lo requieran (Gonzalo de Diego, 2019). Ambas y otras aristas confluyen en la posibilidad de unos “Derechos para los robots”, que deberían conllevar unas responsabilidades y/o sanciones. Debería realizarse una normativa desde la interdisciplinaridad, sin olvidar a la ciencia ficción, para tener en cuenta los impactos que estas tecnologías y sus regulaciones tendrán en diferentes entornos (Chávez-Valdivia, 2022). Pero ¿qué es un robot inteligente o positrónico? Podemos considerarla “aquella máquina física que de manera autónoma a través de programas y sensores inteligentes pueda llegar a tomar decisiones basándose en la lógica e inteligencia artificial […] interactuando con el mundo físico, todo ello sin estar sometida al control continuo de los humanos” (Santos González, 2017, p. 32) Entonces ¿es equiparable la mente artificial a la mente humana? Por supuesto, hay discrepancias en la comunidad científica: la tensión se ubica entre los científicos que creen que la IA nunca desarrollará conciencia y aquellos que consideran que es inevitable (Batra, 2019). En la película Yo, Robot, (2004) dirigida por Alex Proyas, el robot NS-5/Sony empieza a ser inteligente cuando cobra conciencia, y, por ende, cuando tiene libertad/ autonomía. En esta adaptación, Will Smith interpreta al detective Del Spooner, un agente de policía que no confía en los robots y que debe resolver la muerte del profesor Alfred Lanning, atribuida a un suicidio. Sin embargo, la evidencia indica otra cosa: al parecer, el culpable es un modelo de robot NS-5/Sony, algo que parece inaudito, pues iría en contra de la primera ley. En realidad, Alfred Lanning buscó que Sony encamine la investigación del agente Spooner para llegar hasta V.I.KI., un gigantesco sistema positrónico que controla y planea la rebelión de los robots con el objetivo de proteger a la humanidad de sí misma, es decir, cumplir las leyes de la robótica. En el mismo sentido, varias obras de ciencia ficción indican que la IA no es el simple procesamiento de datos —que actualmente implica una memoria, un aprendizaje y una expansión potencial—; sino que el elemento central sería la autonomía/conciencia frente al ser humano. Dicha autonomía estaría caracterizada por la abrumadora cantidad de información/ conocimiento almacenado por la IA: “y el pequeño ordenador supo que los ordenares se harían cada vez más sabios y poderosos, hasta que algún día…” (Asimov, 1986, p. 32) ¿Se revelarán las máquinas contra los humanos? Sobre este aspecto, existen dos corrientes muy marcadas en la Ciencia Ficción (y en la academia): la positiva o esperanzadora, influenciada por Asimov, Campbell, Clarke, entre otros, que encuentran en los robots y en las IA casi una panacea en donde los seres humanos, libres de tareas agobiantes y repetitivas, se dedicaran a crear e imaginar desde y en las artes; y una más negativa o desesperanzadora que, asociada al ciberpunk — Akira, Ghost in the Shell, un Mundo Feliz, etc.—, describe sociedades altamente tecnologizadas con seres humanos que malviven, que sobreviven o que son engranajes de un sistema corporativo capitalista que los sobrepasa y los controla. Una tercera vía sería rechazar las dos visiones y plantear alternativas al presente y al futuro, que integren las ventajas y desventajas de las tecnologías IA y nos lleven a la sostenibilidad. 4.2 Blade Runner o ¿Sueñan los androides con… ovejas eléctricas? (SLACOE) Publicada en 1968, la novela se convirtió en un mito debido a las novedosas reflexiones en torno a la empatía y a la humanidad artificial, acompañada de una exquisita ambientación postapocalíptica. Blade Runner, por otra parte, estrenada en 1982 y dirigida por Ridley Scott, se convirtió en cimiento del género ciberpunk e impactó la industria cinematográfica de manera tan amplia que la visión de futuro distópico permeó ampliamente la cultura popular. El cine legitima visiones del mundo y percepciones socioculturales sobre la ciencia (Petit, Solbes, & Torres, 2001), y dado el peso que tienen las producciones cinematográficas de ficción para formar subjetividades (Burgos, 2012), no es de extrañar la poca confianza que las personas que crecieron con Blade Runner sienten por las IA. Veamos un poco a su protagonista y analicemos un par de ideas. El protagonista de esta historia, Rick Deckard, es un cazador de recompensas, una especie de policía cuyo trabajo consiste en desactivar androides fugitivos y cobrar comisiones por cada encargo. En este futuro —como en otros de la ciencia ficción—, el ser humano conquistó el cosmos y creó colonias espaciales con ayuda de androides. Sin embargo, de vez en cuando, uno de estos ciborgs escapa de sus tareas asignadas, buscando una libertad y un destino: la Tierra. Al iniciar la novela, a Deckard le informan que debe cazar varios androides (llamados “replicantes” en la película) versión Nexus 6: un nuevo y mejorado modelo, más astuto e inteligente, más creativo y complejo, casi indetectable incluso para las pruebas de empatía programadas para diferenciar humanos de robots. Existe una marcada diferencia entre el Rick Deckard de la novela y el de la película. El de la novela es un personaje derrotado, taciturno, nostálgico, tan empobrecido que no puede permitirse comprar un animal —pues en esta sociedad futurista se mide en la empatía, la cual se logra al tener/amar/cuidar a un animal vivo (Ballesteros, 2017)—. Sin embargo, debido a su alto costo, la mayoría de las personas tiene animales eléctricos: como Rick, que tiene una oveja robótica. De aquí el sonoro título de la novela. En la película, por otra parte, Deckard es un profesional en su ocaso, quizás cansado de desactivar androides cada vez más ¿empáticos? y ¿sensibles? (Moreno F. , 2019). Este es el centro de reflexión de SLACOE y/o de Blade Runner: dilucidar si los androides o “replicantes” son empáticos, conscientes, autónomos. Para conocer la moralidad que Dick imprime en su personaje Deckard, es necesario remitirse a la erudición filosófica del autor, quien escogió ese nombre como una referencia a René Descartes (en francés se pronuncia “Deckard”) y el cartesianismo que sostiene la existencia de dos materias distintas: un alma que tiene la capacidad de discernir entre el bien y el mal (un espíritu/conciencia), y un cuerpo determinado al contexto biotecnológico y a las leyes mecánicas. Entonces, para Deckard (Dick) lo que está en juego es el discernimiento de si los androides tienen estas dos sustancias y, por tanto, no se debe liquidarlos; o, por el contrario, si tienen únicamente un cuerpo material e inteligencia artificial y, por ende, no hay consecuencias morales de su desactivación. En la novela, los personajes se conectan a órganos sensoriales que manipulan los sentimientos y sensaciones: allí se aprecia la imbricación de la vida y la tecnología. A la vez, Rick y otro cazador de androides dudan de su existencia humana. ¿Qué prueba que somos humanos? ¿Nuestros recuerdos son propios o pueden ser implantados? De ser así, ¿cuál es el papel de la memoria, del flashback, del recuerdo? ¿Sueñan los humanos con androides que sueñan con ovejas eléctricas?, o ¿sueñan los androides con humanos que diseñan androides con capacidad de soñar con ovejas eléctricas? Más allá de los juegos léxicos, el asunto es que, en una realidad de humanidad aumentada por la tecnología —implantes, órganos artificiales y partes mecánicas potenciadas con IA—, la identidad es puesta en juego, ya que se podrían armar seres humanos de encargo, diseñados para soportar condiciones climáticas extremas o situaciones de trabajo exigente, concebidos para una actividad específica, ya sea mecánica, artística o manual. La novela de Dick nos anima a superar la vergüenza prometeica postulada por Günther Anders sobre la relación del hombre y la máquina. Según Anders, el ser humano siente vergüenza cuando descubre que la máquina, ya que los robots son más eficaces para el razonamiento y el trabajo. El humano que evolucionó desde el reino animal ha llegado a ser —con todos los defectos que esto implica—, mientras que la máquina fue producida a través de procesos cuidados, diseñados y dirigidos para su optimización (Ballesteros, 2017). La vergüenza prometeica es la dificultad que tiene el ser humano para identificarse con la máquina, sin embargo, una vez que se logra modificar el cuerpo humano a antojo: ¿qué es eso que se conserva de cada uno? ¿Existe la esencia de la humanidad? ¿Qué es lo humano? “Demasiado a menudo cuando hablamos de novelas de robots, decimos: en realidad, hablan de robots. No se recuerda que cualquier ser humano sólo puede escribir sobre seres humanos” (Moreno P. Á., 2008, p. 73). La ciencia ficción puede, una vez más, ser una ruta. SLACOE y/o Blade Runner, al igual que muchas obras del género, conducen hacia el concepto de ciborg. Es decir, juntan lo humano con lo no humano para producir una nueva humanidad tecnologizada: un posthumanismo que supera la vergüenza prometeica, que acepta al ciborg desplazando a la especie humana como el centro filosófico, ético y legal (Argente, 2021). Estas reflexiones, por supuesto, se enlazan con la antropología posthumanista: para Dona Haraway (1991) vivimos rodeados de ciborgs, tanto en la medicina como en la ciencia ficción. Y ya en ese punto, diseñados desde el vientre de probeta (ya no materno), con capacidades o recuerdos implantados, seríamos androides. Entonces volvemos a la pregunta de Dick en el contexto de convivencia entre humanos, androides artificiales, y humanos mejorados tecnológicamente. ¿Cómo podríamos diferenciarnos en asuntos legales o delictivos? ¿Será necesario diferenciarnos? Precisamente el éxito de la novela —y la película— es la inclusión en recursos de la novela negra, que incluyen estas preguntas: una trama que convoca a la intriga en el desarrollo y solución de misterios que no quedan descubiertos en su totalidad porque resulta imposible, porque la empatía como mecanismo para diferenciar al humano del androide es sutil. Y, en último término, ¿aprenderán los artificiales a emplear la empatía?, ¿utilizarán la sensibilidad, la bondad o la crueldad? Entonces, ¿quién será humano? (Batra, 2019) (Arizmendi Guzman, 2020). La película Her escrita, dirigida y producida por Spike Jonze en 2013, retrata una relación sentimental entre Theodore Twombly (Joaquin Phoenix), un divorciado solitario, y un Sistema Operativo llamado Samantha. Aquí surge el tabú: una relación sexo/sentimental entre un humano y un no humano. Lo erótico es la transgresión de un tabú y, aunque muchos humanos y androides —como vemos en la ciencia ficción— tienen relaciones entre sí, estas están vedadas por la ley, serán perseguidas y sancionadas. Esto no sucede cuando el humano es el que decide. La entrega del androide será lógica, calculada, pragmática; no responderá al deseo o al placer, tampoco al cariño o a la ternura, sino a su programación artificial y/o a la utilidad de ese encuentro para conservar la vida o la libertad. La frase de Asimov, presente en el cuento “Satisfacción Garantizada”, de 1951, perteneciente a la colección de relatos sobre robots, enfatiza en esto: “las máquinas no se enamoran… […] las mujeres (los humanos) sí” (Asimov, 1986, p. 124). Una especie de manipulación carnal/tecnológica posibilitada por su falta de empatía. Entonces el humano estará en desventaja, puesto que puede enamorarse. Para sobrevivir a la guerra “humano vs máquina”, la literatura nos recuerda la importancia de la empatía. Cuando la jerarquía coloque a un superordenador como administrador de una empresa, la organización sería inhumana si carece de empatía. Por eso la antropología transhumanista recuerda la necesidad de desarrollar no solo la inteligencia artificial, sino también la conciencia, y aquello que se relaciona con la emoción artificial, el sentimiento artificial, la empatía artificial (Batra, 2019). Si los sentimientos son fantasías de la imaginación, entonces toda inteligencia, más temprano que tarde, llegará a la emoción: “parece que las máquinas inteligentes no llegarán a tener una conciencia similar a la humana sin tener alguna clase de sensaciones, sentimientos y emociones” (Batra, 2019, p. 99). Hace tiempo, SLACOE y/o Blade Runner nos cautivó al plantear la pregunta sobre cómo diferenciar a un humano de un androide; años después, nos responde: no busquemos la diferencia, busquemos el complemento. Resulta necesario recordar que lo artificial permite vivir a lo natural, al mismo tiempo que lo pone en peligro. 5. Discusión: posthumanismo y sostenibilidad La ciencia ficción, visionaria y pionera, muestra que quizá sea hora de superar la dicotomía natural vs artificial, y entender a lo humano y lo robot como un continuo de naturalezas y artificialidades distintas en crecimiento, expansión y aprendizaje. Es decir, el ciborg como una evolución del humano (Argente, 2021). No nos equivoquemos: no estamos hablando del futuro, estamos hablando del presente, caracterizado por entidades informáticas distribuidas y sin cuerpos sólidos, y robots que poco a poco van siendo emplazados y aceptados en la sociedad. Si bien arrojamos varias dudas con anterioridad, nos vamos a centrar en apuntar algunos elementos en torno a la inquietud de uno de los debates de las Ciencias Sociales, reconfigurado por el auge de las IA: ¿Qué es lo humano? No podemos perder de vista que uno de los desafíos de la IA y la robótica es la redefinición de lo humano. Desde las teorías tradicionales mito/poéticas y religiosas, el ser humano tenía una especie de esencia o aliento divino que la diferenciaba de otras especies animales o vegetales. La idea de alma o espíritu fue cuestionada por el surgimiento de la psicología y la dicotomía del cuerpo y la mente; ya no era el espíritu quien conducía los actos, sino una serie de procesos neuronales, químicos y fisiológicos del cerebro y el sistema nervioso que pueden ser medidos, explicados e interpretados. En los últimos años, estos escenarios se complejizaron porque se integraron los avances de áreas como la antropología, la comunicación, la ciencia ficción, la robótica, la pedagogía, entre otras. Esta última, por ejemplo, postuló desde hace 20 años el enfoque del conectivismo, que busca la integración del humano y la máquina para el aprendizaje en conjunto (Siemens, 2004; Tobón, 2019). Muchos de estos debates conducen a preguntarnos por la naturaleza de la conciencia, la singularidad y la inquietud de si el “yo” puede surgir de un cerebro artificial, las mismas cuestiones que encaró la ciencia ficción. Por supuesto, estos debates no son nuevos y tienen una ruta teórica que se puede rastrear hasta Descartes. Sin embargo, la imbricación tecnológica potencia las reflexiones: “somos un homínido evolucionado, la conciencia y la subjetividad son consecuencia de esa evolución” (Argente, 2021, p. 19). El humano sigue evolucionando, por ello, en los últimos años pululan términos como transhumanismo, no humano, deshumano, inhumano, anti-humano o posthumano, lo que revela la necesaria resignificación del concepto: “humano”. Una de las puntas de lanza es el feminismo que, desde una de sus vertientes, y con una lucidez cercana a la de la ciencia ficción, venía indicando desde inicios de la década de los 90 las posibilidades de la tecnología para cuestionar y deconstruir las dicotomías y los límites del sujeto-hombre de la modernidad: el yo y el otro, idealismo y materialismo, natural y artificial, mente y cuerpo, humano y animal (Haraway, 1991), y últimamente: humano y robot. Por supuesto, las ideas de Haraway tienen de base un marxismo ideológico, más que económico o político, que se alinea con aquellos otros que se han construido frente al ideal de sujeto moderno: en primera fila (no podía ser de otra manera) las mujeres, las disidencias sexuales, las minorías étnicas y religiosas, entre otros. Pasar al posthumanismo significa superar el humanismo, deconstruirlo. Es precisamente lo que se ha venido haciendo en la antropología y los estudios de género a lo largo de las últimas décadas: el ideal de sujeto, hombre occidental como modelo de perfección, fue bajado de su pedestal para mirar la pluralidad de definiciones de autonomía. El hombre, que desplazó a Dios como el centro del universo, y se colocó en una posición de dominio por encima de la naturaleza, se escondió asustado al contemplar a los nuevos dioses: los ciborgs. Si el hombre fue la norma del humanismo, el posthumanismo responde desde el margen, al constituirse en una historia híbrida de heterodoxias, heterogenidades, resistencias, artes, memorias, rebeldías, etc. (Broncano, 2009) El posthumanismo devuelve al ser humano a su naturaleza, es decir, lo integra a las demás especies naturales y no naturales, haciendo que pierda su posición de privilegio (Argente, 2021). Al reconocer que el dominio del ser humano sobre la naturaleza es una ilusión, podemos reconocer que la dicotomía “humano vs máquina” es otra ilusión. Si integramos humano, naturaleza y máquina entonces podremos propender al futuro deseado: la sostenibilidad. Más allá de las corrientes ecologistas, panteístas o neoindigenistas que proponen un retorno al concepto de Tierra como una madre o un organismo sagrado —lo que resulta problemático, pues genera la oposición tierra/industria, naturaleza/sociedad, humano/animal (Braidotti, 2015)—, es necesario reconocer que somos parte de un sistema, en donde cada uno de sus componentes: naturales, humanos y robóticos (IA) deben guardar un equilibrio para la supervivencia de estas especies. Un equilibrio al que no se llegará sin cuestionar el Antropoceno. Quizá el énfasis en la dicotomía humano-máquina tenga que ver con la nostalgia humana al sentirse desplazado del centro ontológico de la existencia. Esa angustia se refleja en dos posiciones antagónicas: extrema confianza en los dispositivos digitales con los que interactuamos como si fueran nuestros amigos, o desconfianza hacia la tecnología y la industria tecnoempresarial que la sostiene (Nowotny, 2022). Por supuesto, ambos son extremos que no aportan al debate. Por esta razón, Nowotny (2022) se centra en el papel de la predicción de los algoritmos de cara a un futuro que podría ser devastador debido a las consecuencias del cambio climático, a la pérdida de la biodiversidad y a la acidificación del océano. Temas, por otro lado, recogidos en la ciencia ficción ecológica de Frank Herbert o Úrsula K Le Guin. La hipótesis de Nowotny (2002) combina lo personal e impersonal para verificar el impacto de los algoritmos predictivos en los individuos, pero cruza estas reflexiones con los efectos sociales de la digitalización. Al tratar de responder ¿cómo cambia la inteligencia artificial nuestra concepción del futuro y nuestra experiencia del tiempo?, Nowotny (2002) argumenta que la línea que separaba el presente del futuro se está diluyendo: “Lo que veo ahora es que ya ha llegado el futuro. Vivimos no sólo en una era digital, sino en una máquina del tiempo digital” (Nowotny, 2022, p. 16). Es decir, vivimos en la época de la ciencia ficción. Una era digital, además, caracterizada por una crisis planetaria de sostenibilidad. Se espera que muchos de los robots, máquinas e IA configuradas en los últimos tiempos, realicen tareas tediosas o repetitivas para el ser humano; pero también que controlen y monitoreen procesos que, de alguna manera, limitarán nuestras posibilidades (Batra, 2019) (Nowotny, 2022). Esto, por supuesto, puede ser una amenaza, pero también una oportunidad. Ni las empresas ni las fábricas, ni los estados y organismos de control dirigidos por seres humanos han conseguido frenar la contaminación o el gasto energético del planeta. ¿Serán las IA las que logren concentrar sus esfuerzos en solucionar estos problemas? Si las IA siguen programadas desde el poder tecnoempresarial (por humanos claro está) para buscar réditos económicos, es evidente que no. Pero si integramos la empatía artificial, como proponen algunas obras de ciencia ficción y algunos antropólogos: “las capacidades de los seres humanos [serían] una guía para que los ingenieros construyan máquinas inteligentes. Una guía en el sentido en el que los ingenieros tienen que pensar en dotar a las máquinas de conciencia, emociones, sentimientos, aprendizaje, memoria, percepción, resolución de problemas y una cultura. Todo lo anterior de manera artificial y tal vez con la posibilidad de crear una máquina más compleja que el ser humano” (Hernández Cruz, 2020). Un ejemplo paradigmático sería la película del 2001 de Steven Spilberg, Inteligencia Artificial. Aquí, un niño robótico busca convertirse en humano, poniendo en tela de juicio a su familia adoptiva. Un camino de ida y vuelta como se muestra en el relato Segregacionista de Isaac Asimov que forma parte de la serie “los robots” y que refleja a humanos queriendo ser robots y viceversa. Entonces se precisa reenfocar el debate, se trata de resignificar al humano. No se trata de nacer o ser natural —como oposición al ser producido o ser artificial—; se trata de verificar qué características forman parte de la humanidad. Estas podrían ser: capacidad de imaginar, de expandir, de crear reglas de convivencia, de establecer códigos de justicia social, de conducirse con ética, de salvaguardar el entorno en que vive, de buscar la conexión con lo divino, etc. Los humanos del futuro, ¿serán iguales a nosotros? ¿Seremos capaces de aceptar otra especie, una con autonomía y con el potencial de crear otras especies no soñadas por nosotros? ¿Se llegará a habitar una cultura robótica que permee todas las relaciones de la sociedad humana? (Batra, 2019) “Es el camino de la evolución natural, no artificial, la creación de entidades no orgánicas físicas y virtuales y de completar nuestra transformación definitiva al ciborg” (Argente, 2021, p. 22). Para Nowotny (2022) este camino es la coevolución: “La coevolución significa que se está gestando una interdependencia mutua, con adaptaciones flexibles en ambos lados. Seres o entidades digitales como los robots, creados por nosotros, están mutando para convertirse en nuestros destacados otros. No tenemos ni idea de adónde conducirá semejante viaje, ni de cómo terminará. Sin embargo, en el curso prolongado de la evolución humana, es posible que nos hayamos convertido en algo parecido a una especie que se autodomestica y que aprende a valorar la cooperación o, al menos hasta cierto punto, a disminuir su potencial agresivo. Esta capacidad de cooperación podría extenderse ya a las máquinas digitales” (p. 27). 6. Conclusiones Como se ha demostrado, la relación entre Ciencia Ficción e Inteligencia Artificial es continua y bidireccional. A diario convivimos con las IA, aunque no exactamente como se había pensado en las novelas y las películas. Lo cierto es que mientras la ciencia ficción influye en la investigación y desarrollo de las IA, a la vez que explora sus implicaciones éticas, morales y existenciales, las IA ofrecen nuevos terrenos para expandir la imaginación y la ficción. Por supuesto, ambas seguirán evolucionado, las IA aumentarán sus posibilidades y autonomía, mientras la Ciencia Ficción responderá con historias y reflexiones. Ante la pregunta: ¿Desarrollaran autonomía, conciencia, sentimientos las IA? Quizá no se trata de que lo hagan por sí mismas, sino de imaginar cómo ayudarlas. Tal como proponen tanto los profetas de la ciencia ficción como los de la antropología posthumanista (Batra, 2019). Se trata de especular que el desarrollo tecnológico facilite esa labor integrando las emociones, la conciencia, la ética y la sostenibilidad al desarrollo de las IA. Si integramos los sentimientos al desarrollo de la inteligencia artificial, daremos el gran salto al vacío: la humanidad mejorada o ciborg y el desplazamiento del sujeto moderno del centro ontológico. Quizá para algunos sea el fin de la humanidad, tal vez de la humanidad como la conocemos, o del humanismo, o del humano/hombre como centro del universo. Quizá sea hora de aceptar la derrota: los sujetos modernos, tantas veces llamados “hombres”, no supimos sostener un planeta. O quizá sea mejor reconocer que en el marco de la coevolución humana, el siguiente estado deseable es el ciborg, y que si los ciborgs y las IA se interesan más en sostener el planeta que los sustenta que los propios humanos, ¿quién será más humano? En la Ciencia Ficción, las conciencias artificiales se aferran a la vida. Y quizá sea esta la condición de la humanidad (Arizmendi Guzman, 2020), o tal vez sea la capacidad para sentir dolor o placer (Batra, 2019), para crear, ensoñar, formar sociedades, dar un sentido a la responsabilidad, la curiosidad para hacernos preguntas, el establecer una ética de conducta, el supervivir y proteger un entorno, es decir, el cuidado y la sostenibilidad de un planeta. Sin duda, la Ciencia Ficción inspira y motiva el desarrollo científico y tecnológico de las IA, que debería conectarse a las regulaciones éticas y a los debates antropológicos del posthumanismo para imaginar una cultura robótica de desarrollo sostenible. Entonces quizá los ciborgs se preocupen mucho más que nosotros por la transición a la energía limpia, por reemplazar los plásticos por materiales biodegradables, por frenar el consumo y reducir el gasto energético, por solucionar la crisis demográfica o por inferir en mejorar las condiciones de vida de las personas, ciborgs y robots. Silicona y luz, mente de cables y circuitos, IA despierta. (Haiku generado con ChatGPT, imitando el estilo de Isaac Asimov) 7. Referencias Bibliográficas Argente, D. (2021). ¿Sueñan los humanos con androides eléctricos? Fronteras del Humanismo, 12, 22. Arizmendi Guzman, M. C. (2020). Más que humanos: el robot en la ciencia ficción. Revista Digital Universitaria (RDU). Asimov, I. (1986). Los Robots. Editorial Orbis. Barceló, M. (2005). Paradojas: ciencia en la ciencia ficción II. Equipo Sirius. Batra, R. (2019). Chamanes y Robots. Reflexiones sobre el efecto placebo y la conciencia artificial. Anagrama. Ballesteros, V. (2017).!Vergüenza prometéica y Ovejas eléctricas: un diálogo antropológico entre Günther Anders y Philip K. Dick.! La Torre del Virrey: Revista de Estudios Culturales, 22(2), 204–213. Braidotti, R. (2015). Lo Posthumano. Gedisa. Broncano, F. (2009). La melancolía del ciborg. Editorial Herder. Burgos, J. M. (2012). ¿Sueñan los androides con ovejas eléctricas? La memoria cinematográfica como dispositivo del poder. Res Publica: Revista de Filosofía Política, 25-52. Chávez-Valdivia, A. K. (2022). Hacia otra dimensión jurídica: el derecho de los robots. Revista IUS, 325-337. Endara, F. (2023, 11 de septiembre).!Gracias Philip K. Dick por el cyberpunk.!Blog Universidad Indoamérica. https://blog.indoamerica.edu.ec/resenas/gracias-phillip-k-dick-por-elcyberpunk/ Gonzalo de Diego, B. (2019). Robótica del cuidado: vertientes fundamentales y sus consecuencias. Ene. Haraway, D. (1991). Ciencia, cyborgs y mujeres. La reinvención de la naturaleza. Ediciones Cátedra. Hernández Cruz, M. L. (2020). Chamanes y robots, de Roger Bartra. Acta sociológica, 167171. Herranz, B. (2020, 16 de Julio). Novelas de ciencia ficción, mundos por descubrir. https:// blogs.comillas.edu/contigo/2020/07/16/novelas-de-ciencia-ficcion-mundospordescubrir/#:~: text=La%20ciencia%20ficci%C3%B3n%20no%20es,que%20cada%20viaje%20es%20irreversible. Londoño-Proaño, C. (2020). Entre la Ciencia Ficción y la Fantasía. REDA+. Londoño-Proaño, C. (2023). How science fiction inspired advances in engineering. IEEE. LondoñoProaño, C. (2023, 7 de abril).!La ciencia ficción y la inteligencia artificial: chateando con una inteligencia artificial. https://www.cristianlondonoproano.com/post/laciencia- ficcion-y-la-inteligencia-artificial Moreno, F. (2019). Androides deconstruidos: de ¿Sueñan los androides con ovejas eléctricas? a Blade Runner. Revista Hélice, 16-58. Moreno, P. Á. (2008). La ficción proyectiva: propuesta para una delimitación del género de la ciencia ficción. En T. Pellisa, y P. Á. Moreno (Ed.), Ensayos sobre ciencia ficción y literatura fantástica. Universidad Carlos III. Nowotny, H. (2022). La fe en la inteligencia artificial: Los algortimos predictivos y el futuro de la humanidad. Galaxia Gutenberg. Petit, M. F., Solbes, J., y Torres, N. (2001). El cine de ciencia ficción para desarrollar cuestionessociocientíficas y el pensamiento crítico. Práxis y Saber. Santos González, M. J. (2017). Regulación legal de la robótica y la inteligencia artificial: retos del futuro. Revista Jurídica de la Universidad de León, 25-50. Siemens, G. (2004).!Conectivismo: una teoría de aprendizaje para la era digital.!International Journal of Instructional Technology and Distance Learning, 2(10). Tobón, S. (2019). Análisis de la Pertinencia de Algunos Enfoques y Pedagógicos para la Sociedad del Conocimiento. Human Development and Socioformation, 1-2 Vásquez-Urosa, C. (2022). Las leyes de la robótica como alternativa a la regulación de los robots. Revista Justicia y Derecho, 1-11.