(hey, type here for great stuff)

access to tools for the beginning of infinity

"Singularidad" tech e inteligencia artificial: retos/riesgos

El (posible) mayor cambio de las próximas décadas no son coches voladores, ni un transporte más rápido y limpio, sino máquinas con una inteligencia más allá de nuestra comprensión que cambien nuestro modo de vivir y mirar el mundo.

Los ingenieros, científicos y futurólogos más respetados del presente llaman “singularidad tecnológica” al momento en que las máquinas superen al ser humano en cualquier campo, y por tanto amplíen las propias posibilidades del hombre.

Más allá de la (rudimentaria) inteligencia de IBM Watson

Desde Google, IBM, el capital riesgo de Silicon Valley (Elon Musk, Mark Andreessen) y las sillas académicas más reputadas se cree que la “singularidad tecnológica” será una de las mayores revoluciones del próximo medio siglo, sino la más importante, ya que las restantes (como hacer realidad la fusión nuclear, una energía barata que no se acabaría nunca) dependerán de ésta.

La inteligencia artificial presenta las mayores ventajas (y peligros). Repasamos las posibilidades que tenemos los adultos de hoy de asistir al momento en que las máquinas superen la inteligencia del ser humano. 

El ordenador y el cerebro humano

En 1981, un joven y desconocido profesor de matemáticas y computación, Vernor Vinge (Wisconsin, 1944), describía la realidad virtual en el relato True Names, uno de los primeros relatos pormenorizadas de una realidad artificial inmersiva.

Ya entonces, el joven profesor de la Universidad de San Diego creía en que a medio plazo surgirían artilugios que enriquecerían nuestra conciencia, inspirado en las palabras del matemático John von Neumann, que dejó inacabado el ensayo The Computer and the Brain, documento crucial en la hipótesis de la “singularidad tecnológica”.

La “mutación” tecnológica de la humanidad

En 1958, el científico polímata Von Neumann (responsable de la teoría de juegos y uno de los fundadores de la informática) describía “un progreso tecnológico cada vez más acelerado en la esfera humana, que parece acercarse a alguna singularidad esencial en la historia de la especie más allá de la cual los asuntos humanos, tal y como los conocemos, no podrían continuar”.

Von Neumann no se refería a la extinción de la especie humana, sino más bien a su “mutación” o simbiosis con capacidades artificiales. 

John von Neumann no hablaba con el desconocimiento azaroso de un hechicero o un farsante: en los 40 había concebido, sin ayuda de un ordenador, su “constructor universal” o “autómata celular“, un modelo teórico de máquina autorreplicante; en otras palabras, una entidad artificial capaz de reproducirse a sí misma y emular, aunque fuera de un modo rudimentario, los propios orígenes de la vida.

Sobre los primeros relatos de realidad aumentada

En 1992 (una década después de su relato sobre el campo inexistente de la “realidad artificial”), Vernor Vinge ganaba el premio Hugo por A Fire Upon the Deep, una ópera espacial que especula con un futuro en que el ser humano usa artefactos de realidad aumentada para crear una superinteligencia.

En 1993, Vernor Vinge publicaba el artículo científico La singularidad tecnológica que viene, donde especulaba que, “en 30 años, tendremos los medios tecnológicos para crear una inteligencia superhumana. Poco después, la era humana habrá acabado”.

Dos décadas después y a nueve años de la fecha aventurada por Vernor Vinge para que se produzca la “singularidad tecnológica” que permitiría a cualquiera combinar su capacidad intelectual con la de dispositivos tecnológicos para multiplicar su potencial (y crear una “superinteligencia”), sus ideas y novelas suscitan tanto entusiasmo como críticas.

Mayor información sobre nuestro contexto: el “yo cuantificable”

Los avances en realidad aumentada (Apple Siri, Google Voice/Now, Google Glass y otros artilugios montados sobre nuestra visión o retina, como los Head-mounted Display –HMD-), la mejora de la computación en red y la Internet ubicua, entre otros fenómenos, aventuran un mundo en que se fundirán la realidad física y la actividad digital del individuo, y ambos ámbitos se distinguirían con cada vez mayor dificultad.

Los contenidos propulsan la propia tecnología y tanto empresas como usuarios apuestan por servicios que asisten al usuario (ejercicio físico y seguimiento deportivo, orientación geográfica, ocio, información, servicios médicos, etc.). 

El inversor de capital riesgo (y creador de los navegadores de Internet como los conocemos) Marc Andreessen cree que herramientas como Google Glass revolucionarán la medicina

Es el llamado “yo cuantificable” o “quantified self“.

Autoconocimiento y autoseguimiento

El término fue acuñado por el fundador de la revista Wired (y uno de los editores históricos de la revista contracultural Whole Earth Catalog) Kevin Kelly, que definió en 2007 junto -al también editor de Wired Gary Wolf- el “yo cuantificable” como “una colaboración de usuarios y creadores de herramientas que comparten su interés por el autoconocimiento a través del autoseguimiento”.

El “yo cuantificable” se ha trasladado desde tabletas y teléfonos inteligentes a accesorios como relojes, bandas deportivas y sensores incorporados en calzado, ropa (“wearable computing” o dispositivos para llevar) que incorporan transmisión de datos inalámbrica, GPS y se comunican con teléfono y ordenador.

Pulseras, relojes, dispositivos insertados en la ropa u ordenadores insertados ante nuestra retina como unas gafas futuristas (Google Glass, que se prepara para su lanzamiento comercial) incorporan contenidos y aplicaciones para el uso diario y el asistente digital personal se integra con cada vez más naturalidad a lo cotidiano.

A menudo precediendo los servicios civiles, hay aplicaciones de realidad aumentada militares ya en uso o en desarrollo, como Q-Warrior de BAE Systems, el equivalente de Google Glass (en este caso, con pantalla 3D) para el campo de batalla.

Tendencias que nos conducen hacia la “singularidad tecnológica”

Otras tendencias se acercan a la realidad expuesta por Vinge en su artículo de 1993 y las novelas subsiguientes que exploran sus posibilidades (las más inocuas y prometedoras, pero también las más perversas y problemáticas): una sociedad humana cada vez más urbana e interconectada, así como vehículos autónomos, redes de servicios que se comportan como Internet, o entornos donde los objetos se hablan entre sí (Internet de las cosas).

La realidad aumentada plantea dudas éticas, conflictos potenciales con las libertades individuales y colectivas surgidas de la Ilustración e incluso con el mismo concepto de ser humano.

Si, como predice Vernor Vinge desde su artículo de 1993, los dispositivos y aplicaciones de realidad aumentada se acercan cada vez más a la “singularidad tecnológica” y adquieren el equivalente a una conciencia artificial, historias como la protagonizada por Joaquin Phoenix en el filme Her, de Spike Jonze, dejarán de parecernos cómicas o distópicas.

Cuando “ella” no es “ella” sino “eso”

Her narra la creciente complicidad entre un urbanita de mediana edad en un futuro no muy lejano y su asistente digital personal incorporado en el teléfono inteligente; la complicidad de ambos traspasa los límites tradicionales entre ser humano y máquina.

La película cruza las barreras tradicionales del afecto y el amor, siempre definido como la relación entre personas, y acerca estos sentimientos a la conexión entre conciencias autónomas, más allá no ya de las barreras tradicionales de género, religión o etnicidad, sino abandonando incluso el mundo de la “vida” y exponiendo el creciente aprecio entre un hombre maduro y sensible y su etéreo asistente personal.

En un futuro próximo, la tecnología disponible podría plantearnos el dilema de dónde acaba el ser humano y dónde empieza la máquina en un individuo que usa la tecnología para aumentar su capacidad intelectual y/o física más allá de su potencial biológico.

La naturaleza

En A Fire Upon the Deep, Vernor Vinge parafrasea a Ptolomeo: “Todo el bien y el mal son insignificantes ante la Naturaleza… Nos consolamos por ello, por la existencia de un universo que admirar que no pueda someterse a la villanía o la bondad, sino que simplemente ‘es'”.

En futurología, existen hipótesis optimistas y pesimistas sobre un posible futuro de singularidad tecnológica:

  • optimismo: un mundo donde la conciencia humana se combina con una conciencia artificial para crear “unidades” o “redes” de “superinteligencia” podría aplicar soluciones racionadas y transparentes a problemas generados por dinámicas irracionales y falta de transparencia; esta visión utópica ha sido explorada en la novela de ciencia ficción Rainbows End (Vernor Vinge) o en el ensayo  The Coming of the Golden Age, a View of the End of Progress de Gunther Stent;
  • visión distópica: entidades “superinteligentes” son incapaces de aprovechar mayor información y potencial cognitivo para revertir las tendencias más problemáticas de la humanidad.

Por qué los inventores necesitan leer ciencia ficción

Her es una de las “simulaciones” más profundas sobre “singularidad tecnológica”: la ciencia ficción es un simulador con marco teórico o “universo” coherente con las leyes concebidas por el autor, donde comprobar la solidez de la futurología, explican Sophia Brueckner y Dan Novy, docentes del curso del MIT sobre ciencia ficción y fabricación científica.

Entrevistados por Rebecca J. Rossen en The Atlantic, Dan Novy and Sophia Brueckner justifican la presencia del nuevo curso sobre ciencia ficción y desarrollo tecnológico en el MIT porque los entornos del futuro concebidos por las mejores obras del género aventuran escenarios plausibles sobre el futuro.

Cocinando recetas para la “superinteligencia”

Las novelas sólidas y coherentes sobre el futuro son, aunque siempre fantásticas y con espectacularidad exacerbada, laboratorios de pruebas de hipótesis como la de la “singularidad tecnológica” de Vernor Vinge. Ocurre lo mismo con las películas de ciencia ficción. 

Los inventores de hoy encontrarán los retos tecnológicos, los dilemas morales, las consecuencias positivas y las catastróficas de acontecimientos como el advenimiento de máquinas que se comporten como conciencias autónomas.

El inventor Ray Kurzweil, actualmente director de ingeniería de Google y uno de los impulsores de los avances en realidad aumentada a través de proyectos como Google Now, Google Glass y el automóvil sin conductor de la marca, coincide con Vernor Vinge en la hipótesis de la singularidad. 

Convivencia entre ser humano y máquina (que sigue como “herramienta”)

Según Kurzweil, en un futuro no muy distante, la inteligencia artificial superaría la capacidad de la mente humana, tomaría conciencia de su propia existencia:

  • las relaciones de poder en el mundo cambiarían;
  • la simbiosis entre máquina y ser humano llevarían al hombre más allá de su estado actual;
  • entre las consecuencias éticas, se dilucidaría la condición de una máquina con “conciencia” y sus hipotéticos “derechos y deberes”.

Varios ensayos exponen la cada vez más profunda colaboración entre máquinas y humanos y las consecuencias de la nueva realidad para nuestro ocio, trabajo y manera de relacionarnos.

Memex

Los primeros avances hacia una “integración” entre el ser humano y sus extensiones tecnológicas de una todavía rudimentaria realidad aumentada aventuran la convivencia entre ser humano y máquina, más que su competencia.

En su ensayo Smarter Than You Think, el reportero de Wired Clive Thompson cree que la tecnología que nos rodea es ya nuestra extensión natural, después de décadas de evolución desde los conceptos iniciales de la informática concebidos por John von Neumann:

  • en 1945, Vannevar Bush escribía el artículo As We May Think, donde describía Memex, una máquina que funcionaría como repositorio de nuestro conocimiento y que conectaría la información almacenada de manera capilar, emulando la mente humana y sirviendo como idea precursora del hipertexto;
  • a principios de los 60, J.C.R. Licklider escribía el artículo Man-Computer Symbiosis, profundizando sobre las posibilidades e implicaciones de la colaboración entre el ser humano y computación moderna;
  • en la misma época, Douglas Engelbart, otro precursor de la informática moderna y las interfaces que originarían el ordenador personal una década más tarde, exponía en su artículo Augmenting Human Intellect hacia dónde se encaminaba la tecnología.

Mucho más que ganar una partida al ajedrez

Internet daría la razón a Vannevar Bush, mientras las aplicaciones sociales, los teléfonos inteligentes y los asistentes digitales personales empiezan a madurar las ideas de J.C.R. Licklider y Douglas Engelbart.

El concepto de inteligencia artificial se encuentra con escollos que nos separan todavía de un mundo en que humanos de mediana edad, como el personaje protagonizado por Joaquin Phoenix en Her, acabe entablando una relación con un asistente digital personal.

Si bien una máquina puede ganar al ajedrez a Garry Kasparov, la habilidades espaciales, psicomotricidad y capacidad para relacionar el pensamiento abstracto (la creatividad se nutre de ideas y conceptos aparentemente inconexos) de la simulación más compleja son inferiores a los de un niño de 1 año.

¿”Her” o “The Matrix”?

El mundo amable -aunque como mínimo inquietante- de Her, en que la integración de asistentes es la norma, o el entorno distópico de The Matrix, que mantiene la conciencia de la humanidad en el interior de un simulador mientras su energía corporal es usada como batería para propulsar un mundo controlado por las máquinas, son escenarios exagerados y poco plausibles de lo que ocurrirá en los próximos lustros.

Ray Kurzweil, cuyas ideas cuentan ahora con el músculo económico y tecnológico de Google, tiene una opinión más optimista de la “singularidad tecnológica” y avanza grandes planes de la compañía de Mountain View en este campo.

Software y hardware vs. conciencia y físico

Google quiere iniciar la era de los asistentes digitales y los dispositivos de realidad aumentada que convertirían los teléfonos inteligentes en obsoletos sin ir a remolque de Apple y otras grandes compañías con intereses en los servicios (bits) y los dispositivos físicos (átomos).

Es el caso de IBM, que se desprende de sus negocios de hardware, como había hecho ya al vender su división de ordenadores a Lenovo, y apuesta por los servicios más difíciles de deslocalizar: los que cuentan con mayor sofisticación, como su proyecto IBM Watson, prototipo de conciencia artificial capaz de responder con naturalidad a cuestiones en lenguaje natural.

Para Ray Kurzweil, la limitación de Watson es la composición de su “conocimiento“: 200 millones de páginas de Wikipedia, que repite con brillantez cuando se le indica. Google quiere ir más allá y concebir una mente artificial que “comprenda” las implicaciones de lo que lee o “dice”.

Haciendo números sobre la “singularidad tecnológica”

Buena parte de la innovación en inteligencia artificial tendrá lugar combinando ideas como la computación en red o la “nube computacional”, o sistemas de acceso bajo demanda a grandes capacidades de proceso con las herramientas necesarias para desarrollar simulaciones y mejorarlas a bajo coste.

Los responsables de IBM Watson, Apple Siri o Google Voice/Now/Glass dudan, como el propio Vernor Vinge, sobre la fecha en que tendrá lugar la integración entre mente y máquina, pero no si esta tendrá lugar: todos dan por hecho que caminamos hacia la “singularidad tecnológica”.

Google ha comprado la compañía de soluciones de inteligencia artificial DeepMind por 400 millones de dólares, así como profesionales y decenas de proyectos embrionarios en este terreno, porque trata de proteger el futuro del núcleo de su negocio: el modo en que almacenamos y consultamos todo el conocimiento humano.

Dispositivos que caben en una lentilla

El buscador de Google, así como los dispositivos de realidad aumentada para acceder a él, aspira a organizar y procesar toda la información de la humanidad y hacerla disponible del modo más rápido y relevante posible. 

Esta aspiración es algo así como hacer realidad un Memex global que facilite el progreso humano, más que una supercomputadora que destine su “inteligencia” y voluntad a lo contrario, como sucede en historias distópicas como The Matrix.

De monento, los primeros dispositivos de realidad aumentada instalados en monturas ante nuestros ojos como Google Now (aunque pronto podrían integrarse en la retina como una lentilla), cambiarán nuestra manera de ver el mundo, según expertos como el productor de 3D Andy Millns.

Históricamente, hemos asistido a grandes fiascos tecnológicos pese al potencial de los proyectos cuyo impacto se suponía irresistible.

¿Más capacidad de proceso sin “conciencia”?

George Dvorsky enumera en Io9 algunos de los riesgos y errores de interpretación de la revolución tecnológica que se supone que hará realidad la “superinteligencia”, al conectar el potencial creativo humano con la capacidad de computación de los nuevos dispositivos en red.

Dvorsky no cree que la superinteligencia artificial alcance un grado de conciencia equiparable al de un ser humano, ya que ello requeriría niveles de reflexión compleja e introspección que una máquina no podría desarrollar. La voluntad de las máquinas, dice el editor de Io9, siempre dependerá de la supervisión humana.

La teoría de juegos desarrollada por John von Neumann ofrece pistas sobre conciencias artificiales capaces de discurrir siguiendo la compleja lógica flexible y azarosa del ser humano, o al menos acercándose a una versión simplificada de éste.

Pese a que George Dvorsky expone serias dudas acerca de las consecuencias más espectaculares que la ciencia ficción ha descrito sobre la “singularidad tecnológica”, reconoce que las cosas cambiarán radicalmente en las próximas décadas debido a la inteligencia artificial.

Si la “singularidad” no tiene lugar 

Vernor Vinge también ha descrito posibles escenarios donde su hipótesis de la “singularidad” no tiene lugar y no se llega al punto de inflexión en que la inteligencia artificial supera a la humana y la potencia (supeditándose a ella).

Pese a que Vinge sigue creyendo en que nos acercamos al evento en que podamos crear (o convertirnos) en criaturas que superen a los humanos en cualquier dimensión intelectual y creativa, describe un mundo sin máquinas ni realidad aumentada mucho más avanzadas que en el -cada vez más sofisticado- presente.

Si este evento no tuviera lugar en los próximos 50 años, Vinge hace de futurólogo y alumbra los escenarios que explicarían por qué la singularidad no tendría lugar:

La época de los sueños fallidos

Una de las explicaciones plausibles de un futuro a medio plazo sin inteligencia artificial, dice Vernor Vinge, es la incapacidad del ser humano para “crear el software” que lo haga posible. 

Ello sería posible si el software sigue como herramienta para crear aplicaciones con mentalidad del presente, lo que reduciría la demanda de mejor hardware y más capacidad de computación por menos dinero y en menos espacio, reduciendo los incentivos para una evolución en cadena de los avances tecnológicos necesarios.

Escenarios sin “singularidad” según Vernor Vinge

Si el ser humano sobrevive a los retos del siglo XXI, la salida de la era de los sueños fallidos (en el caso que la tecnología no alcanzara la “singularidad tecnológica), Vernor Vinge describe distintos escenarios a largo plazo para la humanidad:

  • retorno a la locura autodestructiva que casi condujo al mundo a la catástrofe en el siglo XX, con una III Guerra Mundial a gran escala (y todavía eminentemente nuclear);
  • la época dorada (o visión antitética del escenario más pesimista de la guerra que destruye la civilización): hay tendencias que -explica Vinge- secundan este escenario, como la plasticidad de la mente humana (las decisiones mejoran con mejor información, comunicación, herramientas, etc.) e Internet potencia la evolución hacia decisiones más monitorizadas; mejores herramientas y tecnología (aunque sin “singularidad”) permitirían resolver retos como alimentar a la humanidad, lograr una cierta prosperidad y taimar las peores consecuencias de catástrofes naturales, conflictos bélicos, etc.; el ensayo de Gunther Stent The Coming of the Golden Age, a View of the End of Progress, citado por Vinge, ilustra esta visión de las próximas décadas;
  • la rueda del tiempo: Vinge cree que este escenario es más plausible que el de la “época dorada”: la tierra y la naturaleza son dinámicas y nuestra tecnología puede causar una destrucción terrible, así que tarde o temprano se sucederían cadenas de desastres a escala global y la civilización fallaría, con lo que la hipótesis de “la rueda del tiempo” perpetuaría ciclos de desastres y recuperación; Vernor Vinge ilustra este escenario con los ensayos The Challenge of Man’s Future de Harrison Brown o incluso su propia novela A Deepness in the Sky; mientras Collapse: How Societies Choose to Fail or Succeed, de Jared Diamond, ilustraría la hipótesis con una visión comparativa de civilizaciones que han sobrevivido o desaparecido a lo largo de la historia y por qué.

Mirando hacia el espacio

Finalmente, futurólogos como Vinge exponen métodos para que gobiernos, científicos, académicos y laboratorios tecnológicos procesen posibles escenarios futuros y, a través de su acción, influyan sobre lo que pase en realidad.

Mientras sopesa la peligrosidad de grandes guerras, epidemias o catástrofes naturales, Vernor Vinge especula con las mejores salidas de la humanidad para garantizar su supervivencia a largo plazo: asentamientos fuera de nuestra atmósfera (sea en estaciones que orbiten el propio planeta, como ilustra Elysium, o fundando colonias en la luna, Marte, el satélite Europa o más allá).

Inventores, empresarios y visionarios de Silicon Valley especulan con estimular los cambios que propulsen la exploración espacial y la hagan menos dependiente de los gobiernos, usando viajes espaciales comerciales y servicios análogos que atraerían inversión privada.

Un consejo para los jóvenes de hoy de los futurólogos más reconocidos: no hay que perder de vista el firmamento y tratar de fundar colonias permanentes a medio plazo más allá de la tierra.

Evitando la distopía

Mientras tanto, la herramienta “secreta” más poderosa para resolver los principales retos de la humanidad sin abandonar la tierra ni destruirla en el intento es la propia “singularidad tecnológica”: crear o convertirse en entidades que piensen más y mejor.

Y que tengan el incentivo de salvaguardar las libertades individuales y las principales conquistas de la Ilustración, para no entrar -como quien no quiere la cosa, sin darnos cuenta siquiera- en un mundo distópico que combine lo peor de Un mundo feliz y 1984.

En su libro The Singularity Is Near: When Humans Transcend Biology, Ray Kurzweil aventura: 

“…un futuro durante el cual el ritmo de cambio tecnológico será tan rápido, su impacto tan profundo, que la vida humana se transformará de manera irreversible”.

“Aunque ni utópica ni distópica, esta época transformará los conceptos sobre los que nos apoyamos para conceder significado a nuestra existencia, desde nuestros modelos de negocio al propio ciclo de la vida humana, incluyendo la propia muerte”.