LAS PEORES MENTIRAS QUE SE HAN DICHO SOBRE LA SINGULARIDAD

singularityUsted probablemente ha oído hablar de un concepto conocido como la Singularidad Tecnológica, -un nebuloso evento que se supone ocurrirá en un futuro no muy lejano. Gran parte de la incertidumbre que rodea a esta posibilidad, sin embargo, ha llevado a la especulación salvaje, confusión y negación absoluta. Estos son los peores mitos que le han dicho acerca de la Singularidad.

En pocas palabras, la Singularidad Tecnológica es un término usado para describir el momento teórico en el tiempo cuando prenda la inteligencia artificial y luego supere a la inteligencia humana. El término fue popularizado por el escritor de ciencia ficción Vernor Vinge, pero todo el crédito recae sobre el matemático John von Neumann, quien habló de un [en palabras de Stanislaw Ulam] “cada vez más acelerado progreso de la tecnología y los cambios en el modo de la vida humana, que da lugar a la aparición inminente de alguna singularidad esencial en la historia de la raza más allá del cual los asuntos humanos, tal como los conocemos, no podría continuar”.

Por “no continuar” von Neumann se refería a la posibilidad de que la humanidad pierda el control y caiga fuera del contexto de sus tecnologías. Hoy en día, esta tecnología se supone que es la inteligencia artificial, o más exactamente, la mejora recursiva de la inteligencia artificial (MRIA), que conduce a una super-inteligencia artificial (SIA).

Ya que no podemos predecir la naturaleza y las intenciones de una superinteligencia artificial, hemos convenido en referirnos a este futuro evento sociológico como la Singularidad Tecnológica, un concepto que está abierto a una amplia interpretación, y como consecuencia, a gruesos desconocimientos. Estos son los peores:

“La Singularidad no sucederá”

Bueno, yo no apostaría en contra de ella. La embestida de la Ley de Moore parece estar sin obstáculos , mientras que los avances en el cartografiado del cerebro y la inteligencia artificial continúan a buen ritmo. No nos aguardan obstáculos conceptuales y tecnológicos insuperables.

Y lo que la mayoría de los escépticos de SIA no entienden es que todavía no hemos ni siquiera entrado en la era de la IA, un momento en que poderosos, -pero estrechos-, sistemas incorporen muchos dominios actualmente ocupados por los seres humanos. Habrá un tremendo incentivo para el desarrollo de estos sistemas, tanto para la economía y la seguridad. Finalmente aparecerá una Superinteligencia, lo más probable producto de las megacorporaciones y los militares.

Este mito puede ser en realidad el peor de todos, algo a lo que me he referido como Negacionismo de la Singularidad. Aparte de la nanotecnología molecular usada tal vez como arma, SIA representa la mayor amenaza para la humanidad. Esta amenaza existencial no ha alcanzado el zeitgeist o espíritu de la época, pero finalmente lo hará, probablemente después de nuestra primera catástrofe IA. Y recuerden mis palabras, llegará un día en que esta perniciosa y babeante retórica de friquis será igual, si no peor, que lo que la negación del cambio climático es hoy.

“La SuperInteligencia Artificial será consciente”

No. La SIA probablemente no será consciente. Necesitamos ver a esos sistemas, de los cuales habrá muchos tipos, como las versiones tuneadas en marcha de Watson de IBM o Deep Blue. Van a trabajar a una velocidad increíble, serán alimentados por procesadores y algoritmos increíblemente poderosos, pero no habrá nadie en casa.

Para ser justos, existe la posibilidad de que una SIA pudiera ser diseñada para ser consciente. Incluso se podría rediseñar para ser consciente de sí misma. Pero si esto sucede, todavía representaría un espacio mental muy diferente de todo lo que conocemos. La experiencia subjetiva de una mente máquina apenas se parecería a la nuestra.

Como acotación al margen, este concepto erróneo puede estar vinculado al primero. Algunos escépticos argumentan que no habrá Singularidad porque nunca vamos a ser capaces de imitar las complejidades de la conciencia humana. Pero es una objeción que es completamente irrelevante. Una SIA será potente, sofisticada y peligrosa, pero no porque sea consciente.

“Una SuperInteligencia Artificial tiene que ser amistosa”

Hay un meme entre algunos singularistas que dice así: a medida que aumenta la inteligencia, lo mismo ocurre con la empatía y la benevolencia. De acuerdo con este pensamiento, como las inteligencias artificiales serán más y más inteligentes, esperaríamos verlos a ellas más y más amistosas.

Lamentablemente, este no será el caso. En primer lugar, este razonamiento implica (1) un cierto nivel de autoreflexión e introspección por parte de la SIA (que no es en absoluto un hecho), y (2) una función de utilidad o imperativo ético que esté estrechamente alineada con la nuestra. Sobre este último punto, no podemos predecir o conocer las cavilaciones de una mente máquina completamente ajena, -que está distanciada de la nuestra varios órdenes de magnitud más allá-, o lo que iba a encontrar moralmente valioso o no. Por otra parte, si está programado con un conjunto de objetivos que son inalterables, serán siempre prioritarios aquellos parámetros iniciales más allá de cualquier otra cosa, como lo ilustra el infame escenario pisapapeles. Como ha dicho el teórico de IA Eliezer Yudkowsky, “La IA no te odia, ni te ama, pero estás hecho de átomos que se pueden utilizar para otra cosa.”

“La aceleración del cambio es la Singularidad”

Desde que el término se hizo popular, se nos ha dicho que habrá que esperar varios tipos diferentes de Singularidades, algunos de los cuales ni siquiera tienen nada que ver con la SIA. Nos han dicho que se espera una singularidad económica o hasta una singularidad de las cuchillas de afeitar. Algunos incluso han equiparado (o fusionado) la Singularidad con la extensión radical de vida, la transferencia mental, la inteligencia transhumana, y la fusión de los seres humanos con las máquinas (más sobre esto a continuación). Los seguidores de Kurzweil son particularmente culpables de esto, a menudo equiparan la Singularidad con el constante crecimiento acelerado de todas las tecnologías, incluida la IA. Una perspectiva que en gran medida no tiene en cuenta una explosión de inteligencia incontrolable.

“Los seres humanos se fusionarán con las máquinas”

Algunos dicen que no es necesario preocuparse por la Singularidad, porque sólo tendremos que dejarnos llevar. En el momento en que la Singularidad llegue, señala este argumento, vamos a estar tan estrechamente integrados con nuestras máquinas que seremos todo en uno. ¡Será una singularidad para todos!

El primer problema con esta teoría es que ciborgización y/o transferencia  humana sucederán a un ritmo mucho más lento que los avances en la IA (sobre todo por razones éticas). El segundo problema es que la fuente inmediata de una MRIA será muy localizada. Será un sistema (o sistemas múltiples que trabajan en conjunto para aprovechar los efectos sinérgicos y/o estrategias de teoría de juegos diseñados para asegurar la futura libertad de acción) que de repente se apaga la parte más profunda, mejorando iterativamente sobre sí misma, ya que funciona para alcanzar un determinado objetivo o configuración (el llamado “despegue duro” de la Singularidad). En otras palabras, vamos a ser testigos de la Singularidad.

Claro, una SIA puede decidir la fusión de sí misma con tantos seres humanos como sea posible, pero eso tiene unas connotaciones más bien distópicas para ello.

“Seremos como dioses”

Si sobrevivimos a la Singularidad, y suponiendo que todavía haya un lugar para nosotros en un mundo regido por la máquina, completamente rediseñado, podremos tener colectivamente poderes sin precedentes. Podríamos ser capaces de ejercer estos dones “divinos” como una mente colmena . Pero como individuos, no tanto. El jurado aún está deliberando sobre la cantidad de inteligencia que una sola mente puede manejar. Refiriéndose al radical aumento de inteligencia (IA) para los seres humanos, el futurista Michael Anissimov ha dicho,

“Uno de los efectos secundarios más destacados sería locura. El cerebro humano es una máquina muy afinada y calibrada. La mayoría de las perturbaciones que sufre esta afinación se califican como lo que podríamos considerar “demencias”. Hay muchos tipos diferentes de locura, mucho más que los que hay para la cordura. Desde dentro, la locura parece perfectamente sana, por lo que probablemente tendría muchos problemas para convencer a estas personas que ellos están locos.

Incluso en el caso de la cordura perfecta, los efectos secundarios pueden incluir convulsiones, la sobrecarga de información y, posiblemente, los sentimientos de egolatría o la alienación extrema. Las personas inteligentes tienden a sentirse comparativamente más alienadas en el mundo, y para un ser más inteligente que todos, el efecto sería muy amplificado.”

“Las cosas no van a cambiar de manera radical después de la Singularidad”

No lo creo. Piense en la singularidad tecnológica como un botón de reinicio completo en prácticamente todo, sobre todo y cada molécula en la Tierra. Mientras las leyes de la física y la computación teórica lo permitan, una mente máquina furtiva podría hacer que algo suceda. Lo que habrá más allá de la Singularidad no lo podemos ni imaginar, un enigma que podría estorbar a la ciencia ficción.

GEORGE DVORSKY              io9

[Traducido por JUAN PEDRO MOSCARDÓ para LIBERTALIADEHATALI]

libertalia1

Anuncios

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión / Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión / Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión / Cambiar )

Google+ photo

Estás comentando usando tu cuenta de Google+. Cerrar sesión / Cambiar )

Conectando a %s