Qué es el Basilisco de Roko, el aterrador experimento mental que unió a Elon Musk y la cantante Grimes

Elon Musk y Grimes Derechos de autor de la imagen Getty
Image caption Elon Musk y Grimes han intercambiado mensajes por Twitter.

Estamos a punto de hablar del que ha sido llamado "el experimento mental más aterrador de todos los tiempos", así que comencemos con una historia de amor.

El pasado lunes en la tarde el multimillonario Elon Musk, creador de los autos eléctricos Tesla y de los cohetes espaciales SpaceX publicó un tuit que en español decía "Basilisco de Rococó", una variación del término "Basilisco de Roko", del que hablaremos más adelante.

Esa misma noche, Musk llegó a la gala del Met, un evento de moda que cada año reúne a celebridades en Nueva York, acompañado de la cantante canadiense Grimes, lo que para muchos fue la confirmación de que ambos están saliendo.

Según el portal Page Six, días antes de publicar su tuit, Musk se dio cuenta de que en un videoclip de 2015, Grimes ya había usado el personaje "Basilisco de Rococó" como una referencia al "Basilisco de Roko".

De acuerdo con el portal neoyorquino, al notar la coincidencia, Musk contactó a Grimes y ese fue el inicio de la amistad entre ambos.

Derechos de autor de la imagen Wikipedia
Image caption El basilisco es una furiosa criatura mitológica capaz de matar con la mirada.

"Grimes dijo que era la primera vez en tres años que alguien entendía el chiste", dice una fuente citada por Page Six.

Pero, ¿qué es el Basilisco de Roko y por qué llama la atención de Musk y Grimes?

Una máquina fuera de control

El Basilisco de Roko es un juego mental que se dio a conocer en 2010, cuando el usuario Roko escribió acerca de él en Less Wrong, un foro en línea dedicado a temas de filosofía y psicología con una visión futurista.

De manera general, el experimento plantea un escenario hipotético en el que el ser humano crea una poderosa máquina de inteligencia artificial, con el fin de que trabaje en busca del bienestar para toda la humanidad.

Hasta ahí todo bien.

Derechos de autor de la imagen YouTube
Image caption Grimes creó el personaje Basilisco Rococó para el video "Flesh without blood" (Carne sin sangre).

El problema surge cuando la máquina, que está programada para hacer el máximo bien posible, se da cuenta de que por más que se esfuerce, cualquiera de sus buenas acciones podría ser aún mejor.

Esa lógica de buscar infinitamente el bien, hace que la máquina, que solo sabe hacer el bien y aprende la manera de hacerlo cada vez mejor, entre en un bucle que la lleva a una decisión extrema, al menos desde el punto de vista de la moral humana.

La máquina se da cuenta de que para hacer un mayor bien debería haber existido desde mucho antes, para poder ayudar a las personas que sufrían antes de que ella existiera.

Así, en su desespero por hacer el bien, la máquina comienza a comportarse como un basilisco que mata a todas las personas que no trabajaron para haberla creado antes, pues eso le impide seguir aumentando su nivel de bondad.

Derechos de autor de la imagen Getty
Image caption El Basilisco de Roko plantea una distopía dominada por la inteligencia artificial.

La parte más aterradora es que quien se entera de la existencia del basilisco y no comienza a trabajar en su creación, inmediatamente se convierte en una de sus víctimas potenciales.

Por esa razón, el escritor David Auerbach llamó al Basilisco de Roko "el experimento mental más aterrador de todos los tiempos".

El periodista Dylan Love lo explica muy bien en un artículo en Business Insider:

"Más te vale que ayudes a los robots a hacer del mundo un lugar mejor, porque si los robots descubren que no ayudaste a hacer del mundo un lugar mejor, te matarán por impedirles que hagan del mundo un lugar mejor. Al impedirles que hagan del mundo un lugar mejor, ¡estás impidiendo que el mundo se convierta en un lugar mejor!".

Derechos de autor de la imagen Getty
Image caption El escritor David Auerbach llamó al Basílico de Roko "el experimento mental más aterrador de todos los tiempos".

Elon Musk, uno de los visionarios líderes en impulsar la inteligencia artificial, ha dicho que esta tecnología podría ser incluso más peligrosa que las armas nucleares.

Además, Musk es cofundador de OpenAI, una compañía dedicada a la investigación para "descubrir y promulgar el camino para una inteligencia artificial segura".

Por su parte, en una entrevista con el portal Fuse, Grimes decribió a su personaje de Basilisco Rococó como alguien que está "eternamente destinado a ser torturado por la inteligencia artificial".

Así pues, irónicamente la amistad de Musk y Grimes parece estar unida por un ejercicio mental apocalíptico.

Ahora puedes recibir notificaciones de BBC Mundo. Descarga la nueva versión de nuestra app y actívalas para no perderte nuestro mejor contenido.

Contenido relacionado