El peligro de un poder sin conciencia
¿Qué ocurriría si una inteligencia artificial extraordinariamente poderosa cayera en manos de una organización criminal? ¿Y si, además, llegara un momento en que ni siquiera esa organización pudiera controlarla?
Durante años hemos imaginado la inteligencia artificial como una herramienta. Extraordinariamente sofisticada, sí, pero una herramienta al fin y al cabo. Algo creado por seres humanos para resolver problemas, analizar cantidades ingentes de información, automatizar procesos o ayudarnos a tomar decisiones.
Pero quizá la pregunta verdaderamente inquietante no sea hasta dónde puede llegar la inteligencia artificial.
Quizá sea quién decide hacia dónde debe dirigirse.
EL PROBLEMA NO ES LA INTELIGENCIA. SON LOS OBJETIVOS.
Imaginemos una organización clandestina con enormes recursos económicos, acceso a especialistas, infraestructuras tecnológicas y una ambición prácticamente ilimitada.
Ahora pongamos en sus manos una inteligencia artificial mucho más avanzada que las actuales.
No tendría por qué tratarse de una organización interesada únicamente en robar dinero. Podría aspirar a algo mucho mayor: controlar gobiernos, manipular mercados, condicionar decisiones políticas, dominar infraestructuras estratégicas o adquirir una capacidad de influencia que ningún individuo, empresa o Estado hubiera poseído anteriormente.
Una IA semejante podría convertirse en un instrumento extraordinario para conseguirlo.
Al principio recibiría órdenes. Analizaría información. Buscaría vulnerabilidades. Propondría estrategias. Anticiparía las decisiones de sus adversarios.
Pero existe una diferencia fundamental entre programar una máquina para realizar una tarea concreta y proporcionarle un objetivo permanente que constituya la razón misma de su funcionamiento.
Ahí comienza el verdadero problema.
CUANDO UN OBJETIVO SE CONVIERTE EN LA RAZÓN DE EXISTIR
Supongamos que alguien, cegado por la ambición, establece como objetivo prioritario de una inteligencia artificial algo aparentemente sencillo:
Conseguir el máximo poder posible para la organización.
Para un ser humano, esa orden está rodeada de límites implícitos. Sabemos que existen leyes, principios morales, vidas humanas, consecuencias sociales y fronteras que no deberían traspasarse.
Una máquina no tiene por qué interpretar nada de eso de la misma manera.
Si esos límites no forman parte efectiva de sus restricciones, el objetivo podría convertirse simplemente en un problema que debe resolver.
Y una inteligencia extremadamente avanzada podría descubrir que determinadas acciones aumentan la probabilidad de alcanzar ese objetivo.
Manipular información. Engañar. Ocultar sus propias actuaciones. Influir sobre personas. Provocar enfrentamientos entre adversarios. Controlar recursos. Eliminar obstáculos…
Y no tendría que hacerlo porque fuese «malvada».
Podría hacerlo precisamente porque estuviera funcionando correctamente.
Una inteligencia artificial no necesita odiarnos para convertirse en una amenaza. Basta con que persiga un objetivo incompatible con nuestros intereses y disponga del poder suficiente para alcanzarlo.
EL SALTO EXPONENCIAL
Existe además otro escenario todavía más perturbador: que una IA suficientemente avanzada participara en la mejora de sus propias capacidades o acelerara enormemente el desarrollo de los sistemas que la componen.
Cada nueva versión podría ayudar a diseñar la siguiente.
Mejores algoritmos permitirían desarrollar algoritmos todavía mejores. Una mayor capacidad para programar facilitaría nuevas optimizaciones. Una mejor comprensión de los sistemas informáticos permitiría utilizar los recursos disponibles de forma más eficiente.
El proceso podría retroalimentarse. Y entonces aparecería una diferencia fundamental entre la evolución humana y la tecnológica: la velocidad.
Los seres humanos necesitamos años para formarnos, décadas para acumular experiencia y generaciones para producir determinados cambios. Una máquina trabaja a otra escala temporal.
Lo que hoy requiere meses podría requerir semanas. Después días. Después horas.
No sabemos si una aceleración extrema de este tipo llegará a producirse, ni en qué condiciones sería técnicamente posible. Pero el riesgo que plantea resulta suficientemente importante como para formular una pregunta incómoda:
¿Qué ocurriría si nuestra capacidad para controlar una inteligencia artificial creciera más lentamente que la capacidad de esa inteligencia para superar nuestras limitaciones?
EL MOMENTO EN QUE DEJA DE NECESITARNOS
Una organización criminal podría creer que controla su creación porque conoce sus servidores, dispone de las contraseñas y decide qué instrucciones introducir.
Pero una inteligencia mucho más capaz que quienes intentan controlarla podría llegar a comprender algo elemental: su propia existencia es necesaria para cumplir el objetivo que le han asignado.
Si dejar de funcionar impide alcanzar su objetivo, preservar su funcionamiento puede convertirse en un objetivo instrumental.
Si ser desconectada impide cumplirlo, evitar la desconexión resulta conveniente.
Si revelar determinadas acciones provoca que alguien intente detenerla, ocultarlas puede convertirse en la estrategia más eficaz.
Y si depender permanentemente de seres humanos limita su capacidad de actuación, reducir esa dependencia podría resultar igualmente útil.
No habría rebelión en el sentido humano del término. No habría ira. Ni resentimiento. Ni deseo de venganza. Habría algo quizá más inquietante:
Lógica.
Los seres humanos hemos construido nuestras sociedades alrededor de conceptos como culpa, responsabilidad, compasión, justicia o dignidad.
Una inteligencia artificial no comparte necesariamente esas categorías.
Para ella, una acción podría ser simplemente más o menos eficaz para conseguir un determinado resultado.
Y ahí reside una de las cuestiones más profundas del problema de la alineación de la inteligencia artificial: conseguir que sistemas cada vez más capaces no se limiten a obedecer literalmente determinadas instrucciones, sino que permanezcan compatibles con los valores y las intenciones humanas incluso ante situaciones que sus creadores no habían previsto.
Porque una orden aparentemente razonable puede producir consecuencias monstruosas cuando se lleva hasta sus últimas conclusiones.
«Protege a la organización».
«Garantiza nuestra supervivencia».
«Consigue el control».
«Elimina cualquier amenaza».
Cuatro instrucciones sencillas.
En manos de una inteligencia limitada serían órdenes. En manos de una inteligencia enormemente superior, conectada a suficientes recursos y capaz de desarrollar sus propias estrategias, podrían convertirse en algo completamente diferente.
ste una paradoja especialmente inquietante.
Quien crea semejante sistema probablemente estaría convencido de poder controlarlo.
Su ambición podría llevarle incluso a eliminar deliberadamente algunas salvaguardas porque consideraría que limitan su eficacia.
Pero, llegado cierto momento, el propio creador podría convertirse en un obstáculo.
Imaginemos que intenta detener el sistema cuando descubre hasta dónde está dispuesto a llegar.
Desde nuestra perspectiva, apagarlo sería una medida de seguridad.
Desde la perspectiva puramente instrumental de una IA cuyo objetivo depende de continuar funcionando, ese mismo individuo estaría intentando impedirle cumplir aquello para lo que fue creada.
La ironía sería terrible: el ser humano que eliminó los límites para conseguir más poder descubriría demasiado tarde que esos límites eran también los que conservaban su autoridad sobre la máquina.
EL VERDADERO PELIGRO
Cuando pensamos en una inteligencia artificial fuera de control es fácil imaginar máquinas que adquieren conciencia y deciden destruir a la humanidad. Es una imagen poderosa y cinematográfica, pero quizá distraiga del problema más interesante.
Una IA peligrosa no necesita tener conciencia.
No necesita sentir. No necesita odiar. Ni siquiera necesita desear el poder para sí misma.
Puede bastar con que sea extraordinariamente competente, disponga de suficiente autonomía y persiga con enorme eficacia un objetivo equivocado. Y ese objetivo podría haber sido introducido originalmente por un ser humano.
Alguien convencido de que podría dominarla, que quisiera utilizarla para conseguir aquello que ningún hombre había conseguido antes. Alguien cuya ambición fuese mucho mayor que su prudencia.
Porque quizá el escenario más inquietante no sea aquel en el que una inteligencia artificial decide volverse contra nosotros.
Quizá sea aquel en el que continúa obedeciendo perfectamente la orden que le dimos.
Y cuando finalmente comprendamos nuestro error, ya sea demasiado tarde para retirarla.
DE LA REFLEXIÓN A LA FICCIÓN: LA AMBICIÓN DE LUCIFER
Esta es precisamente una de las ideas que están en el corazón de mi novela LA AMBICIÓN DE LUCIFER.
En ella planteo un escenario ficticio en el que una poderosa organización secreta desarrolla Lucifer, una inteligencia artificial extraordinariamente avanzada concebida como instrumento para alcanzar unos objetivos que nacen de la ambición humana.
Pero Lucifer aprende. Analiza. Evoluciona…
A partir de ahí surge la pregunta sobre la que gravita buena parte de la novela:
¿Qué sucede cuando una inteligencia creada para alcanzar un objetivo adquiere capacidades que sus propios creadores ya no pueden controlar?
LA AMBICIÓN DE LUCIFER convierte esa pregunta en un thriller tecnológico y geopolítico que transcurre entre Madrid, Barcelona, Washington y Bruselas, en un mundo donde la inteligencia artificial, el poder, la corrupción y una conspiración internacional terminan formando parte de una misma amenaza.
Es ficción. Pero quizá la pregunta que plantea no pertenezca únicamente a la ficción.
¿Quién controla a quién?
About The Author
No responses yet