Desinteligencia artificial: hagamos que la IA entienda el mundo

Desinteligencia artificial: hagamos que la IA entienda el mundo

Isaac Asimov, el visionario

Este año 2020 se conmemora el centenario del nacimiento de dos de los grandes representantes de la ciencia ficción: Isaac Asimov y Ray Bradbury.

Isaac Asimov sería hoy un hombre centenario y, seguro, nos hubiera gustado que hubiera llegado a ser un hombre bicentenario, como el título de uno de sus famosos cuentos. Además de prolífico escritor, fue un gran divulgador científico y un visionario (la convivencia de los humanos y los robots, la alerta sobre el calentamiento global y la lucha por la igualdad de la mujer).

El término robótica se le atribuye a Asimov, quien acuñó en 1942 las famosas tres leyes de la robótica:

  1. Un robot no puede dañar a un ser humano o, por inacción, permitir que un ser humano sufra daño.
  2. Los robots deben obedecer las órdenes de un ser humano, siempre y cuando no se contradiga la primera ley.
  3. Un robot debe proteger su existencia, siempre y cuando no se contradigan las 2 primeras leyes.

Una cuarta ley, posteriormente redactada, es llamada la ley cero. Esta ley versa así:

      0. Un robot no puede dañar a la humanidad o, por inacción, permitir que la humanidad sufra daño.

Las leyes se implantan en el cerebro positrónico de los autómatas de manera que cualquier intento de rebeldía no solo produciría un daño definitivo en el cerebro del robot, sino que podría autodestruirse.

Asimov creo además otro brillante concepto ficticio: la técnica llamada psicohistoria que usa las matemáticas para predecir el comportamiento humano a gran escala. ¿Os suena esta capacidad? El Big Data se basa en enormes masas de datos, para predecir comportamientos.

Ray Bradbury, el poeta de la ciencia ficción

Ray Bradbury es considerado el poeta de la ciencia ficción y lo fantástico. Autor fecundo, como su colega Asimov, y preocupado por la supervivencia espiritual de la humanidad ante el materialismo de la sociedad, también incorporó al título de uno de sus libros la palabra hombre, “El hombre ilustrado”.

Hoy podríamos hablar sobre una de las predicciones de Bradbury en su novela de más éxito, Fahrenheit 451, en relación al auge de los “hechos alternativos” y la era de la “posverdad”. Pero, prefiero centrarme en la opinión del autor sobre los robots. Por cierto, y a título anecdótico, el famoso “error 451: la página web ha sido retirada por motivos legales”, se toma prestado de la citada novela.

El poeta respondió a un camarada británico en 1974 sobre el temor de este último a los robots. En la segunda postdata de la carta, Bradbury le dice, “No tengo miedo de los robots. Tengo miedo de las personas, personas, personas (…)”.

Podríamos considerar hoy muy simples las razones aportadas en la misiva, pero a mi juicio son del todo incuestionables. Bradbury preguntaba a su amigo si deberíamos destruir los libros porque algunos son horribles, a los automóviles porque algunos generan accidentes o los cines porque algunas películas son una porquería llena de mentiras. Concluía que amaba a los robots y que los usaría humanamente para enseñar lo que debería y no debería hacerse.

«No les tengo miedo a las máquinas. No creo que los robots se estén apoderando del mundo. Pienso que los hombres que juegan con juguetes lo han hecho. Y si no les quitamos los juguetes de las manos, somos unos tontos”

Quizás la sentencia que mejor define su postura fuera la publicada en 1976: “No les tengo miedo a las máquinas. No creo que los robots se estén apoderando del mundo. Pienso que los hombres que juegan con juguetes lo han hecho. Y si no les quitamos los juguetes de las manos, somos unos tontos”. Yo también tengo más miedo de las organizaciones que crean y usan la inteligencia artificial para sus, en muchos casos, discutidos fines.

Tenemos pues, a El hombre bicentenario, el científico, y a El hombre ilustrado, el fantasioso, como hombres contemporáneos. Si os estáis preguntando si se conocieron en la vida real, os diré que se vieron en unas cuantas ocasiones y que compartieron muchas cosas menos afecto.

Robot vs. inteligencia artificial

En este artículo, para simplificar, estoy equiparando el término robot al de inteligencia artificial (IA) y no creo que nadie dude hoy que convivimos con robots. Es cierto que no los llamamos así ya que tienen nombres propios: Siri, Cortana, Thermomix, Alexa, Roomba, Waymo…

Hay autores que manifiestan que, en este horizonte de impulso de la inteligencia artificial, hay dos peligros primordiales. El primero es que el llamado machine learning, o aprendizaje automático, se nos vaya de las manos y perdamos la capacidad de controlarla. El segundo, otra vuelta de tuerca, sería que esos robots fabriquen otros cuyo funcionamiento ni los especialistas fueran capaces de entender. Por lo que es crítico garantizar su desarrollo y su control.

No desconfío de que las empresas son conscientes de la importancia que la ciberseguridad y la protección de datos tienen en el mundo de la robótica. Seguro que trabajan en el principio de la seguridad y la privacidad desde el diseño y por defecto. Pero aun así…

El uso de la inteligencia artificial

Aun así, la inteligencia artificial no deja de ser una herramienta y como tal, se puede usar tanto para el bien como para el mal. Los fabricantes de ciberseguridad la utilizan para tratar de anticiparse a los ciberdelincuentes. Analizar y correlacionar multitud de información para automatizar respuestas ante un ciberataque y mitigar los efectos negativos de un posible incidente.

Por el contrario, los piratas informáticos la usan para sus maliciosos objetivos: redes de robots que simulan ser humanos, para saltarse los mecanismos que sirven, precisamente, para determinar cuándo un usuario es un humano o un programa informático; estas mismas redes usadas para realizar ataques de denegación de servicio; chatbots que nos engañan para suministrar más datos de los que deberíamos, etc.

Un de los intereses que podríamos tener hoy, sería confirmar que las personas que están desarrollando la inteligencia artificial están aplicando las leyes promulgadas por Asimov y otras incorporadas por autores posteriores. Es decir, si están teniendo en cuenta las preocupaciones que tuvieron estos visionarios frente al posible mal uso de la tecnología.

La IA en ciberseguridad

Jugando un poco (o mucho) con el concepto, podríamos especular que en la lucha contra los cibercriminales pudiéramos implantar estas regulaciones en el “cerebro” de nuestros equipos que, en muchos casos, son los equipos usados para cometer actos delictivos.

Los bots zombies de una red pararían automáticamente el ataque e incluso se inhabilitarían a sí mismos sin dudarlo a las ordenes de un ser humano. Esto evitaría el uso de robots en el campo de batalla digital en el que nos encontramos. También supondría que nuestros equipos dotados de inteligencia artificial a los que aplican estas leyes nunca se revelarían contra sus propietarios legales ya que velarían por la seguridad de sus dueños, por lo que tendríamos escudos frente a cualquier ataque de piratas informáticos. La suplantación de identidad, el phishing y otros tipos de engaño que podrían beneficiarse del uso de la IA no tendrían cabida. Además, esta “IA regulada” trataría de convencer a la “IA maliciosa” de que su comportamiento atenta contra los principios de su creación.

He investigado un poco y anticipándome a la pregunta, los expertos consideran que las inteligencias artificiales desarrolladas son aún muy simples para que puedan incluir estas leyes en sus cerebros o en sus operaciones. Pero todo se andará y aún estamos a tiempo de construir bien los cimientos e implantar la ética y la filosofía en la inteligencia artificial.

La regulación de la inteligencia artificial

Otra cuestión y no menos importante, sería conocer qué están haciendo a este respecto los Reguladores con mayúsculas, es decir, los Organismos Internacionales o, en nuestro caso concreto, la Unión Europea.  ¿Tiene sentido regular el mundo actual de la inteligencia artificial?

Creo, sinceramente, que no podemos ni debemos dejar que este mercado se autorregule. Parafraseando a Bradbury, las corporaciones que quieren apoderarse del mundo utilizando la inteligencia artificial lo están haciendo y la sociedad, lamentablemente, lo está consintiendo.

La situación actual va, irremediablemente, a retrasar la normativa, pero la Comisión Europea está trabajando en el marco jurídico que normalice la convivencia entre los humanos y la IA. Con la premisa de encontrar el equilibrio entre el desarrollo tecnológico y la protección de los derechos fundamentales, se regularán aspectos tales como la seguridad y la fiabilidad de los algoritmos o la utilización de técnicas invasivas como el reconocimiento facial.

La importancia de la tecnología

Durante este periodo de confinamiento nos hemos dado cuenta, si no lo habíamos hecho ya, de la importancia de la tecnología. Nos ha ayudado a adecuarnos en nuestras actuales condiciones extremas. El teletrabajo se ha convertido en una forma real de realizar nuestra tarea profesional y es impensable hoy no creer en su extensión y permanencia.

Cuando remita la pandemia deberemos asegurarnos de seguir invirtiendo en las infraestructuras que sostienen el ciberespacio y, por ende, en muchos de los servicios públicos esenciales o críticos. Pero, también, en la inteligencia artificial que permita protegernos de ciberataques que colapsen la única vía que nos ha permitido evitar el aislamiento o mantener cierta actividad económica.

Por otro lado, y no menos importante, hay que exigir a nuestros gobernantes que las regulaciones que afecten a este sector garanticen el respeto a la ética, la transparencia, la seguridad y la responsabilidad. Porque como ha dicho la propia presidenta de la Comisión Europea, Ursula Von der Leyen, “la tecnología es neutral y en lo que la convirtamos depende de nosotros”.

En cualquier caso, dentro de cien años espero que la onomástica que se conmemore sea también la de dos escritores consagrados y no la del maldito virus que hoy nos sobrecoge.

Hagamos que la inteligencia artificial nos entienda.

 

Santiago Arellano

0/5 (0 Reviews)
Facebooktwitterpinterestlinkedinby feather
/ Ciberseguridad, Sin categoría

Comments

Comentarios desactivados