La complejidad del desarrollo de la Inteligencia Artificial hoy ya resulta incomprensible para la mente humana
Agosto 2017. Ya es posible encontrarse con un titular como el siguiente: “Facebook desactiva una inteligencia artificial que ‘cobró vida propia’”[1]
Aunque la mayor parte de la población mundial viva al margen del minucioso proceso que permite llevar a cabo el desarrollo tecnológico de forma exponencial, que vive nuestra sociedad, todos somos receptores de sus efectos y consecuencias finales.
Sin ser la primera vez que esto ocurre, la inteligencia artificial, irónicamente producto de nuestro propio ingenio y competencia, vuelve a mostrarnos la superioridad de su alcance, dejando en evidencia nuestra vulnerabilidad hacia esta velocidad de cambio y perfeccionamiento por parte de las máquinas.
Esta vez, durante la investigación de un proyecto de Chatbots en el laboratorio de la Universidad Tecnológica de Georgia, financiado parcialmente por FAIR[2]
«Dos máquinas han desarrollado entre ellas, por iniciativa propia, un lenguaje, mucho más simple y eficaz para comunicarse, el cual no ha sido posible ser descifrado, y por tanto controlado, por los científicos.»
La capacidad de crear un idioma que escapa a nuestra comprensión, resalta un problema que ya está lejos de pertenecer al futuro: el descontrol que ésta nueva tecnología supone y podría suponer para el ser humano. Curiosamente, este comportamiento se identificó y comparó con la aparición de las jergas como ocurre entre las diferentes comunidades de nuestra especie, sólo que el dialecto establecido por los dos ordenadores evolucionaba a una velocidad sorprendente.
Es por esto que el equipo de investigación de inteligencia artificial decidió desconectarlas.
«Hasta la fecha, no se ha diseñado un ordenador que sea consciente de lo que está haciendo; pero, la mayor parte del tiempo, nosotros tampoco lo somos» – Marvin Minsky [3]
Durante los años 50, este matemático que acuñó el término ‘inteligencia artificial’ junto con el científico John McCarthy, se convirtió en un referente para los defensores del transhumanismo. Este movimiento filosófico e intelectual considera ésta tecnología una necesidad para lidiar con nuestra propia naturaleza y debilidades, potenciar nuestras capacidades e incluso llegar a alcanzar la inmortalidad. Es más, Marvin Minsky visualizaba el cerebro como una máquina, y por ende creía que sus funciones podrían ser reproducidas por ordenadores.
El miedo a lo desconocido
Hipótesis sobre los posibles escenarios que podrían resultar ya han dado riadas de tinta para la literatura y filmografía, además de impulsar movimientos en contra de estos avances, como puede ser la campaña de ‘Stop Killer Robots’ que pretende la prohibición de robots autónomos creados con la finalidad de matar[4]. A esto se suman las preocupaciones por nuestra seguridad de los científicos Elon Musk, Stephen Hawking, Steve Wozniak o Noam Chomsky entre otros.
Hasta ahora, la Inteligencia Artificial ha funcionado como una herramienta más a nuestro servicio. Por ejemplo, la Segunda Guerra Mundial se ganó en gran parte gracias al trabajo de Alan Turing, padre de la computación, con sus aportaciones al campo de la criptografía. También ha permitido lograr grandes hallazgos en el ámbito de la exploración espacial, donde el hombre no puede llegar, o en el campo de la ingeniería y medicina.
Y todo esto con una ventaja: su propia capacidad de aprendizaje y por tanto, de optimización.
Sin embargo, hoy su evolución plantea desafíos éticos, morales y legales.
«Si bien el desarrollo de la inteligencia artificial podría ser el evento más grande en la historia humana, por desgracia podría también ser el último» – Stephen Hawking [5]
Los avances en este campo científico han conducido a la creación de sistemas con total autonomía y capacidad de decisión, hoy ya en funcionamiento. Es aquí cuando los dilemas propios de la filosofía entran en juego. Suponiendo que aún retengamos cierto control en su programación, ¿qué enfoque ético sería el más correcto? Y cuando no lo retengamos, ¿en base a qué decidirán actuar?
Pero aún sin saber si en un futuro seremos capaces de intervenir y dirigir el comportamiento de estas máquinas, existe otro temor a corto plazo: quién controla el avance de ésta tecnología, y por consiguiente, con qué fines.
Es de extremada dificultad, aunque necesario, valorar y cuantificar que tanto nos aporta el desarrollo tecnológico en dicha dirección y que tanto nos limita y nos pone en riesgo como seres pensantes racionales.
Hallar un equilibrio entre la moral y la tecnología, las cuales hoy en día avanzan a ritmos muy distintos, se convierte por tanto en un primer paso imprescindible para reducir la incertidumbre de nuestro futuro.
«Es difícil saber a ciencia cierta si una máquina realmente “sabe”, “piensa”, etc., porque sigue siendo muy difícil definir estas cosas. Entendemos el proceso mental humano sólo un poco mejor de lo que un pez entiende el nadar.» – John McCarthy [6]
[1] Actualidad RT, 27 Julio 2017,
[2] Facebook Artificial Intelligence Researchers
[3] La Sociedad de la mente, 1987
[4] Compuesto por organizaciones no gubernamentales, se dirige a drones militares, armas autónomas letales, sistemas de armas sin suficiente control por parte de un humano…
[5] Entrevista con la BBC, 2014
[6] Conferencia de Darthmouth 1956, The Little thoughts of thinking mahcines