El príncipe Harry y su esposa Meghan se han unido a destacados científicos informáticos, economistas, artistas, líderes cristianos evangélicos y comentaristas conservadores estadounidenses Steve Bannon y Glenn Beck para pedir la prohibición de la «superinteligencia» de IA que, según ellos, podría amenazar a la humanidad.
La carta, publicada el miércoles por un grupo de figuras públicas política y geográficamente diversas, está directamente dirigida a gigantes tecnológicos como Google, OpenAI y Meta Platforms que compiten entre sí para construir una forma de inteligencia artificial diseñada para superar a los humanos en muchas tareas.
La declaración de 30 palabras dice: «Pedimos que se levante la prohibición del desarrollo de la superinteligencia hasta que haya un amplio consenso científico de que se realizará de forma segura y controlada, y una fuerte aceptación pública».
En un preámbulo, la carta señala que las herramientas de IA pueden traer salud y prosperidad, pero junto con ellas, «muchas empresas líderes en IA tienen el objetivo declarado de desarrollar superinteligencia en la próxima década que pueda superar significativamente a todos los humanos en prácticamente todas las tareas cognitivas. Esto ha suscitado preocupaciones, que van desde la obsolescencia económica y el desempoderamiento humano, la pérdida de libertad, libertades civiles, dignidad y control, hasta riesgos para la seguridad nacional e incluso la posible extinción humana».
El príncipe Harry añadió en una nota personal que «el futuro de la IA debe servir a la humanidad, no reemplazarla. Creo que la verdadera prueba del progreso no será la velocidad con la que avancemos, sino la sabiduría con la que dirigimos. No hay una segunda oportunidad».
Junto al duque de Sussex firmó su esposa Meghan, la duquesa de Sussex.
«Esto no es una prohibición, ni siquiera una moratoria en el sentido habitual», escribió otro firmante, Stuart Russell, pionero de la IA y profesor de informática en la Universidad de California, Berkeley. «Es simplemente una propuesta para exigir medidas de seguridad adecuadas para una tecnología que, según sus desarrolladores, tiene una probabilidad significativa de causar la extinción humana. ¿Es demasiado pedir?»
También firmaron los pioneros de la IA Yoshua Bengio y Geoffrey Hinton, coganadores del Premio Turing, el máximo galardón de la informática. Hinton también ganó el Premio Nobel de Física el año pasado. Ambos han denunciado abiertamente los peligros de una tecnología que ayudaron a crear.
Pero la lista también tiene algunas sorpresas, incluyendo a Bannon y Beck, en un intento de los organizadores de la carta en el Future of Life Institute, una organización sin fines de lucro , de apelar al movimiento Make America Great Again del presidente Trump, incluso cuando el personal de la Casa Blanca de Trump ha buscado reducir los límites al desarrollo de IA en los EE. UU.
En la lista también figuran el cofundador de Apple, Steve Wozniak; el multimillonario británico Richard Branson; el ex presidente del Estado Mayor Conjunto de Estados Unidos Mike Mullen, que sirvió bajo administraciones republicanas y demócratas; y la experta en política exterior demócrata Susan Rice, que fue asesora de seguridad nacional del presidente Barack Obama.
La ex presidenta irlandesa Mary Robinson y varios parlamentarios británicos y europeos firmaron, al igual que los actores Stephen Fry y Joseph Gordon-Levitt, y el músico will.i.am, quien por lo demás ha adoptado la IA en la creación musical.
Se recomienda precaución
«Sí, queremos herramientas de IA específicas que puedan ayudar a curar enfermedades, fortalecer la seguridad nacional, etc.», escribió Gordon-Levitt, cuya esposa, Tasha McCauley, formó parte de la junta directiva de OpenAI antes de la conmoción que llevó a la destitución temporal del director ejecutivo, Sam Altman, en 2023. «¿Pero acaso la IA también necesita imitar a los humanos, educar a nuestros hijos, convertirnos a todos en adictos a la comida chatarra y ganar millones de dólares publicando anuncios? La mayoría de la gente no quiere eso.»
Es probable que la carta provoque debates en curso entre la comunidad de investigación de IA sobre la probabilidad de una IA sobrehumana, los caminos técnicos para llegar a ella y lo peligrosa que podría ser.
«En el pasado, la lucha se ha centrado principalmente en los nerds contra los nerds», dijo Max Tegmark, presidente del Future of Life Institute y profesor del Instituto Tecnológico de Massachusetts (MIT). «Creo que lo que realmente estamos viendo aquí es cómo la crítica se ha generalizado».
El etiquetado complica el discurso
Lo que confunde los debates más amplios es que las mismas empresas que se esfuerzan por lograr lo que algunos llaman superinteligencia y otros inteligencia artificial general (IAG), a veces también inflan las capacidades de sus productos, lo que puede hacerlos más comercializables y ha contribuido a la preocupación por una burbuja de la IA . OpenAI fue recientemente ridiculizada por matemáticos y científicos de IA cuando su investigador afirmó que ChatGPT había resuelto problemas matemáticos sin resolver, cuando en realidad lo que hizo fue encontrar y resumir lo que ya estaba en línea.
«Hay un montón de cosas que están sobrevaloradas y hay que tener cuidado como inversor, pero eso no cambia el hecho de que, en perspectiva, la IA ha avanzado mucho más rápido en los últimos cuatro años de lo que la mayoría de la gente predijo», dijo Tegmark.
El grupo de Tegmark también impulsó una carta de marzo de 2023 —aún en pleno auge comercial de la IA— que instaba a los gigantes tecnológicos a pausar temporalmente el desarrollo de modelos de IA más potentes. Ninguna de las principales empresas de IA atendió a esa petición. Y el firmante más destacado de la carta de 2023, Elon Musk, estaba al mismo tiempo fundando discretamente su propia startup de IA para competir con aquellas que él quería que se tomaran una pausa de seis meses.
Cuando se le preguntó si se comunicó con Musk nuevamente esta vez, Tegmark dijo que escribió a los directores ejecutivos de todos los principales desarrolladores de inteligencia artificial en los EE. UU., pero que no esperaba que firmaran.
«Sinceramente, los comprendo mucho, porque están tan atrapados en esta carrera hacia el abismo que sienten una presión irresistible para seguir adelante y no dejarse superar por el otro», dijo Tegmark. «Creo que por eso es tan importante estigmatizar la carrera hacia la superinteligencia, hasta el punto de que el gobierno estadounidense simplemente intervenga».