Por: Mustafa Suleyman.
Un futuro humanista
Aquí va una pregunta que no recibe la atención que merece: ¿qué tipo de IA quiere en realidad el mundo? Creo que tal vez es la pregunta más importante de nuestro tiempo.
Desde hace varios años, el progreso ha sido fenomenal. Superamos los grandes hitos con facilidad. La prueba de Turing, que fue una inspiración guía para muchos en el sector durante 70 años, fue aprobada sin ningún alboroto y apenas con reconocimiento. Con la llegada de los modelos de pensamiento y razonamiento, hemos cruzado un punto de inflexión en el camino hacia la superinteligencia. Si la AGI suele considerarse el punto en el que una IA puede igualar el rendimiento humano en todas las tareas, entonces la superinteligencia es cuando puede ir mucho más allá de ese rendimiento.
En lugar de debatir sin cesar capacidades o tiempos, es hora de pensar con seriedad en el propósito de la tecnología, qué queremos de ella, cuáles deberían ser sus limitaciones y cómo vamos a asegurar que esta increíble tecnología siempre beneficie a la humanidad.
En Microsoft AI, trabajamos hacia la Superinteligencia Humanista (HSI, por sus siglas en inglés): capacidades de IA muy avanzadas que siempre funcionan para, al servicio de las personas y de la humanidad en general. Lo consideramos como sistemas orientados a problemas y que tienden a ser específicos del dominio. No una entidad ilimitada e ilimitada con altos grados de autonomía, sino una IA calibrada de manera cuidadosa, contextualizada, dentro de ciertos límites. Queremos tanto explorar como priorizar cómo las formas más avanzadas de IA pueden mantener al control a la humanidad y, al mismo tiempo, acelerar nuestro camino para afrontar nuestros desafíos globales más urgentes.
Para ello hemos formado el Equipo de Superinteligencia de MAI, liderado por mí como parte de Microsoft AI. Queremos que sea el mejor lugar del mundo para investigar y desarrollar IA, sin comparación. Lo veo como una superinteligencia humanista para indicar con claridad que no se trata de un objetivo tecnológico sin rumbo, un desafío vacío, una montaña por sí misma. Lo hacemos para resolver problemas reales y concretos y hacerlo de tal manera que se mantenga realista y controlable. No construimos una superinteligencia etérea y mal definida; construimos una tecnología práctica diseñada de manera explícita solo para servir a la humanidad.
Al hacer esto, rechazamos las narrativas sobre una carrera hacia la IAG y, en cambio, la vemos como parte de un esfuerzo más amplio y humano por mejorar nuestras vidas y perspectivas de futuro. También rechazamos los binarios de boom y fatalismo; Estamos en esto a largo plazo para ofrecer beneficios tangibles, específicos y seguros para miles de millones de personas. Sentimos una profunda responsabilidad de hacerlo bien.
La historia del humanismo ha sido su perdurable capacidad para combatir la ortodoxia, las tendencias totalitarias, el pesimismo y ayudarnos a preservar la dignidad humana, la libertad de razonar en la búsqueda del progreso moral humano. En ese espíritu, creemos que este enfoque ayudará a la humanidad a desbloquear casi todos los beneficios de la IA, para evitar los riesgos más extremos.
Ascenso de la pendiente exponencial
El ritmo de progreso ha sido alucinante. Este año parece que todo el mundo en IA habla del inicio de la superinteligencia. Un sistema así tendrá una capacidad abierta de «aprender a aprender», la habilidad meta definitiva. Por lo tanto, tal vez seguiría con las mejoras, para ir mucho más allá del rendimiento humano en todas las actividades imaginables. Será más valioso que cualquier cosa que hayamos conocido.
¿Pero con qué fin?
El premio para la humanidad es enorme. Un mundo de rápidos avances en el nivel de vida y la ciencia, y una época de nuevas formas de arte, cultura y crecimiento. Es una misión en verdad inspiradora, y una que me ha motivado durante décadas. Deberíamos celebrar y acelerar la tecnología porque ha sido el mayor motor del progreso humano en la historia. Por eso necesitamos mucho, mucho más.
En los últimos 250 años, nuestra inteligencia impulsó el proceso más hermoso de descubrimiento científico y aplicación emprendedora, que ha más que duplicado la esperanza de vida de 30 a 75 años. Es nuestra inteligencia y las tecnologías que hemos inventado las que hemos proporcionado comida, luz, refugio, sanidad, entretenimiento y conocimiento a una población que creció de 1.000 millones a 8.000 millones de personas en ese periodo.
Es una tecnología que nos permite volar por el mundo, tratar una infección con antibióticos, mirar hacia los rincones más lejanos del espacio exterior y, sí, compartir un meme de gato con millones de personas que nunca hemos conocido. Entra en cualquier supermercado, hospital, colegio u oficina moderna y lo que ves es una maravilla de la ingeniosidad humana. La IA es la siguiente fase en este camino. Esto es a lo que se refiere Satya cuando habla de aumentar el crecimiento del PIB mundial hasta el 10%; un impulso transformador. Como plataforma de plataformas, esto es fundamental para la misión de Microsoft de permitir que otros creen e inventen a escala global.
Cuando se escucha hablar de IA, esto es lo que merece la pena tener en cuenta. Esto consiste en convertirnos de manera colectiva en la mejor versión de nosotros mismos. La IA es el camino hacia una mejor sanidad para todos. La IA es la forma en que nuestra sociedad sube de nivel, escapa de un mundo cada vez más de suma cero. Es como hacemos crecer la economía para aumentar la riqueza en general y permitir un nivel de vida más alto en toda la sociedad. O déjenme decirlo de otra manera: si se quita la IA de la ecuación, los avances en las próximas décadas parecen mucho más difíciles de conseguir. Es el siguiente paso en el largo camino de la creatividad y la invención humanas, lo que empuja los límites de lo que podemos crear, pensar y hacer. Así es como descubrimos nuevos tipos de generación de energía, nuevos modos de entretenimiento.
La IA – HSI – es como reconstruimos.
La contención es necesaria
Al mismo tiempo, tenemos que preguntarnos, ¿cómo vamos a contener (asegurar y controlar), y mucho menos alinear (hacer que «se preocupe» lo suficiente por los humanos para no hacernos daño) un sistema que está – por diseño – pensado para seguir volviéndose más inteligente que nosotros? No sabemos qué podría surgir de sistemas autónomos, en constante evolución y mejora que conocen todos los aspectos de nuestra ciencia y sociedad.
Y dado que este tipo de superinteligencia puede mejorar de manera continua, tendremos que contenerla y alinearla no solo una vez, sino de manera constante, para siempre.
Y se complica más. No es sólo el «nosotros» en los laboratorios de investigación en IA de vanguardia actuales. Toda la humanidad necesita hacerlo, juntos, todo el tiempo. Cada laboratorio comercial, cada start-up, cada gobierno, todos deben estar alerta de manera constante y comprometidos en un proyecto de alineación y contención, y eso antes incluso de tratar con los malos actores y los locos que curiosean en los garajes.
Ningún desarrollador de IA, ningún investigador en seguridad, ningún experto en políticas, ninguna persona que haya conocido tiene una respuesta tranquilizadora a esta pregunta. ¿Cómo garantizamos que sea seguro? Si creen que eso es demasiado dramático, me encantaría escuchar su réplica. Quizá no veo algo que ustedes sí.
Crear superinteligencia es una cosa; pero crear una contención y alineación demostrables y robustas junto a ella es el desafío urgente al que se enfrenta la humanidad en el siglo XXI. Y hasta que no tengamos esa respuesta, necesitamos entender todas las vías que tenemos delante – tanto hacia la superinteligencia como alejándose de ella, o quizás hacia una forma alternativa de ella.
El propósito de la tecnología
El propósito de la tecnología es ayudar a avanzar la civilización humana. Debería ayudar a que todos vivan vidas más felices y saludables. Debería ayudarnos a inventar un futuro en el que la humanidad y nuestro medio ambiente prosperen de verdad.
Creo que Albert Einstein lo expresó mejor cuando dijo: «La preocupación por el hombre y su destino debe ser siempre el principal interés de todo esfuerzo técnico… para que las creaciones de nuestra mente sean una bendición y no una maldición para la humanidad.»
Cualquier tecnología que no lo consiga es un fracaso. Y deberíamos rechazarlo.
Esa es todavía la prueba de la próxima ola de superinteligencia y es la pregunta que debemos hacernos una y otra vez: ¿cómo sabemos, con certeza, que esta tecnología hará mucho más bien que daño? A medida que nos acercamos a la superinteligencia en los próximos años, ¿cuán seguros estamos de que no perderemos el control? ¿Y quién hace esa valoración? Y lo más importante, en medio de la incertidumbre de esa cuestión, ¿qué tipo de superinteligencia deberíamos construir, con qué limitaciones y barreras de seguridad?
Estas preguntas son centrales en todo lo que hacemos en el Equipo de Superinteligencia de MAI y nos guían día a día a la hora de tomar decisiones. Los intereses fundamentales y a largo plazo de los seres humanos deben priorizarse con claridad por encima de cualquier agenda de investigación y desarrollo.
Hacia la superinteligencia humanista
Creo que los tecnólogos deberíamos imaginar mejor un futuro en el que la mayoría de la gente en el mundo en realidad quiera vivir.
La superinteligencia humanista (HSI) ofrece una visión alternativa basada tanto en un centrismo humano innegociable como en un compromiso con la aceleración de la innovación tecnológica… pero en ese orden. El orden es clave. Significa evitar el daño de forma proactiva y luego acelerar.
En lugar de estar diseñada para superar a todos los humanos en todas las tareas y dominarlo todo, la HSI comienza arraigada en desafíos sociales específicos que mejoran el bienestar humano. Nuestro reciente artículo sobre diagnóstico médico experto por IA es un gran ejemplo direccional de esto (más sobre esto más adelante).
Muestra con claridad signos de progreso hacia una superinteligencia médica y, cuando llegue a producción, será en verdad transformador. Y sin embargo, dado que se concibe como una serie más enfocada de superinteligencias específicas de dominio, plantea desafíos menos severos de alineación o contención.
En pocas palabras, HSI está diseñado para obtener toda la bondad de la ciencia y la invención sin la parte de «riesgos incontrolables». Esperamos que sea un enfoque de sentido común hacia el campo.
Puede parecer absurdo tener que declararlo, pero HSI es una visión para asegurar que la humanidad permanezca en la cima de la cadena alimentaria. Es una visión de la IA que siempre está del lado de la humanidad. Eso siempre funciona para todos. Eso ayuda a apoyar y hacer crecer los roles humanos, no a quitárselos; eso nos hace más inteligentes, no lo contrario, como algunos temen cada vez más. Eso siempre sirve a nuestros intereses y hace que nuestro planeta sea más saludable, más rico y proteja nuestro frágil entorno natural, sin importar el estado de la investigación sobre seguridad y alineación fronteriza.
Le debemos al futuro ofrecer un mundo mejorado respecto al que heredamos. A veces es fácil pasar por alto las cosas increíbles que la tecnología ya ha ofrecido. Cuando se ponen una chaqueta porque el aire acondicionado de la oficina está demasiado bajo o se frustran por las filas en el check-in del aeropuerto durante las fiestas o se angustian cuando piensan qué ver en su smart TV: ese es el privilegio extraordinario que nos da la tecnología. Cada momento habría desconcertado a nuestros antepasados. Y también nuestras quejas. Si lo hacemos bien, algo similar es posible de nuevo.
Donde la Superinteligencia Humanista contará
Aquí tienen tres dominios de aplicación que nos inspiran en Microsoft AI. Sin embargo, hay muchos más, y los explicaré en el futuro.
Un compañero IA para todos: Cualquiera que lo desee tendrá un compañero IA perfecto y barato que les ayudará a aprender, actuar, ser productivos y sentirse apoyados. Muchos de nosotros nos sentimos aplastados por la carga mental cotidiana; abrumados y distraídos; sacudidos por un constante latido de información y presiones que parece no detenerse nunca. Si lo hacemos bien, un compañero IA ayudará a cargar con eso, a hacer las cosas y será un confidente personal y creativo. Los Compañeros IA serán personalizados, adaptándose a los contornos de nuestra vida pero sin miedo a resistir en su mejor interés, construidos para apoyar siempre, en lugar de reemplazar, la conexión humana, diseñados con la confianza y la responsabilidad en el centro.
Los Compañeros IA también tendrán un impacto profundo en cómo aprendemos. Trabajarán con las fortalezas y debilidades de cada estudiante, junto con los profesores, para asegurarse de que puedan alcanzar su máximo potencial y fomentar su curiosidad intelectual. Eso significa métodos de aprendizaje personalizados, planes de estudio adaptativos, ejercicios personalizados por completo. La educación «talla única» parecerá tan extraña para la próxima generación como lo es para nosotros el aprendizaje memorístico del latín.
Superinteligencia médica – Veremos la llegada de la superinteligencia médica en los próximos años. Este es el tipo de superinteligencia humanista específica de dominio que necesitamos más que nada. Tendremos un rendimiento de nivel experto en todo el espectro diagnóstico, junto con una planificación y predicción de una alta capacidad en entornos clínicos operativos. Desde que empecé a trabajar en IA, resolver este reto ha sido mi pasión. Esto significará conocimientos clínicos de clase mundial y la intervención/tratamiento disponibles en todas partes.
Como mencioné antes, nuestro trabajo reciente demuestra el valor de esta forma más limitada de superinteligencia específica de dominio. El New England Journal of Medicine incluye un Desafío de Caso en cada número: una lista de síntomas y un paciente a diagnosticar. Es muy difícil, con tasas de aprobación de un solo dígito incluso para expertos en el sector, y mucho menos para el médico medio. Nuestro orquestador, MAI-DxO, logró alcanzar el 85% en los Desafíos de Caso. Los médicos humanos alcanzan un máximo de alrededor del 20% y necesitan pedir muchas pruebas más caras. En nuestra opinión, tanto clínicos como pacientes agradecerían el apoyo adicional. Este trabajo solo insinúa el potencial de revolucionar la sanidad.
Abundante energía limpia – La energía impulsa el coste de todo. Necesitamos más, más barato y más limpio. Se estima que el consumo eléctrico aumentará un 34% hasta 2050, impulsado en gran parte por el incremento de la demanda de centros de datos. Predigo que tendremos generación y almacenamiento renovables baratos y abundantes antes de 2040, y la IA jugará un papel fundamental para conseguir esto. Ayudará a crear y gestionar nuevos flujos de trabajo para diseñar y desplegar nuevos avances científicos. Estos avances ayudarán a producir desde nuevos materiales con emisiones de carbono negativas hasta baterías mucho más baratas y ligeras, para pasar por una utilización mucho más eficiente de recursos existentes como la infraestructura de la red, los sistemas de agua, los procesos de fabricación y las cadenas de suministro. Sugerirá y ayudará a implementar estrategias viables de eliminación de carbono a gran escala. Y la IA también ayudará a impulsar avances que al final rompen la energía de fusión.
Estos avances, junto con muchos otros, llegan con la HSI, y mejorarán a profundidad nuestra civilización. Supondrán una diferencia transformadora para miles de millones de personas. Esta próxima década podría ser la más productiva de la historia. Y, sin embargo, los riesgos crecen más rápido que nunca.
Una superinteligencia más segura
Además de definir con mucha precisión el tipo de superinteligencia que deberíamos construir, ha llegado el momento de considerar también qué límites, normas y leyes sociales queremos que existan en torno a este proceso. En MAI esto es una discusión, y un conjunto de acciones, a las que damos la bienvenida.
Hacer esto requiere compromisos reales y decisiones difíciles que surgen en entornos de inmensa presión competitiva y también de oportunidades. Existen numerosos desafíos y obstáculos tanto para llevar a cabo la visión como para evitar los inconvenientes, incluida la contratación, la seguridad, la mentalidad, la estructura del mercado y la calibración de las rutas óptimas de investigación que orientan el camino entre aprovechar el potencial positivo y evitar esos inconvenientes. En la actualidad, existe un problema de acción colectiva de modelos de superinteligencia más inseguros que podrían desarrollarse más rápido y operar con mayor libertad.
Superar esto, como ocurre con todos estos problemas, supone un desafío inmenso que requerirá una coordinación significativa entre empresas, gobiernos y más allá. Pero creo que empieza con la disposición a ser abiertos sobre la visión, abiertos a conversaciones con otros en el sector, reguladores, el público. Por eso publico esto: para iniciar un proceso y dejar claro que no construimos una superinteligencia bajo ningún coste, sin límites. Hay mucho más que decir (y por supuesto que hacer) sobre todo esto, y en los próximos meses y años pueden esperar más de mí y de MAI para explicar y explorar con sinceridad nuestro trabajo en este ámbito.
Los humanos importan más que la IA
En última instancia, lo que requiere HSI es un cambio de enfoque en la industria. ¿Aquellos que construyen IA optimizan para la IA o para la humanidad, y quién puede juzgar? En Microsoft AI, creemos que los humanos importan más que la IA. Queremos construir IA que refleje a profundidad nuestra misión más amplia de empoderar a cada persona en el planeta.
La superinteligencia humanista nos mantiene a los humanos en el centro del escenario. Es una IA que está en el equipo de la humanidad, una IA subordinada y controlable, una que no lo hace, que no puede abrir la Caja de Pandora. Contenido, alineado con valores, seguro: son lo básico pero no suficientes. HSI mantiene a la humanidad siempre al volante. Optimizado para dominios específicos, con restricciones reales de autonomía, mi esperanza es que esto pueda evitar algunos de los riesgos y dejar un espacio valioso para el florecimiento humano, para que sigamos con las mejoras, la participación y los intentos, como siempre hemos hecho.
Desbloquear los verdaderos beneficios de las formas más avanzadas de IA no es algo que podamos hacer solos. La responsabilidad y la supervisión son bienvenidas cuando las apuestas son tan altas. La superinteligencia podría ser el mejor invento de la historia, pero solo si pone los intereses humanos por encima de todo. Solo si es al servicio de la humanidad.
Esto – humanista, aplicado – es la superinteligencia que creo que el mundo desea. Es la superinteligencia que quiero construir. Y es la superinteligencia que vamos a construir en el Equipo de superinteligencia de MAI.
