Gary Marcus (Baltimore, EE UU, 54 años) no se ha cansado de predicar en redes sociales en los últimos meses los peligros de que Donald Trump llegara a la Casa Blanca, especialmente si lo hacía de la mano de Elon Musk. Al final ha sucedido, y eso le deprime. La suya es una de las voces más escuchadas en EE UU sobre inteligencia artificial (IA) y sus peligros. Testificó el año pasado junto a Sam Altman, director general de OpenAI, empresa desarrolladora de ChatGPT, en el subcomité del Senado que exploraba formas de controlar la IA. Según sostiene en su último libro, Taming Silicon Valley (The MIT Press, sin traducción al castellano), si no hacemos nada, la IA generativa (la que está detrás de herramientas como ChatGPT o Gemini) convertirá el mundo en un lugar peor.
El experto argumenta en su último libro que, dada la aquiescencia de Washington con las grandes tecnológicas, la única forma de que los ciudadanos se protejan de la IA es que hagan “mucho ruido”
Gary Marcus (Baltimore, EE UU, 54 años) no se ha cansado de predicar en redes sociales en los últimos meses los peligros de que Donald Trump llegara a la Casa Blanca, especialmente si lo hacía de la mano de Elon Musk. Al final ha sucedido, y eso le deprime. La suya es una de las voces más escuchadas en EE UU sobre inteligencia artificial (IA) y sus peligros. Testificó el año pasado junto a Sam Altman, director general de OpenAI, empresa desarrolladora de ChatGPT, en el subcomité del Senado que exploraba formas de controlar la IA. Según sostiene en su último libro, Taming Silicon Valley (The MIT Press, sin traducción al castellano), si no hacemos nada, la IA generativa (la que está detrás de herramientas como ChatGPT o Gemini) convertirá el mundo en un lugar peor.
Profesor de psicología y neurociencia en la Universidad de Nueva York, su investigación se ha centrado en las últimas décadas en la intersección entre psicología cognitiva e inteligencia artificial (IA). Paralelamente, ha fundado dos startups. La primera de ellas, Geometric Intelligence, fue adquirida por Uber en 2016 y convertida en un laboratorio de investigación sobre aprendizaje profundo. La segunda, Robust.AI, la ha puesto en marcha junto a uno de los inventores de las aspiradoras automáticas Roomba y pretende contribuir al desarrollo abierto de software para robots autónomos.
Marcus es muy activo en redes como X, donde critica diariamente a Musk y se enzarza en discusiones con personajes como Yann LeCun, considerado uno de los padrinos de la IA moderna y actual responsable de esa tecnología en Meta. “LeCun es un ególatra intelectualmente deshonesto que hizo todo lo posible por desprestigiarme cuando critiqué por primera vez los grandes modelos de lenguaje [LLM, por sus siglas inglesas], solo para dar marcha atrás y hacer suyas mis críticas cuando ChatGPT eclipsó el trabajo de Meta”, dice sin pelos en la lengua.
Pregunta. ¿Cómo ve el futuro tras la victoria de Trump en las presidenciales?
Respuesta. Oscuro. La IA generativa conlleva muchos riesgos, a corto y largo plazo, y creo que las perspectivas de una regulación significativa bajo la administración Trump son escasas. La UE tiene su ley de IA; EE UU tiene muy poca regulación específica sobre IA para proteger a sus ciudadanos, y no veo que eso vaya a cambiar en los próximos años.
P. Ha habido algunos intentos en California. ¿Considera la posibilidad de que algunos Estados aprueben sus propias leyes sobre IA?
R. California aprobó algunas leyes sobre aspectos como la transparencia de los datos, pero los grupos de presión de Silicon Valley ayudaron a bloquear la SB-1047, que habría hecho a las empresas responsables de “daños catastróficos”. En mi opinión, esto fue un error. Todavía podemos esperar que algunos estados lo intenten, pero va a ser una batalla cuesta arriba, a menos que los ciudadanos se movilicen para defender su derecho a estar protegidos frente a esta tecnología. De lo contrario, podría ser necesario un gran desastre, como un gigantesco ciberataque alimentado por IA, antes de que ocurra algo significativo en el frente legislativo.
P. Es pronto para saber qué papel tendrá Elon Musk en la Administración Trump, pero estará ahí. ¿Qué espera de él?
R. Elon fue una de las primeras personas en advertir sobre los riesgos de la IA, pero ahora ha invertido mucho dinero en el éxito de esa tecnología, y es difícil pensar que eso no influya en sus recomendaciones a Trump. Imagino que hará todo lo posible para que el Gobierno subvencione el desarrollo de la IA, incluidas sus propias empresas, a pesar de los riesgos sobre los que antes advertía. Cabe recordar que este es el tipo que firmó la carta que pedía una moratoria de seis meses en el desarrollo de la IA y que pasó ese tiempo acumulando un clúster gigante de procesadores GPU para poner en marcha su propia IA.
También es irónico que Musk haya ganado la mayor parte de su dinero, poder e influencia con Tesla, que fabrica coches eléctricos y, en principio, es respetuosa con el medio ambiente. Es irónico porque la forma de IA que entusiasma a Musk no es muy respetuosa con el medio ambiente, ya que consume enormes cantidades de energía y agua y genera emisiones masivas. Y, sin embargo, espero que la Administración Trump presione con fuerza para relajar las regulaciones medioambientales, para permitir una mayor generación de energía con el fin de alimentar la IA.
Estamos dando a los creadores de IA un poder extraordinario
P. Microsoft, Amazon, Google y Meta están interesadas en usar centrales nucleares, en algunos casos propias, para alimentar sus centros de datos. Algunas de estas empresas hablaron de ello con la Administración Biden. ¿Ve ese plan más factible con Trump?
R. Estoy bastante seguro de que la Administración Trump lo apoyará, a menos que haya algo que se me escape. En realidad creo que la energía nuclear tiene mucho sentido, pero verter toda esa energía en gigantescos modelos lingüísticos probablemente no sea el mejor uso de esa energía, como sí lo sería reducir nuestra dependencia de los combustibles fósiles.
P. Volviendo a Musk, ¿qué le parece que el Gobierno fiche al hombre más rico del mundo? ¿Puede un miembro del Gobierno poseer una importante plataforma de medios sociales?
R. El propio Trump tiene una gran participación en una empresa de medios de comunicación. No creo que Trump tenga noción de conflicto de intereses, y en general ha hecho caso omiso de todo tipo de normas. No es una buena idea para nuestro país, pero dudo que eso disuada a Trump de seguir adelante. ¿Quién se lo va a impedir? EE UU será casi con total seguridad un país muy distinto en 2025 respecto a años anteriores.
P. ¿A qué se refiere?
R. Trump hará caso omiso de las normas y hasta cierto punto de las leyes en general. Nombrará a un fiscal general que será enormemente comprensivo con sus causas, y el Tribunal Supremo ha ampliado recientemente en gran medida la inmunidad presidencial. Trump se tomará todo eso como un mandato para hacer lo que le dé la gana, sea cual sea la ley escrita, y no espero que se le cuestione significativamente por ello.
Si la IA generativa no se vuelve rentable relativamente rápido, la burbuja estallará y ni Trump ni Musk podrán arreglar eso
P. ¿Qué hay de las grandes tecnológicas? ¿Cree que prosperarán bajo su mandato? En su primer mandato, Trump consideraba a Facebook o Twitter empresas de tendencia liberal.
R. Twitter (ahora X) ha cambiado enormemente desde que es propiedad de Elon. No creo que Meta haya cambiado tanto. Creo que el mayor problema para las grandes tecnológicas es que han invertido mucho en IA generativa, bajo la fantasía de que nos traerá la IA general [la que teóricamente iguale o supere las capacidades humanas], cuando la realidad es que no es lo suficientemente sólida como para apoyar las revoluciones que la gente está imaginando. Si la IA generativa no se vuelve rentable relativamente rápido, la burbuja estallará y ni Trump ni Musk podrán arreglar eso.
P. Las redes sociales acabaron con la privacidad y trajeron el capitalismo de la vigilancia. ¿Qué podemos esperar de la IA?
R. La IA generativa hará avanzar el capitalismo de la vigilancia. Algunas personas vuelcan sus secretos más íntimos en los chatbots, y sus creadores esperan poder acceder a los archivos, correos electrónicos, calendarios e incluso contraseñas de todo el mundo. Los propios modelos de lenguaje, por la forma en que responden, pueden moldear sutilmente las creencias de la gente, e incluso, según un estudio reciente de Elizabeth Lofus, implantar creencias falsas. Estamos dando a los creadores de estas herramientas un poder extraordinario. Mientras tanto, estos modelos ya se están utilizando para generar desinformación, tomar decisiones sesgadas en la contratación laboral, alimentar la ciberdelincuencia y mucho más. La tecnología tiene algunas ventajas, pero no está nada claro que supongan un beneficio neto para la humanidad. Por el contrario, la mayoría de los beneficios irán a parar a las grandes empresas que crean estos sistemas, mientras que la mayor parte de los costes los absorberá la sociedad.
P. Sostiene en su libro que los oligarcas tecnológicos tendrán cada vez un mayo control sobre la sociedad estadounidense. ¿Cuándo lo escribió ya pensaba en la victoria de Trump?
R. Me preocupaba que Trump pudiera ganar, sí, aunque creo que también nos habríamos enfrentado a grandes desafíos si se hubiera impuesto Harris. Pero el punto básico del libro es ahora más urgente si cabe: no podemos confiar en que las grandes tecnológicas se regulen a sí mismas, y el Gobierno estadounidense está demasiado cautivado por las grandes tecnológicas como para que haga lo que necesitamos. La única forma de que los ciudadanos estadounidenses puedan protegerse de la IA es haciendo mucho, mucho ruido, quizá mediante boicots.
P. Uno de los miembros de esa oligarquía tecnológica que dice tiene pie y medio en el gabinete del Presidente.
R. Correcto. Y podemos esperar que Musk tenga una voz extremadamente fuerte en la política, mucho más fuerte de la que han tenido nunca otros multimillonarios. No sería sorprendente ver a Trump delegar en gran medida la política tecnológica a Musk, a pesar de los inmensos conflictos de intereses aparentes. El mundo del que advertí ha llegado. Lo que hagamos al respecto depende de nosotros.
P. ¿Cómo podemos domar Silicon Valley?
R. La gente tiene que unirse y decir: no queremos IA que destruya el medio ambiente, estafe a artistas y escritores, difame a la gente y suscriba la propaganda de masas, especialmente cuando los fabricantes no asumen ninguna responsabilidad real por los daños que causan. Solo si insistimos en que la gran tecnología mejore, veremos un cambio real.
Feed MRSS-S Noticias
