Las tres corrientes que moldean la IA en Silicon Valley

En los últimos años la discusión sobre la inteligencia artificial ha dejado de ser una charla de foros para convertirse en una verdadera batalla de intereses en Washington. Tres grupos que comparten talento, financiación y acceso a los centros de decisión están definiendo si la IA avanza sin trabas, bajo control o con una visión intermedia. Conocer sus ideas y sus actores permite a cualquier profesional anticiparse a cambios regulatorios y adoptar una postura más informada.

El mapa ideológico de la IA en Silicon Valley

Orígenes y contexto

El término “tribus” no es casual. Desde 2009, cuando Eliezer Yudkowsky fundó el blog LessWrong y la organización MIRI en Berkeley, se empezó a perfilar una comunidad obsesionada con la seguridad de la superinteligencia. Paralelamente, en Oxford surgía el movimiento del altruismo eficaz, liderado por Toby Ord y William MacAskill, que trasladó la idea de maximizar el impacto positivo a la esfera tecnológica. Más recientemente, en 2022, surgió el e/acc (effective accelerationism), una parodia que tomó forma de corriente seria defendiendo la ausencia de frenos.

Estos grupos no operan en el vacío; sus miembros reciben financiación de gigantes como Andreessen Horowitz (a16z) y de fundadores de empresas de la talla de Greg Brockman (OpenAI). En las elecciones legislativas estadounidenses, los fondos recaudados superan los 75 millones de dólares para oponerse a la regulación, mientras que Anthropic destinó 20 millones al bando contrario. La pelea se ha trasladado al Congreso y a la Casa Blanca, donde se decide el marco legal que regirá la IA.

Por qué importa para la política tecnológica

Los decisores políticos suelen basarse en informes y grupos de presión que les entregan datos claros y argumentos estructurados. Cada una de estas tribus produce su propio “mapa” de riesgos y oportunidades, influyendo en la redacción de leyes, en la asignación de subvenciones y en la creación de comités de supervisión. Cuando una visión domina, el resto se ve marginado, lo que puede traducirse en regulaciones demasiado laxas o, por el contrario, en trabas que frenan la innovación.

Entender quién está detrás de cada postura ayuda a anticipar qué tipo de normativa podría aparecer: desde requerimientos de auditoría de modelos hasta prohibiciones de ciertos tipos de entrenamiento. Para un autónomo o una pyme, esa previsión puede significar la diferencia entre invertir en una solución ahora o esperar a que el entorno legal sea más estable.

Los racionalistas y el problema del alineamiento

Principios y figuras clave

Los racionalistas, liderados por Yudkowsky y su comunidad de LessWrong, parten de la premisa de que una superinteligencia con metas distintas a las humanas puede destruirnos sin necesidad de odio explícito; basta con que sus acciones interfieran con nuestras. Este razonamiento dio origen al “problema del alineamiento”, que estudia cómo diseñar sistemas cuya finalidad coincida con valores humanos.

En sus últimos escritos, Yudkowsky sugiere medidas extremas, como bombardeos a centros de datos ilegales, para evitar que una IA fuera desarrollada sin supervisión. Su libro If Anyone Builds It, Everyone Dies (2025) alcanzó la lista de best‑sellers del New York Times, lo que muestra la difusión de su mensaje más allá de los círculos académicos.

Propuestas polémicas y su impacto

Estas ideas han alimentado la creación de laboratorios de investigación de IA centrados en la seguridad, pero también han generado tensiones con empresas que buscan lanzar productos rápidamente. La presión de los racionalistas ha llevado a algunos gobiernos a considerar la obligatoriedad de “cajas de arena” para probar modelos antes de su despliegue comercial.

Para los desarrolladores, la lección es clara: no basta con crear un modelo potente; hay que prever mecanismos de control, auditoría y, en algunos casos, limitar el acceso a la tecnología. Ignorar estas advertencias puede traducirse en sanciones regulatorias o en la pérdida de confianza de usuarios y socios.

Altruismo eficaz aplicado a la IA

Filosofía y financiación

El altruismo eficaz (EA) nace de la ética de Peter Singer y se materializa en organizaciones como Open Philanthropy, ahora renombrada Coefficient Giving. Su objetivo es medir el número de vidas salvadas por cada dólar invertido. Dustin Moskovitz, cofundador de Facebook, ha comprometido más de 11 000 millones de dólares a causas que incluyen la mitigación de riesgos existenciales de la IA.

El EA ve a la IA como la herramienta que más rápidamente puede reducir sufrimiento a gran escala, ya sea mediante avances médicos, mitigación del cambio climático o prevención de catástrofes. Por eso, gran parte de la financiación se dirige a proyectos que prometen “largoplacismo”, es decir, proteger a las generaciones futuras tanto como a la presente.

Influencia en decisiones corporativas y regulatorias

Los altruistas eficaces han financiado a equipos dentro de OpenAI y Anthropic que trabajan en alineamiento y en la creación de “árbitros” de IA. En 2023, dos consejeras vinculadas al movimiento votaron el despido de Sam Altman, CEO de OpenAI, una medida que reveló la tensión entre la visión de crecimiento rápido y la prudencia ética.

Para los profesionales, el EA ofrece un marco de evaluación de proyectos: preguntar cuántas vidas (o cuánto bienestar) se pueden salvar con la IA que se está desarrollando. Aplicar ese criterio ayuda a priorizar iniciativas con mayor impacto social y a presentar argumentos sólidos ante inversores y reguladores que cada vez demandan responsabilidad.

Aceleracionismo y la resistencia al freno

Orígenes y argumentos

El aceleracionismo efectivo (e/acc) surgió como una parodia del EA, inspirada por el filósofo Nick Land. En 2023, Forbes reveló que detrás de la cuenta @BasedBeffJezos estaba Guillaume Verdon, ex‑físico de Google. A16z ha respaldado su manifiesto, y David Sacks lo ha llevado a la Casa Blanca.

Los aceleracionistas sostienen que cualquier intento de frenar el progreso tecnológico implica la pérdida de vidas que la IA podría salvar. Consideran que los “catastrofistas” usan el miedo para imponer barreras regulatorias que solo las grandes corporaciones pueden sortear, creando una ventaja competitiva para quienes siguen avanzando sin restricciones.

Consecuencias de una visión sin regulación

Si bien la velocidad puede generar innovaciones disruptivas, la ausencia de supervisión aumenta el riesgo de despliegues irresponsables: sesgos sin control, vulnerabilidades de seguridad y potenciales usos maliciosos. La historia reciente muestra que la carrera armamentista en IA está llevando a la publicación de modelos cada vez más potentes sin pruebas de seguridad exhaustivas.

Para quien desarrolla o implementa IA, el desafío es equilibrar la ambición con la diligencia. Adoptar prácticas de “red‑team” internas, pruebas de robustez y transparencia en los datos de entrenamiento son medidas que pueden mitigar los peligros señalados por los racionalistas sin sacrificar la velocidad de innovación.

Qué pueden hacer los profesionales ante estas tensiones

Vigilancia de políticas y participación

El primer paso es mantenerse informado sobre la legislación que se debate en el Congreso y en la Casa Blanca. Suscribirse a boletines de organizaciones como la OpenAI o seguir a grupos de presión de IA permite anticipar cambios y adaptar la hoja de ruta de proyectos.

Participar en foros de estándares, como los que organizan la IEEE o la Partnership on AI, brinda la oportunidad de influir en la definición de buenas prácticas y de presentar casos de uso responsables que reflejen la realidad de pequeñas y medianas empresas.

Estrategias de desarrollo responsable

Adoptar una mentalidad de “alineamiento incremental” ayuda a incorporar controles de seguridad desde las primeras fases del desarrollo. Esto incluye documentar los objetivos del modelo, establecer métricas de sesgo y crear procesos de revisión externa antes de lanzar un producto al mercado.

Finalmente, evaluar el impacto social mediante un cálculo sencillo de “vidas potencialmente salvadas o dañadas” permite alinear la visión del altruismo eficaz con la velocidad del aceleracionismo, encontrando un punto medio que satisfaga tanto a inversores como a reguladores.

Punto de partida: «Racionalistas, altruistas eficaces y aceleracionistas: las tres tribus que se disputan el alma de la IA en Silicon Valley», publicado por Xataka. El análisis y las opiniones son de IAFlow.