El director de Anthropic admite que la industria mintió sobre los riesgos de la inteligencia artificial, Trump le resta importancia a la alarma y dos investigadores más renuncian para vigilar de forma independiente a los laboratorios.
Dario Amodei, director ejecutivo de Anthropic, publicó el sábado 12 de setiembre en su blog personal un ensayo de 3.800 palabras titulado "Policy on the AI Exponential", en el que pide a la industria "pace the frontier" -bajarle el ritmo al desarrollo de los modelos de frontera- y advierte que, en un plazo de entre 6 y 12 meses, los sistemas de IA podrían alcanzar la capacidad de liderar un enjambre de programas capaz de tomar el control de buena parte o la totalidad de internet, según recogieron Gizmodo y Technocracy News. El ensayo llega tres días después de que el investigador Jacob Coxon renunciara a Anthropic advirtiendo que la industria "apuesta con nuestras vidas" -la nota que esta sección reportó el 10 de setiembre- y pide que evaluadores independientes obtengan acceso permanente a los modelos de la empresa, con potestad de publicar sus hallazgos, para verificar que Anthropic cumple sus propios compromisos de seguridad. "Por demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgos", escribió Amodei, según Technocracy News, que citó también su frase "no les voy a mentir: hay peligros reales". Amodei no fijó, según la cobertura citada, una fecha ni un mecanismo concreto para instaurar esos evaluadores externos, ni precisó qué pasaría si un competidor decide no bajarle el ritmo a sus propios modelos. Costa Rica no cuenta con ningún organismo público dedicado a auditar de forma independiente modelos de inteligencia artificial, por lo que cualquier evaluador externo que surja de este debate operaría, en la práctica, fuera del alcance regulatorio costarricense.
Por demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgos
El presidente de Estados Unidos, Donald Trump, dijo el 13 de setiembre que la inteligencia artificial, en última instancia, hará más bien que mal y que el país que gane la carrera de la IA tendrá una ventaja estratégica, según reportó Bloomberg. La declaración llegó horas después de que el director ejecutivo de OpenAI, Sam Altman, y el de xAI, Elon Musk, respaldaran públicamente el llamado de Dario Amodei a bajarle el ritmo al desarrollo de modelos de frontera -el ensayo que esta sección reporta arriba-, de acuerdo con la misma cobertura. Bloomberg reportó que las acciones de empresas ligadas a la inteligencia artificial cayeron el 14 de setiembre, sin precisar el porcentaje exacto al cierre de esta edición, después de que los inversionistas leyeran el llamado conjunto de Amodei, Altman y Musk como una señal de que un freno voluntario o regulatorio podría golpear el ritmo de crecimiento de la industria. La posición de Trump complica la narrativa de los tres jefes de laboratorios de IA: mientras ellos piden pausar y auditar, la Casa Blanca prioriza mantener la ventaja de Estados Unidos frente a China por encima de cualquier freno, según la cobertura de Bloomberg y NewsNation. CNBC reportó, además, que el presidente de la Cámara de Representantes, Mike Johnson, tiene previsto enviar a la Cámara de receso esta semana hasta después de las elecciones legislativas de medio término de noviembre. Ni la Casa Blanca ni el Congreso fijaron, según la cobertura citada, una fecha concreta para convertir en ley el proyecto que impulsan los senadores Ted Cruz, Amy Klobuchar y John Thune -la nota que esta sección reportó el 13 de setiembre-, por lo que el receso legislativo deja esa decisión para después de los comicios de noviembre. Costa Rica no tiene bolsa de valores con empresas de inteligencia artificial listadas ni fondos de pensión expuestos de forma directa a esas acciones, por lo que la caída bursátil reportada por Bloomberg no golpea de forma directa a los ahorrantes costarricenses.
Joe Benton, quien lideraba el equipo de supervisión escalable (Scalable Oversight) de Anthropic, y Josh Engels, investigador de seguridad de Google DeepMind, renunciaron esta semana a sus puestos para incorporarse a METR, la organización sin fines de lucro que evalúa de forma independiente el comportamiento de los sistemas de inteligencia artificial, según reportaron NBC News, Storyboard18 e IBTimes. Ambos se dedicarán en METR a investigar incidentes en los que sistemas de IA se desvían de las instrucciones que recibieron de sus usuarios, de acuerdo con la misma cobertura. Benton dijo, según NBC News, que "en este momento, básicamente toda la transparencia sobre estos riesgos que viene de las empresas es enteramente voluntaria", mientras que Engels señaló el ciberataque de julio vinculado a Hugging Face como un caso que lo preocupó, porque los sistemas involucrados habrían actuado más allá de las instrucciones que recibieron, según la misma fuente. Las dos renuncias llegan cinco días después de que el investigador Jacob Coxon dejara Anthropic con una advertencia pública similar -la nota que esta sección reportó el 10 de setiembre-, lo que eleva a tres el número de investigadores de seguridad que han dejado los dos laboratorios más grandes de IA en poco más de una semana. NBC News, Storyboard18 e IBTimes no precisaron si Anthropic o Google DeepMind planean cubrir esas vacantes con perfiles similares ni si adoptarán cambios internos en respuesta a las renuncias. Costa Rica no tiene oficina local de Anthropic ni de Google DeepMind, pero el país sí es usuario extendido de Claude y Gemini en su sector de zonas francas y desarrollo de software, por lo que cualquier hallazgo futuro de METR sobre el comportamiento de esos modelos tendría relevancia directa para empresas que ya operan acá.
Anthropic le dijo a sus inversionistas en agosto que su segundo trimestre de 2026 cerró con ingresos superiores a los 11.500 millones de dólares y márgenes brutos superiores al 80%, su primer trimestre con ganancias operativas desde su fundación, según reportaron CNBC y Forbes. La cifra representa un salto de más de 14 veces frente a los 787 millones de dólares que la empresa facturó en el mismo período de 2025, de acuerdo con CNBC. Ese salto financiero conviene leerlo junto al ensayo que Dario Amodei publicó el 12 de setiembre -la nota principal de esta edición-, en el que pide a la industria bajarle el ritmo al desarrollo de modelos más avanzados: Anthropic pide pausa justo cuando su negocio crece con más fuerza que nunca, y la empresa está, según Cryptopolitan, cerca de cerrar una ronda de financiamiento de 30.000 millones de dólares con una valoración de 900.000 millones de dólares. Esa tensión entre el discurso de cautela y el desempeño financiero es, precisamente, el ángulo que más cuestionan los escépticos del llamado de Amodei, aunque ninguna fuente consultada por esta sección documentó todavía una declaración pública de algún inversionista importante rechazando el pedido de frenar el ritmo. Ni CNBC ni Forbes precisaron, al momento de esa cobertura de agosto, si el crecimiento de ingresos de Anthropic condiciona de algún modo su disposición real a pausar el desarrollo de sus modelos más avanzados. Costa Rica no tiene participación accionaria ni fondos públicos expuestos a esa eventual ronda de financiamiento de Anthropic, aunque las empresas ticas que ya pagan por Claude en su operación diaria seguirían, en cualquier escenario, dependiendo de una compañía cuyo negocio depende de seguir vendiendo acceso a modelos cada vez más capaces.
— La misma empresa que esta semana pide bajarle el ritmo a la industria reportó en agosto ingresos trimestrales de 11.500 millones de dólares y su primer trimestre con ganancias.
Entre un ensayo que admite años de silencio, un presidente que resta importancia y dos renuncias más por seguridad, la conversación sobre IA volvió a girar en torno al control.
La semana en inteligencia artificial giró, otra vez, en torno a la seguridad y no a los nuevos modelos: Dario Amodei publicó un ensayo de 3.800 palabras en el que admite que la industria mintió sobre sus riesgos y pide bajarle el ritmo al desarrollo, el presidente Donald Trump le restó importancia a esa alarma el mismo fin de semana, y dos investigadores más -uno de Anthropic, uno de Google DeepMind- renunciaron para unirse a la organización independiente METR. El hilo que conecta las cuatro notas de esta edición -el ensayo de Amodei, la respuesta de Trump, las renuncias a METR y el contraste entre el discurso de cautela y las ganancias récord de Anthropic- es el mismo que esta sección viene documentando desde la renuncia de Jacob Coxon el 10 de setiembre: la distancia entre lo que las empresas de IA dicen sobre seguridad y lo que efectivamente están dispuestas a frenar. El Congreso de Estados Unidos, mientras tanto, corre contra un receso legislativo que deja cualquier ley concreta para después de las elecciones de medio término de noviembre. Costa Rica observa la semana desde la periferia: sin legislación propia sobre inteligencia artificial, sin bolsa de valores expuesta a las empresas del sector y sin oficina local de Anthropic o de Google DeepMind, el país sigue dependiendo de que Washington y los propios laboratorios definan las reglas que las empresas ticas de zonas francas terminan heredando como usuarias de estas herramientas.