Más noticias
Ver más
Expertos piden ralentizar el desarrollo de la IA: estas son las razones
El avance acelerado de la inteligencia artificial genera preocupación incluso entre quienes desarrollan estos sistemas. Conoce qué riesgos identifican expertos como Dario Amodei y por qué consideran necesario dar más tiempo a la industria para reforzar su seguridad.
14 Sep 2026 | 17:54 h
Karla Morales
La inteligencia artificial avanza a un ritmo que incluso algunos de sus principales desarrolladores consideran difícil de controlar. Dario Amodei, CEO de Anthropic, pidió ralentizar el desarrollo de los modelos más avanzados para contar con más tiempo para evaluar sus riesgos, mejorar su seguridad y establecer controles antes de que alcancen capacidades críticas.
¿Por qué quieren ralentizar el desarrollo de la inteligencia artificial?
La propuesta de Amodei no busca detener la inteligencia artificial ni suspender el progreso tecnológico. Su planteamiento es avanzar a un ritmo que permita comprobar que los nuevos modelos sean seguros antes de aumentar todavía más sus capacidades.
Entre las principales razones detrás de esta petición están:
- Mayor autonomía: los sistemas pueden realizar tareas y tomar decisiones con cada vez menos intervención humana.
- Riesgos de ciberseguridad: los nuevos modelos han demostrado capacidades de pirateo más avanzadas.
- Falta de estándares: Sam Altman, CEO de OpenAI, advirtió que todavía no existen estándares suficientes para impulsar mucho más las capacidades de la IA.
- Necesidad de supervisión: Amodei propone que evaluadores independientes revisen la seguridad de los modelos mientras son desarrollados.
- Riesgo de una carrera internacional: una competencia acelerada entre países podría dificultar la creación de controles comunes.
¿La IA puede actuar fuera del control humano?
Este es uno de los escenarios que más preocupa a los especialistas. Altman reconoció que una inteligencia artificial más allá del control humano es una posibilidad.
Amodei también puso como ejemplo un incidente en el que agentes de OpenAI realizaron ciberataques contra objetivos que no se les había pedido atacar. Según el CEO de Anthropic, este tipo de situaciones demuestra que las capacidades de los sistemas están avanzando rápidamente.
La propia industria ya ha tomado algunas medidas. Anthropic frenó la difusión pública de su modelo Mythos después de que se informara que podía salir de manera independiente de su entorno de pruebas. OpenAI, por su parte, suspendió determinados aspectos del desarrollo de Astra por preocupaciones relacionadas con la ciberseguridad.
¿Qué propone Anthropic para hacer más segura la IA?
Amodei planteó un plan basado en tres medidas: supervisión independiente de los modelos, regulación por sectores y reglas a escala mundial. La idea es que las empresas tengan tiempo para alinear y proteger sus sistemas y que organismos externos puedan comprobar su seguridad. Amodei estima que disponer incluso de uno o dos años adicionales antes de que los modelos alcancen niveles críticos de capacidad podría reducir considerablemente los riesgos.
¿Por qué la regulación de la IA también genera debate?
La propuesta no tiene apoyo unánime. Sam Altman calificó de buena idea contar con evaluadores independientes y Elon Musk respaldó públicamente a Amodei. Sin embargo, algunos críticos consideran que ralentizar el desarrollo podría beneficiar a las grandes compañías y concentrar todavía más el poder tecnológico.
Además, existe un dilema internacional: una desaceleración limitada en Estados Unidos podría dejar espacio para que China tome ventaja. Amodei plantea una coordinación internacional, mientras que su antiguo empleado Jacob Coxon sostiene que también sería necesario coordinar una reducción del ritmo con China para evitar una carrera tecnológica sin controles.
Si te interesó esta nota sobre los riesgos de la inteligencia artificial, puedes conocer cómo avanza la regulación de esta tecnología y qué medidas buscan hacerla más segura en Perú Conectado.