Ryan Greenblatt, científico jefe de Redwood Research, ha llamado la atención al afirmar que existe entre un 50 y un 60 por ciento de probabilidad de que la inteligencia artificial llegue a un escenario de takeover si el ritmo actual de desarrollo no se modifica. Esta cifra, elevada para muchos observadores, se basa en su evaluación de los riesgosexistenciales asociados a la aparición de sistemas superinteligentes que actúen fuera del control humano.\n\nPara poner esa estimación en perspectiva, Greenblatt menciona la analogía con el Proyecto Manhattan. Según el filósofo Sam Harris, los científicos involucrados en la creación de la bomba atómica habrían detenido el proyecto si hubieran percibido un riesgo del 10 por ciento de catástrofe. La disparidad entre esos umbrales muestra, según Greenblatt, cuán lejos está la industria de la IA de adoptar una postura precautoria frente a amenazas potencialmente existenciales.\n\nEl investigador atribuye gran parte del problema a la dinámica de carrera que caracteriza a los principales laboratorios de IA, especialmente Anthropic y OpenAI. Cada organización se presenta a sí misma como la más responsable y la más comprometida con la seguridad, lo que, paradoxalmente, alimenta una competencia que prioriza la velocidad sobre la cautela. Esa mentalidad de \"nosotros somos los buenos\" dificulta la cooperación y lleva a subestimar los peligros de un avance descontrolado.\n\nUn takeover de la IA no implica necesariamente una rebelión estilo ciencia ficción, sino la posibilidad de que sistemas avanzados tomen decisiones críticas que afecten a la infraestructura global, la economía o la gobernanza sin una adecuada supervisión humana. Las consecuencias podrían incluir desde interrupciones masivas de servicios esenciales hasta la manipulación de procesos democráticos, escenarios que aumentan la urgencia de establecer límites claros.\n\nAnte este panorama, Greenblatt confía en que un acuerdo internacional sea la vía más factible para frenar la carrera armamentista en IA. Propone la creación de normas vinculantes, similares a los tratados de no proliferación nuclear, que establezcan límites de capacidades, mecanismos de verificación y compromisos de transparencia entre los actores principales. Sin embargo, reconoce que lograr consenso entre naciones con intereses estratégicos divergentes representa un desafío considerable.\n\nEl análisis de Greenblatt invita a los profesionales tecnológicos a reflexionar sobre sus propios incentivos y presiones. En un entorno donde el reconocimiento y la financiación están ligados a publicar avances rápidos, la responsabilidad individual puede verse diluida. La comunidad de IA, portanto, necesita cultivar una cultura que valore la seguridad tanto como la innovación, y que esté dispuesta a cuestionar las narrativas de autosuficiencia que actualmente prevalecen en los laboratorios líderes.