🤖 ¿Creéis que un riesgo superior al 10% de extinción humana justificaría frenar el desarrollo de la inteligencia artificial, aunque China u otros laboratorios continuaran avanzando? Os leo en los comentarios.
Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, ha dimitido y acusa a ambos laboratorios de competir irresponsablemente por alcanzar una superinteligencia capaz de mejorarse a sí misma. La respuesta de Evan Hubinger, responsable de alineamiento de Anthropic, resulta todavía más inquietante: reconoce que aún no existe un plan para controlar una futura superinteligencia y estima en más del 10% la posibilidad de que provoque una catástrofe existencial durante la próxima década.
Juan Ramón Rallo analiza si estas advertencias reflejan un peligro real o forman parte de la estrategia previa a una salida a bolsa. También examina por qué ninguna empresa ni país quiere detenerse unilateralmente, cómo la IA ya escribe más del 80% del código integrado por Anthropic y por qué coordinar un freno mundial resulta tan complicado.
¿Estamos ante una exageración, una campaña de marketing o una carrera tecnológica que nadie sabe detener?
","author_name":"Juan Ramón Rallo"}