Líder de Anthropic propone gobernanza democrática ante la IA y advierte: «Existen peligros reales»
Dario Amodei descartó frenar por completo el desarrollo, pero llamó a moderar el ritmo de avance frente a una trayectoria exponencial, alertando sobre el dilema geopolítico con China y los riesgos de concentrar el poder en firmas privadas.
Un llamado a instaurar mecanismos de fiscalización pública sobre la inteligencia artificial formuló el director ejecutivo y cofundador de Anthropic, Dario Amodei. El directivo advirtió que el rápido escalamiento de estas herramientas conlleva riesgos concretos y cuestionó que parte del sector tecnológico haya minimizado sus implicancias durante años.
En conversación con el espacio CBS Sunday Morning, Amodei abordó la evolución de los modelos de frontera y remarcó que el crecimiento exponencial de sus capacidades debe leerse como un llamado de atención para la sociedad:
“No les voy a mentir: existen peligros reales. No significa que tengamos que entrar en pánico hoy. No significa que tengamos que apagarlo todo. Pero diría que es una señal de advertencia. Es una señal de advertencia de que necesitamos desacelerar”.
Gobernanza compartida y el dilema frente a Pekín
El representante de Anthropic manifestó su inquietud ante el escenario de que corporaciones privadas monopolicen la dirección de sistemas con alta incidencia social, económica y de seguridad. Frente a ello, propuso esquemas de control y monitoreo coordinados entre administraciones electas democráticamente, descartando de paso entregar la tuición exclusiva a una sola potencia:
“Me preocupa que un solo gobierno pueda abusar de esta tecnología con la misma facilidad que una sola empresa”.
Pese a sus reparos, Amodei rechazó una prohibición absoluta de la IA. Como fundamento, expuso el impacto positivo que esta puede generar en la ciencia y la medicina, sumado al factor geopolítico: si Estados Unidos frena de manera unilateral, otros países —particularmente China— continuarán sus desarrollos, otorgando una ventaja militar y tecnológica a Pekín. Frente a esa pugna, planteó como meta a largo plazo la firma de pactos internacionales que fijen límites a la velocidad de entrenamiento, reconociendo la dificultad de concertar dichos consensos.
Foto: Dario Amodei
Ensayos, evaluaciones externas y renuncias en el sector
Las definiciones del ejecutivo coinciden con la publicación de un ensayo donde instó formalmente a las compañías a moderar el incremento de potencia de sus herramientas. Entre las medidas concretas planteadas por Amodei destaca autorizar el ingreso continuo de evaluadores externos independientes, con el fin de auditar que los laboratorios cumplan en la práctica las garantías de seguridad suscritas ante la opinión pública.
La discusión adquiere mayor visibilidad tras la reciente salida de la industria de Jacob Coxon, exinvestigador de OpenAI y de la propia Anthropic, quien dio un paso al costado alertando sobre los peligros que conllevan los modelos capacitados para optimizar sus propias funciones de manera autónoma.
Para Amodei, el desenlace de esta transición tecnológica estará condicionado por el rigor de sus creadores:
“Si construimos de la manera correcta, creo que la probabilidad de que ocurra algo malo es muy baja. Si construimos de la manera incorrecta, la probabilidad de que ocurra algo malo es muy alta”.
