CEO de OpenAI alerta en la ONU por los riesgos de la inteligencia artificial y exige un "extremo cuidado"
Sam Altman, CEO de OpenAI, pidió ante el Consejo de Seguridad de la ONU mayor cooperación internacional para enfrentar los riesgos de la inteligencia artificial. Durante la reunión, alertó sobre sistemas cada vez más capaces y defendió decisiones bajo procesos democráticos y supervisión.
Altman pide participación de gobiernos
El encuentro fue convocado por Francia durante la Asamblea General de Naciones Unidas y reunió a representantes de empresas y expertos en inteligencia artificial. Altman señaló que los gobiernos deben participar en las decisiones sobre esta tecnología, mientras especialistas advirtieron sobre riesgos internacionales.
El jefe de OpenAI sostuvo que las decisiones más importantes sobre inteligencia artificial no deben quedar solamente en manos de laboratorios tecnológicos. Altman planteó que los gobiernos y procesos democráticos participen en la definición de nuevas reglas para sistemas cada vez más avanzados.
"Para que la IA sea democrática, las decisiones más importantes no pueden ser tomadas únicamente por laboratorios de San Francisco. Deben configurarse mediante procesos democráticos y por gobiernos que rindan cuentas a la ciudadanía a la que sirven", advirtió.
Reuters informó que la intervención de Altman ocurrió mientras aumentan las advertencias sobre sistemas capaces de mejorar sus capacidades y eventualmente superar la capacidad humana para controlarlos. El Consejo de Seguridad se centró en los efectos de la inteligencia artificial sobre la seguridad internacional.
Durante la sesión, también intervino Dario Amodei, director ejecutivo de Anthropic, quien afirmó que una mala gestión de la tecnología podría representar un riesgo para la humanidad. Su participación coincidió con el llamado de Altman a que los países trabajen conjuntamente ante el desarrollo acelerado.
Debate internacional sobre la IA
Reuters señaló que Estados Unidos y China mantienen enfoques diferentes sobre la supervisión de la inteligencia artificial. Mientras Washington ha rechazado nuevas regulaciones específicas, China mantiene normas para algoritmos y datos de entrenamiento. El debate internacional busca mecanismos para afrontar riesgos vinculados con esta tecnología.
Yoshua Bengio, copresidente del panel científico internacional independiente creado por Naciones Unidas, también participó este miércoles en la reunión. El experto afirmó que los peligros son reales e inmediatos y señaló que ningún país puede contener por sí solo una amenaza que no respeta fronteras.
El debate sobre inteligencia artificial, OpenAI, Sam Altman y Naciones Unidas continuará mientras los gobiernos analizan cómo responder al desarrollo tecnológico. La reunión planteó cooperación internacional y participación gubernamental mediante procesos democráticos para supervisar sistemas y atender riesgos.