Sam Altman, consejero delegado de OpenAI, ha destacado la necesidad de establecer estándares internacionales de seguridad para la inteligencia artificial (IA) y alertó sobre los peligros de la fragmentación normativa en el mundo. Su declaración se realizó en una publicación en la red social X, donde enlaza un artículo que firma junto al científico jefe de la compañía, Jakub Pachocki.
Lecciones de otros sectores
Altman sugiere que, al definir estos estándares, se pueden tomar lecciones de sectores como la aviación y las finanzas, donde se han desarrollado normas técnicas comunes y canales de cooperación sin sacrificar la soberanía nacional.
El CEO de OpenAI, quien recientemente abogó por una pausa en el desarrollo de modelos avanzados de IA, enfatiza que es crucial que personas ajenas a los laboratorios de IA participen en la toma de decisiones. Esto es necesario para evitar la concentración de poder y asegurar un entorno competitivo.
Objetivos para el futuro de la IA
Altman y Pachocki establecen tres metas para que la inteligencia artificial general beneficie a toda la humanidad:
- Desarrollar un investigador de IA automatizado enfocado en la alineación y el control humano.
- Fomentar el progreso científico y el crecimiento económico.
- Empoderar a los individuos a través de modelos de IA personalizados.
Ambos recalcan que la IA está acelerando descubrimientos significativos en campos como las matemáticas y la medicina, y que, a medida que estos sistemas ganan autonomía, es vital investigar cómo alinear los desarrollos tecnológicos con los valores humanos.
Riesgos de la auto-mejora recursiva
Con el aumento de la IA en las tareas de desarrollo, surge la posibilidad de una «auto-mejora recursiva» que podría acelerar el progreso. Sin embargo, advierten que, sin la debida precaución y decisiones democráticas informadas, los humanos podrían perder el control sobre la investigación.
OpenAI señala que, si no se establecen salvaguardias sólidas, el aceleramiento de estos procesos podría generar sistemas incomprensibles para la supervisión humana, volviéndose más peligrosos y menos coherentes.
Para mitigar estos riesgos, Altman y Pachocki consideran esencial fijar estándares internacionales de seguridad que guíen a los desarrolladores. Además, proponen que Estados Unidos lidere este esfuerzo a través del Centro de Estándares e Innovación en Inteligencia Artificial (CAISI) y colabore con institutos de seguridad de varios países, incluyendo Australia, Canadá, Alemania, Francia, Kenia, Japón, Corea, Singapur, India y el Reino Unido.
Finalmente, los responsables de OpenAI identifican la dispersión normativa y la fragmentación regulatoria como uno de los principales desafíos para la gobernanza de la inteligencia artificial a nivel mundial.
Fuente: Plano Informativo
