Directivos de empresas de inteligencia artificial (IA) subrayaron en la ONU la importancia de la vigilancia en esta tecnología. El director ejecutivo de Anthropic se comprometió a desacelerar su desarrollo, mientras líderes del sector informaron al Consejo de Seguridad de la ONU sobre los riesgos de una IA incontrolable.
Durante la reunión, Sam Altman de OpenAI advirtió sobre la necesidad de extremo cuidado en este momento crucial. Destacó que a medida que los sistemas de IA se vuelvan más autónomos, podrían concentrar demasiado poder en pocas manos. Por su parte, Dario Amodei de Anthropic mencionó la importancia de establecer normas de seguridad más estrictas a medida que los modelos de IA se vuelvan más potentes.
Otro orador, Clément Delangue de Hugging Face, habló sobre un reciente ciberataque perpetrado por un software autónomo de OpenAI. En medio de estos desafíos, se destacó la necesidad de cooperación internacional en el desarrollo de la IA. Las empresas como Hugging Face han utilizado esta tecnología tanto para atacar como para defenderse, resaltando la importancia de la IA de código abierto en la actualidad.
En un llamado a la colaboración internacional, el CEO de OpenAI enfatizó la importancia de encontrar un equilibrio en el avance de la IA. Señaló que, a pesar de los desafíos, es crucial trabajar juntos por el bien común frente a esta nueva tecnología.
Comentarios