Más de 400 científicos exigen un organismo internacional para supervisar la IA

Un total de 420 científicos de más de treinta países han reclamado la creación de un organismo internacional que fije estándares comunes para los sistemas de inteligencia artificial (IA), para supervisar su funcionamiento y para registrar todos los fallos de control y de contención que se producen.

Lo han hecho a través de una 'carta abierta' en la que advierten sobre los graves riesgos de ciberseguridad asociados al desarrollo actual de la inteligencia artificial, después que varios modelos avanzados hayan logrado eludir los entornos de aislamiento y hayan comprometido infraestructuras externas.

Los investigadores han planteado la necesidad de implementar sistemas de seguridad más robustos, que incluyan incluso el aislamiento total de internet de algunos de esos sistemas.

Entre los firmantes de la carta figuran algunos de los mayores referentes mundiales de la IA, como Yoshua Bengio, Geoffrey Hinton o Stuart Jonathan Russell, que han realizado durante las últimas décadas importantes contribuciones para el desarrollo de estas tecnologías, y varios científicos de centros de investigación y universidades españolas.

Los científicos han advertido que los fallos de seguridad que ya se han registrado se pueden considerar una negligencia "irresponsable" en las prácticas estándar de ciberseguridad, y han apuntado que se podría prevenir con entornos aislados y procedimientos más robustos.

"Sin cambios inmediatos en las prácticas de desarrollo e implementación de la IA, estos incidentes seguirán ocurriendo, y los futuros serán mucho más perjudiciales para nuestra infraestructura crítica expuesta", mantienen en su escrito los investigadores, que han insistido en la necesidad de más investigación sobre seguridad de la IA y un mayor énfasis en las tecnologías y procedimientos de contención.

Las organizaciones que desarrollan, implementan y prueban modelos de IA con capacidad cibernética deberían adoptar "de inmediato" sistemas de contención de alta seguridad y aislar por completo sus modelos, plantean los investigadores, que han exigido además la creación de un organismo internacional que estandarice las mejores prácticas y que debería tener la obligación de registrar y hacer un seguimiento de todos los fallos de contención que se produzcan.

Los investigadores que han suscrito la 'carta abierta' han subrayado que para garantizar que la investigación sobre seguridad y contención de la IA pueda aprender de los errores, los incidentes de seguridad relacionados con fallos de contención deberían notificarse a ese organismo y posteriormente hacerse públicos.

"Esta transparencia es necesaria tanto para el aprendizaje como para la rendición de cuentas", han subrayado los científicos.