Escrito por expertos de 30 países y presidido por Yoshua Bengio, considerado uno de los tres “padrinos de la IA”, se espera que el AI Safety Report sea una guía para los responsables de las políticas públicas en todo el mundo. Fue encargado en noviembre de 2023 y se inspiró en el trabajo del Panel Intergubernamental sobre Cambio Climático de las Naciones Unidas, para consolidar la experiencia internacional más experta que existe en el mundo sobre la IA y sus riesgos. El texto identifica tres categorías de riesgos:
El informe hace especial hincapié en la urgencia de aumentar la transparencia y la comprensión en la toma de decisiones en materia de IA, a medida que los sistemas se vuelven más sofisticados y la tecnología continúa desarrollándose a un ritmo rápido.
También destaca que, si bien las capacidades de la IA pueden avanzar a distintas velocidades, su desarrollo y sus riesgos potenciales no son una conclusión inevitable. Los resultados dependen de las decisiones que tomen las sociedades y los gobiernos hoy y en el futuro.
Álvaro Soto, director del Centro Nacional de Inteligencia Artificial, CENIA, aseguró que pocos documentos tienen la profundidad científica del AI Safety Report: “Al leerlo se ve que tanto en temas generales como temas específicos, por ejemplo, en reconocimiento visual, multimodal o de los modelos de lenguaje, aparecen las referencias clave y eso permite a cualquiera profundizar y saber lo último que se ha investigado sobre el tema. De los muchos informes que he leído creo que por su profundidad, completitud, diversidad y timming -porque incluye mucho de lo que está sucediendo ahora- este es un gran aporte. Yo participé en dos capítulos técnicos del estado del arte de la IA en términos de sus principales técnicas y cómo están impactando tanto en el caso de los modelos de lenguaje y los modelos multimodales. Los autores principales hicieron un primer draft y sobre él tuvimos varias iteraciones para indicar ‘acá falta esto y esto de frentón esto no es así’. Pudimos aportar significativamente porque ese primer draft cambió bastante”.
Raquel Pezoa, académica de la UTFSM, destacó que este reporte fue liderado por Yoshua Bengio, uno de los principales expertos en IA a nivel mundial: “El objetivo es informar sobre los posibles riesgos de esta tecnología, con un objetivo claro: que quienes hacen las leyes puedan estar informados y tomar decisiones de manera colaborativa entre los distintos países. Mis tareas incluyeron asesorar el alcance, la estructura y los temas por abordar del reporte, además de sugerir revisores de ONG y de la industria, de manera de generar un texto claro y crítico”.
La embajadora de Reino Unido en Chile, Louise de Sousa, cuyo gobierno coordinó el reporte independiente luego del Safety Summit de Londres, mencionó: “La publicación es un ejemplo claro de cómo la colaboración internacional puede generar soluciones y guías de trabajo concretas a los desafíos más urgentes de la inteligencia artificial. Chile ha demostrado liderazgo en esta materia, particularmente el Ministerio de Ciencia, con quienes colaboramos continuamente. Estoy orgullosa de ver su contribución en un esfuerzo global tan significativo.”