Primer Ministro británico pide tomar en serio los riesgos de la Inteligencia Artificial
El gobierno del Reino Unido publica por primera vez un informe sobre capacidades y los riesgos de la Inteligencia Artificial de frontera.
Government releases a discussion paper on the risks of AI
- El gobierno del Reino Unido publica por primera vez un reporte sobre capacidades y riesgos de la Inteligencia Artificial (IA) de frontera, a partir de fuentes como las evaluaciones de servicios de inteligencia del Reino Unido.
- Esta información servirá de base para los debates de la Cumbre sobre la Seguridad de la IA que se celebrará la semana que viene en Bletchley Park, con el objetivo de llegar a una comprensión global compartida de los riesgos que plantea la IA de frontera.
- El Primer Ministro Rishi Sunak pronunció hoy un discurso sobre cómo tenemos la responsabilidad global de comprender y abordar los riesgos que rodean a la IA, con el fin de aprovechar todos sus beneficios y oportunidades para las generaciones futuras.
Este nuevo documento sobre las capacidades y los riesgos de la IA de frontera ha sido publicado por primera vez por el Gobierno del Reino Unido hoy jueves 26 de octubre, en vísperas del discurso del Primer Ministro sobre la responsabilidad global de afrontar los riesgos sin rodeos y aprovechar al máximo las oportunidades que puede brindar la IA.
Existe una variedad de opiniones de la comunidad científica, personas expertas y la comunidad global sobre los riesgos derivados del rápido progreso en la IA de vanguardia, que se espera evolucione a gran velocidad en los próximos años. El informe publicado hoy se basa en varias fuentes, entre ellas evaluaciones de los servicios de inteligencia del Reino Unido.
Uno de los objetivos clave de la Cumbre de Seguridad de la IA, la primera en su tipo, es llegar a un entendimiento compartido sobre riesgos emergentes, que puede informar cómo son gestionados por diversos países. También destaca la necesidad de que países de todo el mundo comprendan los obstáculos que presenta la IA de frontera para desbloquear sus beneficios.
La publicación servirá como documento de debate durante la Cumbre de Seguridad de la Inteligencia Artificial que se llevará a cabo la próxima semana en el Reino Unido. Ambas acciones forman parte del plan del gobierno británico, liderando el camino a nivel mundial en materia de seguridad de la IA. Está en nuestro interés a largo plazo comprender y controlar los riesgos de la IA para aprovechar las enormes oportunidades que brinda para mejorar la vida de las personas, los servicios públicos, el crecimiento económico y la productividad.
La publicación se produce antes del discurso que pronunciara hoy el Primer Ministro británico Rishi Sunak sobre la IA. En él, expone cómo el gobierno del Reino Unido trabajará para hacer que la IA sea segura, consolidarse como líder mundial en este tema y garantizar que puedan aprovecharse sus beneficios y construir un futuro mejor para las generaciones venideras.
El Primer Ministro Rishi Sunak menciona:
“La IA traerá nuevos conocimientos, oportunidades de crecimiento económico, avances en la capacidad humana y la posibilidad de resolver problemas que alguna vez pensamos que estaban fuera de nuestro alcance. Pero también trae consigo nuevos peligros y nuevos temores.
“Nuestra responsabilidad es abordar esos temores de frente, mientras nos aseguramos que ustedes y sus hijos tengan todas las oportunidades para un futuro mejor que la IA puede brindarles.
“Hacer lo correcto, no lo fácil, significa ser honesto con la gente acerca de los riesgos de estas tecnologías”.
El informe se compone de tres partes:
-
Capacidades y riesgos de la IA de frontera: un documento de debate sobre la necesidad de seguir investigando los riesgos de la IA. Cubre el estado actual de las capacidades de IA de vanguardia, cómo podrían mejorar en el futuro, así como los riesgos que presentan actualmente, incluidos los daños sociales, el uso indebido y la pérdida de control.
-
Riesgos de seguridad y protección de la inteligencia artificial generativa hasta 2025: un informe basado en fuentes que incluyen evaluaciones de inteligencia, que afirma que el desarrollo de la IA generativa tiene el potencial de traer importantes beneficios globales, pero también aumentará los riesgos para la seguridad al mejorar las capacidades de los actores de amenazas y aumentando la efectividad de los ataques.
-
Riesgos futuros de la IA fronteriza: un informe de la Oficina Gubernamental para la Ciencia, que considera incertidumbres clave en el desarrollo de la IA fronteriza, los riesgos que podrían plantear los sistemas futuros y una variedad de escenarios potenciales para la IA hasta 2030.
La Cumbre se centrará en los riesgos en la frontera en torno al uso indebido de la IA por parte de actores no estatales para provocar daños como ciberataques o diseñar armas biológicas, así como los riesgos en torno a la pérdida de control de la IA.
Reconociendo que la IA también puede tener repercusiones más amplias en la sociedad, la Cumbre también incluirá debates sobre los riesgos de la integración de la IA de vanguardia en la sociedad, como la perturbación de las elecciones, la parcialidad, la delincuencia y la seguridad en línea. También se está trabajando intensamente en otros foros internacionales y a nivel nacional para hacer frente a otros riesgos derivados de la IA.
En palabras de la Secretaria de Tecnología, Michelle Donelan:
“Esto marca un hito, ya que el Reino Unido se convierte en el primer país del mundo en resumir formalmente los riesgos que presenta esta poderosa tecnología.
“No cabe duda de que la inteligencia artificial puede transformar el mundo y lo hará para mejor, desde facilitar las tareas cotidianas hasta mejorar la asistencia sanitaria y afrontar retos globales como el hambre en el mundo y el cambio climático. Pero no podemos aprovechar sus beneficios sin abordar también los riesgos.
“Ningún país puede hacerlo solo, por lo que el mes que viene recibiremos en Bletchley Park a gobiernos, académicos, grupos de la sociedad civil y empresas para llegar a un entendimiento común de los riesgos y debatir cómo podemos desarrollar y utilizar la IA de forma segura y responsable para que mejore vidas”.