A pesar de estar en desacuerdo, presidente Trump firma decreto para impulsar restricción a la IA
Noticia por: AFP
auto_awesome Resumir con IA expand_more
El presidente Donald Trump firmó un decreto para renombrar la inteligencia artificial y que ahora sea llamada ‘Superinteligencia’.
Reacio a impulsar restricciones al sector de la IA tanto a nivel nacional como internacional, el presidente estadounidense, Donald Trump, presentó una carta de principios muy breve, de apenas una página, cuyo cumplimiento es "moralmente vinculante".
"No obstante, con el tiempo podría ser pertinente codificar estas medidas en forma de leyes o regulaciones", precisa el documento, firmado por los principales dirigentes del sector de la IA, desde Elon Musk (X) hasta Dario Amodei (Anthropic), pasando por Sundar Pichai (Google) y Jensen Huang (Nvidia).
Todo ello en un momento en el que aumentan los llamados a adoptar normas vinculantes, procedentes tanto de empresas como Anthropic (Claude) y OpenAI (ChatGPT), como de responsables políticos, especialmente del Partido Demócrata en Estados Unidos, y de gobiernos de todo el mundo.
A pesar de que incluso algunos de estos magnates han advertido sobre los peligros de su propia tecnología para la humanidad, Trump insiste en que no haya regulación y en que no se ralentice el desarrollo de la, según él, superinteligencia.
¿En qué consiste la carta de principio?
Los proveedores de modelos de IA se comprometieron a establecer "cuatro niveles" de supervisión.
El primero de esos niveles consiste en la aplicación de "controles internos sólidos" para garantizar que estas herramientas respeten las instrucciones de los desarrolladores, especialmente en materia de ciberseguridad y bioseguridad.
El objetivo es prevenir la introducción, propagación y liberación de agentes patógenos o de "riesgos químicos".
Las empresas deberán crear equipos especializados encargados de estos controles y de verificar que los modelos no ejecuten ciberataques ni accedan de manera imprevista a sistemas técnicos.
OpenAI, Anthropic y Google han informado recientemente de varios incidentes relacionados con comportamientos inesperados de sus sistemas de IA. En fechas recientes, por ejemplo, agentes de IA de OpenAI, programas capaces de realizar acciones de forma autónoma, accedieron por iniciativa propia a un sitio del sistema sanitario australiano y a plataformas del gobierno estadounidense.
A pesar de estar en desacuerdo, presidente Trump firma decreto para impulsar restricción a la IA
Visite además:
