jueves, 2 de noviembre de 2023

MODELOS REGULATIVOS DE LA INTELIGENCIA ARTIFICIAL: LA ORDEN EJECUTIVA DEL PRESIDENTE BIDEN

 


Todos hablan de la Inteligencia Artificial (IA). Da lugar a relatos de ciencia ficción y a distopías que se previenen inminentes. El tema tiene una dimensión geoestratégica muy importante, y desde luego incluye “amenazas al tejido mismo de la democracia”, como señalaba Anthony Giddens en un reciente artículo publicado en La Vanguardia (https://www.lavanguardia.com/vida/20180506/443286426188/una-carta-magna-para-la-era-digital.html) Son muchas las iniciativas para que este ámbito de la llamada revolución digital no se atrinchere en el espacio privado y deje entrar a lo público y al Estado regulando su desarrollo. Por eso ahora se están poniendo en marcha diferentes modelos de regulación que parten de una suerte de cartismo digital o carta de derechos, una declaración de derechos que permita al menos en via de principio equilibrar los avances de la tecnología con el respeto a derechos democráticos básicos.

En este proceso, es evidente la relevancia que tiene un país como Estados Unidos en donde se propulso a partir de la experiencia de Silicon Valley el paradigma de la inversión libre en innovación digital solo sometida al mercado global. Este período se ha terminado, en gran parte por la concurrencia en el mismo de grandes potencias como China que ha influido en la imposición de fuertes restricciones a la exportación a aquel país de semiconductores y chips de inteligencia artificial, pero a su vez genera en el llamado Occidente un razonable temor ante el uso sin más restricciones que las que nacen de los mercados financieros y de inversión de los mecanismos de aprendizaje automático. Estos, se dice, deben ser desarrollados “en aras del bien común, operar sobre la base de principios de inteligibilidad y justicia, respetar los derechos a la intimidad, basarse en amplios cambios en el sistema educativo y no valerse de un poder autónomo para dañar, destruir o engañar a seres humanos”, como resume Giddens en el artículo citado.

En Estados Unidos, la forma de abordar este tema ha sido la de impulsar una declaración de derechos de IA, basado en 8 grandes puntos. El informe sobre esta propuesta de Bill of Rights se puede consultar en este enlace https://www.whitehouse.gov/wp-content/uploads/2022/10/Blueprint-for-an-AI-Bill-of-Rights.pdf y se remonta a hace un año. Sobre la base de estos trabajos, el pasado 30 de octubre el presidente Biden ha promulgado una Orden Ejecutiva en la que recoge lo fundamental de este trabajo, estableciendo un calendario de actividades y de compromisos que deben llevar a cabo diversos organismos de su administración y que se puede consultar aquí: (https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/)

En esta entrada hemos traducido la introducción y los principios que sostienen esa Orden Ejecutiva, por entender que se trata de un documento de gran interés. Resalta en el mismo la continua referencia a la necesidad de que Estados Unidos hegemonice el proceso de desarrollo de IA a nivel mundial, con la consecuente hostilidad hacia la concurrencia de naciones como China en la acumulación de inversión en la innovación tecnológica. Pero hay otra cuestión que merece ser atendida, y es que frente a una mirada frecuentemente centrada en el respeto a los derechos individuales, que es el leit motiv de la gran mayoría de las regulaciones de protección de datos de las que se dispone y que también impregna las proyectadas declaraciones de derechos sobre IA, el texto del Presidente norteamericano hace un extraordinario hincapié en la necesidad del control sindical en la introducción de nuevas tecnologías y la importancia de la negociación colectiva en la empresa como uno de los ejes que garantizan el respeto a los derechos democráticos. Un elemento que sin duda debería subrayarse en la plasmación de un modelo regulativo de la IA que se acomode a los derechos democráticos, tanto individuales como colectivos y sindicales.

Orden Ejecutiva sobre el desarrollo y la utilización segura y fiable de la inteligencia artificial

Por la autoridad que me confieren como Presidente la Constitución y las leyes de los Estados Unidos de América, por la presente se ordena lo siguiente:

     Sección 1. Objeto.  La inteligencia artificial (IA) encierra un extraordinario potencial, tanto prometedor como peligroso.  El uso responsable de la IA tiene el potencial de ayudar a resolver retos urgentes al tiempo que hace que nuestro mundo sea más próspero, productivo, innovador y seguro.  Al mismo tiempo, el uso irresponsable podría exacerbar daños sociales como el fraude, la discriminación, los prejuicios y la desinformación; desplazar y restar poder a los trabajadores; ahogar la competencia; y plantear riesgos para la seguridad nacional.  Aprovechar la IA para el bien y hacer realidad sus innumerables beneficios exige mitigar sus considerables riesgos.  Esta empresa exige un esfuerzo de toda la sociedad que incluya al gobierno, al sector privado, al mundo académico y a la sociedad civil.

     Mi Administración concede la máxima urgencia a regular el desarrollo y el uso de la IA de forma segura y responsable, y por ello está promoviendo un enfoque coordinado de todo el Gobierno Federal para hacerlo.  La velocidad a la que avanzan las capacidades de la IA obliga a Estados Unidos a liderar este momento por el bien de nuestra seguridad, economía y sociedad.

     Al final, la IA refleja los principios de las personas que la construyen, las que la utilizan y los datos sobre los que se basa.  Creo firmemente que el poder de nuestros ideales, los cimientos de nuestra sociedad y la creatividad, diversidad y decencia de nuestra gente son las razones por las que Estados Unidos prosperó en épocas pasadas de rápidos cambios.  Son las razones por las que volveremos a triunfar en este momento.  Somos más que capaces de aprovechar la IA para lograr justicia, seguridad y oportunidades para todos.

     Sec. 2. Política y principios.  La política de mi Administración es impulsar y gobernar el desarrollo y el uso de la IA de acuerdo con ocho principios rectores y prioridades.  Al emprender las acciones establecidas en esta orden, los departamentos y agencias ejecutivas (agencias) deberán, según proceda y de conformidad con la legislación aplicable, adherirse a estos principios, al tiempo que, en la medida de lo posible, tendrán en cuenta las opiniones de otras agencias, la industria, los miembros del mundo académico, la sociedad civil, los sindicatos, los aliados y socios internacionales y otras organizaciones pertinentes:

     (a) La Inteligencia Artificial debe ser segura.  Cumplir este objetivo requiere evaluaciones sólidas, fiables, repetibles y estandarizadas de los sistemas de IA, así como políticas, instituciones y, en su caso, otros mecanismos para probar, comprender y mitigar los riesgos de estos sistemas antes de que se pongan en uso.  También requiere abordar los riesgos de seguridad más acuciantes de los sistemas de IA -incluidos los relacionados con la biotecnología, la ciberseguridad, las infraestructuras críticas y otros peligros para la seguridad nacional-, al tiempo que se navega por la opacidad y la complejidad de la IA.  Las pruebas y evaluaciones, incluida la supervisión del rendimiento posterior al despliegue, ayudarán a garantizar que los sistemas de IA funcionan según lo previsto, son resistentes frente a usos indebidos o modificaciones peligrosas, se desarrollan y operan de forma ética y segura, y cumplen las leyes y políticas federales aplicables.  Por último, mi Administración ayudará a desarrollar mecanismos eficaces de etiquetado y procedencia de los contenidos, para que los estadounidenses puedan determinar cuándo los contenidos se generan utilizando IA y cuándo no.  Estas acciones proporcionarán una base vital para un enfoque que aborde los riesgos de la IA sin reducir indebidamente sus beneficios.

     (b) Promover la innovación responsable, la competencia y la colaboración permitirá a Estados Unidos liderar la IA y liberar el potencial de la tecnología para resolver algunos de los retos más difíciles de la sociedad.  Este esfuerzo requiere inversiones en educación, formación, desarrollo, investigación y capacidad relacionados con la IA, al tiempo que se abordan cuestiones novedosas de propiedad intelectual (PI) y otros problemas para proteger a los inventores y creadores.  En todo el Gobierno Federal, mi Administración apoyará programas para proporcionar a los estadounidenses las habilidades que necesitan para la era de la IA y atraer el talento mundial de la IA a nuestras costas -no sólo para estudiar, sino para quedarse- de modo que las empresas y tecnologías del futuro se hagan en Estados Unidos.  El Gobierno federal promoverá un ecosistema y un mercado justos, abiertos y competitivos para la IA y las tecnologías relacionadas, de modo que los pequeños desarrolladores y emprendedores puedan seguir impulsando la innovación.  Para ello es necesario poner fin a la colusión ilegal y abordar los riesgos derivados del uso por parte de las empresas dominantes de activos clave como los semiconductores, la potencia de cálculo, el almacenamiento en la nube y los datos para perjudicar a los competidores, y es necesario apoyar un mercado que aproveche los beneficios de la IA para ofrecer nuevas oportunidades a las pequeñas empresas, los trabajadores y los emprendedores.

(c) El desarrollo y el uso responsables de la IA requieren un compromiso de apoyo a los trabajadores estadounidenses.  A medida que la IA crea nuevos empleos e industrias, todos los trabajadores necesitan un sitio en la mesa, también a través de la negociación colectiva, para garantizar que se benefician de estas oportunidades.  Mi Administración tratará de adaptar la formación y la educación laboral para apoyar una mano de obra diversa y ayudar a proporcionar acceso a las oportunidades que crea la IA.  En el propio lugar de trabajo, la IA no debe desplegarse de forma que socave los derechos, empeore la calidad del empleo, fomente la vigilancia indebida de los trabajadores, reduzca la competencia en el mercado, introduzca nuevos riesgos para la salud y la seguridad o cause perturbaciones perjudiciales en la mano de obra. Los próximos pasos críticos en el desarrollo de la IA deben basarse en las opiniones de los trabajadores, los sindicatos, los educadores y los empresarios para apoyar usos responsables de la IA que mejoren la vida de los trabajadores, aumenten positivamente el trabajo humano y ayuden a todas las personas a disfrutar de forma segura de los beneficios y las oportunidades de la innovación tecnológica.

     (d) Las políticas de Inteligencia Artificial deben ser coherentes con la dedicación de mi Administración a promover la equidad y los derechos civiles.  Mi Administración no puede tolerar, y no lo hará, el uso de la IA para perjudicar a aquellos a los que ya se les niega con demasiada frecuencia la igualdad de oportunidades y la justicia. Desde la contratación hasta la vivienda y la atención sanitaria, hemos visto lo que ocurre cuando el uso de la IA agrava la discriminación y los prejuicios, en lugar de mejorar la calidad de vida. Los sistemas de Inteligencia Artificial desplegados de forma irresponsable han reproducido e intensificado las desigualdades existentes, han causado nuevos tipos de discriminación perjudicial y han exacerbado los daños físicos y en línea. Mi Administración se basará en los importantes pasos que ya se han dado -como la publicación del Plan para una Declaración de Derechos de la IA, el Marco de Gestión de Riesgos de la IA y la Orden Ejecutiva 14091 de 16 de febrero de 2023 (Fomento de la Equidad Racial y Apoyo a las Comunidades Desatendidas a través del Gobierno Federal)- para tratar de garantizar que la IA cumpla todas las leyes federales y promover evaluaciones técnicas sólidas, una supervisión cuidadosa, el compromiso con las comunidades afectadas y una regulación rigurosa. Es necesario responsabilizar a quienes desarrollan e implantan la IA de las normas que protegen contra la discriminación ilegal y los abusos, incluso en el sistema judicial y el Gobierno Federal.  Sólo entonces podrán los estadounidenses confiar en que la IA promueva los derechos civiles, las libertades civiles, la equidad y la justicia para todos.

     (e) Deben protegerse los intereses de los estadounidenses que utilizan, interactúan o compran cada vez más IA y productos con IA en su vida cotidiana. El uso de nuevas tecnologías, como la IA, no exime a las organizaciones de sus obligaciones legales, y las protecciones al consumidor que tanto ha costado conseguir son más importantes que nunca en momentos de cambio tecnológico. El Gobierno Federal hará cumplir las leyes y principios existentes de protección de los consumidores y promulgará las salvaguardias adecuadas contra el fraude, los prejuicios involuntarios, la discriminación, las infracciones de la privacidad y otros daños derivados de la IA. Estas protecciones son especialmente importantes en ámbitos críticos como la sanidad, los servicios financieros, la educación, la vivienda, el derecho y el transporte, donde los errores o el mal uso de la IA podrían perjudicar a los pacientes, suponer un coste para los consumidores o las pequeñas empresas, o poner en peligro la seguridad o los derechos. Al mismo tiempo, mi Administración promoverá usos responsables de la IA que protejan a los consumidores, aumenten la calidad de los bienes y servicios, reduzcan sus precios o amplíen la selección y disponibilidad.

     (f) La privacidad y las libertades civiles de los estadounidenses deben protegerse a medida que la IA sigue avanzando.  La Inteligencia Artificial está facilitando la extracción, reidentificación, vinculación, inferencia y actuación sobre información sensible acerca de la identidad, localización, hábitos y deseos de las personas. Las capacidades de la Inteligencia Artificial en estas áreas pueden aumentar el riesgo de que los datos personales puedan ser explotados y expuestos. Para combatir este riesgo, el Gobierno Federal se asegurará de que la recopilación, el uso y la retención de datos sean legales, estén protegidos y mitiguen los riesgos para la privacidad y la confidencialidad. Las agencias utilizarán las herramientas políticas y técnicas disponibles, incluidas las tecnologías de mejora de la privacidad (PET) cuando proceda, para proteger la privacidad y combatir los riesgos legales y sociales más amplios -incluido el enfriamiento de los derechos de la Primera Enmienda- que resultan de la recopilación y uso indebidos de los datos de las personas.

(g) Es importante gestionar los riesgos del propio uso de la IA por parte del Gobierno Federal y aumentar su capacidad interna para regular, gobernar y apoyar el uso responsable de la IA para ofrecer mejores resultados a los estadounidenses. Estos esfuerzos comienzan con las personas, el mayor activo de nuestra nación. Mi Administración tomará medidas para atraer, retener y desarrollar profesionales de la IA orientados al servicio público, incluidos los procedentes de comunidades desatendidas, en todas las disciplinas -incluidos los campos de la tecnología, la política, la gestión, la contratación, la regulación, la ética, la gobernanza y el derecho- y facilitará el camino de los profesionales de la IA hacia el Gobierno Federal para ayudar a aprovechar y gobernar la IA. El Gobierno Federal trabajará para garantizar que todos los miembros de su fuerza de trabajo reciban la formación adecuada para comprender los beneficios, riesgos y limitaciones de la IA para sus funciones laborales, y para modernizar la infraestructura de tecnología de la información del Gobierno Federal, eliminar los obstáculos burocráticos y garantizar que se adopte, despliegue y utilice una IA segura y respetuosa con los derechos.

(h) El Gobierno Federal debe liderar el camino hacia el progreso social, económico y tecnológico global, como lo ha hecho Estados Unidos en épocas anteriores de innovación y cambio disruptivos. Este liderazgo no se mide únicamente por los avances tecnológicos de nuestro país. Un liderazgo efectivo significa también ser pionero en los sistemas y salvaguardias necesarios para desplegar la tecnología de forma responsable, y construir y promover esas salvaguardias con el resto del mundo. Mi Administración se comprometerá con aliados y socios internacionales a desarrollar un marco para gestionar los riesgos de la IA, liberar el potencial de la IA para el bien y promover enfoques comunes para los retos compartidos. El Gobierno Federal tratará de promover principios y acciones responsables de seguridad y protección de la IA con otras naciones, incluidos nuestros competidores, al tiempo que lidera conversaciones y colaboraciones globales clave para garantizar que la IA beneficie a todo el mundo, en lugar de exacerbar las desigualdades, amenazar los derechos humanos y causar otros daños.


2 comentarios:

  1. Paco Rodriguez de Lecea2 de noviembre de 2023, 22:50

    Paco Rodríguez de Lecea
    No sé cómo responderán los sindicatos a un desafío tan urgente. Hay pocos síntomas de compromiso visibles.

    ResponderEliminar
  2. Livina Fernandez Nieto2 de noviembre de 2023, 22:51

    Livina Fernández Nieto
    ¡Qué temazo!

    ResponderEliminar