Tecnología

Siete empresas y ocho vagas promesas

La Casa Blanca ha reunido a siete empresas dedicadas específicamente al desarrollo de IA y algoritmos generativos Amazonas, antrópico, Google, inflexión, Meta, microsoft Y IA abiertay ha decidido anunciar ser compromiso para el cumplimiento de ocho principios que considera muy importantes y que están formulados en términos muy amplios y generales.

Los ocho principios, cuya redacción fue finalmente aprobada por los participantes, son los siguientes:

  1. Las empresas se comprometen a realizar pruebas de seguridad internas y externas de sus sistemas de IA antes de la publicación.
  2. Las empresas se comprometen a compartir información dentro de la industria y con los gobiernos, la sociedad civil y el mundo académico sobre cómo gestionar los riesgos de la IA.
  3. Las organizaciones se comprometen a invertir en ciberseguridad y protección contra amenazas internas para proteger el peso de los modelos propietarios e inéditos.
  4. Las empresas se comprometen a facilitar el descubrimiento y la notificación de vulnerabilidades en sus sistemas de IA por parte de terceros.
  5. Las organizaciones se esfuerzan por desarrollar mecanismos técnicos sólidos para garantizar que los usuarios sepan cuándo se genera contenido utilizando IA, como los sistemas de marca de agua.
  6. Las organizaciones se comprometen a informar públicamente sobre las capacidades, limitaciones y áreas de uso apropiado e inapropiado de sus sistemas de IA.
  7. Las empresas se comprometen a priorizar la investigación sobre los riesgos sociales que pueden plantear los sistemas de IA, incluso para evitar prejuicios y discriminación dañina o para proteger la privacidad.
  8. Las empresas están comprometidas con el desarrollo y despliegue de sistemas avanzados de inteligencia artificial para ayudar a resolver los mayores desafíos de la sociedad.

Como puede verse, todos podemos estar mucho más tranquilos ahora, sabiendo que el avance de la tecnología nunca supondrá un problema en estas manos.

¿NO? ¿Cómo puede ser que no mantengas la calma con tales compromisos? No sé, no lo entiendo… ¿quizás sea porque varios de ellos ya estaban bastante lesionados antes de firmar? ¿Alguien ha visto un sistema realmente confiable que permita que el contenido creado por algoritmos generativos se identifique y distinga de manera confiable del contenido creado por humanos? ¿Su preocupación se basa en el hecho de que varias de estas empresas han violado anteriormente varios de estos principios, lo que ha puesto en peligro a personas o incluso a los sistemas políticos de países enteros? ¿O que algunas de estas empresas han estado ocultando y negando problemas de ciberseguridad durante mucho tiempo? ¿O tal vez es porque algunos de esos compromisos tienen un aire de buena naturaleza y una declaración vacía de buenas intenciones tan obvia que asusta?

¿De verdad alguien piensa que una afirmación como esta, escogiendo siete empresas, quién sabe cómo, servirá de algo? ¿Alguien se siente mejor después de leerlo? ¿Qué sucede con estas siete empresas cuando simplemente no cumplen con estos principios, incluso si claramente los ignoran? ¿Y con cualquier otra empresa que no pertenezca a estas siete?

Sinceramente, tras semejante reunión y principios, no me siento nada más tranquilo. La Casa Blanca ha seleccionado a siete empresas y les ha pedido que firmen ocho compromisos tan amplios, tan interpretables y tan ambiguos que en la práctica no implican absolutamente nada desde un punto de vista legal u obligatorio, alegando que se trata de una especie de regulación. No, esto no es normal. Primero, porque comete el error de creer que la tecnología es una necesidad de regulación que no se puede regular. Y segundo, y esto es mucho más grave, porque no busca regular a quienes adoptan esta tecnología y la integran en sus lanzamientos de productos y servicios. La Casa Blanca está tratando a siete empresas como si fueran «los hechiceros de la tribu», simplemente diciéndoles que «se comprometan a ser buenos y a ser buenos», sin más, sin un marco que los haga responsables de cualquier problema que pueda surgir. Recuerde, estos no son problemas de «tecnología», sino más bien un uso irresponsable de la misma.

Francamente, si eso es lo que Estados Unidos debe hacer para regular estos temas en el futuro, será mejor que esperemos a que alguien con más sentido común hable un poco más sobre estos temas.

Publicaciones relacionadas

Botón volver arriba