Algoritmos generativos y espejos rotos

Aunque el número de usuarios de ChatGPT está comenzando a disminuir por primera vez desde su creación, con un 10% menos de visitas en todo el mundo durante todo el mes de junioempiezan a verse cada vez más casos de Correo no deseado de IAde sitios web escritos con algoritmos generativos – Algunos ni siquiera se molestan en borrar los muy reconocibles párrafos del tipo «Lo siento, como modelo de lenguaje basado en inteligencia artificial no puedo generar…» o el final «En resumen…».

Estamos ante un absurdo conceptual de primer nivel que parte de una situación ya completamente deteriorada: la industria de creación de contenido, páginas hechas en fábricas donde la gente se dedica a copiar, mezclar y pegar otras páginas para generar un flujo constante de contenido para indícese y aloje anuncios o conviértase en generadores de enlaces para venderlos al mejor postor. Si el SEO ya destrozó la web y llenó el mundo de granjas de páginas, la llegada de algoritmos generativos a manos de personas completamente irresponsables promete que las cosas se harán aún más rápido, lo que podría conducir a una degradación cada vez mayor de Internet en su conjunto.

Esta degradación se deriva de un problema fundamental: no sabemos en qué páginas se están entrenando los algoritmos generativos y, debido al tipo de errores que normalmente vemos en sus respuestas, nos inclinamos a pensar que la selección de inicio no es muy bueno ya respondió -criterios definidos. Pero la siguiente pregunta es obvia: ¿quién debe decidir qué páginas elegir para alimentar los algoritmos generativos?

Como indicó Google hace años, para crear algo de «índice de autoridad» que decide qué bandos cumplen criterios adecuadamente estrictos y cuáles son tonterías, mentiras, conspiración o pura estupidez puede parecer muy interesante, pero adolece de muchos problemas: primero, la subjetividad: quien toma estas decisiones recibiría, a la hora de ir estandarizando sus criterios, una fuerza tremenda que conlleva como diría el tío Ben, una gran responsabilidad. El segundo factor cultural: lo que es innegable o verdadero en un contexto cultural puede no serlo en otro. Y, por último, el interés: la elección de unos contenidos sobre otros puede hacerse con el objetivo de preservar la verdad o, como suele ser el caso, de ganar más dinero a cualquier precio.

Ahora vemos como el lanzamiento de ChatGPT a finales de noviembre del año pasado llena la web de contenido basura generado automáticamente, y si no se presta atención a los criterios de entrenamiento de estos algoritmos (que pueden hacerse públicos y de uso gratuito), no olvidemos, no porque OpenAI sea un encanto, sino porque les dio más datos para su entrenamiento. Pronto comenzarán a alimentarse del mismo contenido que generaron, lo que podría crear un ciclo de retroalimentación muy negativo.capaz de convertir las preguntas en «verdades consensuadas» que simplemente estaban equivocadas porque las primeras páginas utilizadas en el entrenamiento del algoritmo eran incorrectas o inexactas.

Por ejemplo, algunos profesores de física advierten que las respuestas de ChatGPT en su campo a menudo son incorrectas, lo que confunde a sus alumnos y que estos errores se deben claramente a una mala elección del texto instructivo. Si cada vez más personas no solo confían en ChatGPT y sus fallas, sino que crean contenido con él, terminaremos por solidificarlo como tal, como ya ocurre con los buscadores y las redes sociales que promueven “verdades por consenso”.

Me mantendré en mi punto: que regulación No debemos tratar de controlar el desarrollo tecnológico, que en sí mismo es completamente incontrolable, pero sí el uso de estos desarrollos: los algoritmos generativos pueden ser muy interesantes, pero usarlos para llenar páginas con contenido generado automáticamente debe catalogarse como ilegal y por lo tanto punible. Como debería ser Utilice estos algoritmos para generar anuncios personalizados, una actividad solo apoyada en términos de servicio abusivos de empresas privadas que nadie lee, pero que claramente no se ajusta a un consenso social sobre los límites que deben tener las actividades publicitarias. Si la publicidad actual ya genera en muchos una sensación de paranoia al creer que sus dispositivos los están espiando constantemente, veremos qué sucede cuando sean los algoritmos quienes, en función de nuestra actividad en la red, diseñen los mensajes específicamente para nosotros. único objetivo es que hagamos clic en un anuncio.

Lo que viene a continuación a medida que avanzamos por este camino será como mirarnos en un espejo cada vez más roto. Y la imagen que obtengamos no será nada bonita.