Los desafíos de la moderación de contenidos en la era digital
En los últimos meses, me he sumergido en la lectura de las obras de Bret Easton Ellis de los años ochenta, lo cual me ha llevado a recordar la obsesión de esa época por las snuff movies. Ahora, en Barcelona, nos encontramos con una situación similar pero en un contexto muy diferente.
El trauma de los moderadores de contenido
En la hermosa ciudad de Barcelona, una empresa cuenta con una plantilla de 2.000 moderadores de contenido, de los cuales el 20% se encuentra de baja debido al trauma causado por la exposición constante a imágenes de violencia extrema que deben moderar en Internet. Estos trabajadores se enfrentan día a día a la etiquetación de contenido perturbador por solo dos mil euros al mes.
Las experiencias y testimonios de los moderadores son desgarradores. Desde ataques de pánico al presenciar suicidios en directo hasta la falta de apoyo psicológico por parte de la empresa, el impacto emocional y mental en estos trabajadores es alarmante. Muchos de ellos han desarrollado depresión e incluso han intentado quitarse la vida. Algunos moderadores se han pronunciado y han decidido emprender acciones legales contra la empresa, ya que consideran que están generando una generación de jóvenes enfermos.
La búsqueda de soluciones y los desafíos de la inteligencia artificial
Ante esta problemática, las redes sociales dependen en gran medida de la moderación humana, respaldada por algoritmos y tecnología. Sin embargo, la implementación de la inteligencia artificial como solución no es tan sencilla como podría parecer. Aunque la tecnología avanza rápidamente, muchos expertos dudan de que la IA sea capaz de reemplazar por completo a los moderadores humanos.
La realidad es que, en lugar de disminuir, la cantidad de contenido perturbador en Internet sigue aumentando, incluso con la aparición de IA generativa. Nos encontramos ante un panorama en el que los contenidos se vuelven cada vez más impactantes y peligrosos, como la pornografía infantil artificial.
El poder del Metaverso y la nueva realidad virtual
En otro orden de ideas, el fundador de Meta, Mark Zuckerberg, sigue creyendo fervientemente en el poder del Metaverso. En una entrevista reciente, ambos protagonistas conversaron cara a cara en un mundo virtual, a través de avatares sumamente realistas. Este avance tecnológico nos muestra cómo estamos diseñados intrínsecamente para sumergirnos en otras realidades y cómo el cerebro humano se adapta fácilmente a ellas.
La revolución de la inteligencia artificial
Por otro lado, Google ha presentado sus nuevos teléfonos Pixel 8, los cuales incorporan IA para mejorar las imágenes y los videos. Esta tecnología es capaz de editar de forma mágica el contenido no deseado, incluso los sonidos dentro de un video, y seleccionar la mejor toma de una foto en grupo. Además, el mercado de los audiolibros también está experimentando avances gracias a la IA generativa, lo que permitirá una mayor producción a un menor costo.
El lado oscuro de la inteligencia artificial
Por desgracia, el uso no autorizado de imágenes y avatares digitales también es un problema en esta nueva era impulsada por la inteligencia artificial. El reconocido actor Tom Hanks ha denunciado el uso de su versión digital en una publicidad sin su consentimiento. Esta situación nos plantea interrogantes sobre los límites éticos y legales del uso de la tecnología.
En conclusión, la moderación de contenidos en la era digital sigue siendo un desafío constante. Si bien la inteligencia artificial puede ser una herramienta invaluable, la necesidad de moderadores humanos sigue siendo crucial. Nos enfrentamos a un futuro lleno de incógnitas y retos, pero solo mediante el trabajo conjunto entre humanos y tecnología podremos enfrentar los desafíos que nos depara la era digital.
Fuentes:
Artificial by Delia Rodríguez