La semana pasada, el mundo del poker se vio sacudido por un escándalo que, a diferencia de la mayoría de las tormentas que encuentro en el mundo del poker en mi cuenta de Twitter, me golpeó directamente en el estómago.
Hace unas semanas, se estrenó con bombos y platillos un documental de poker llamado NO LIMIT: más de 650 horas de metraje del primer $25,000 World Series of Poker Super Main Event en las Bahamas, condensadas en ocho episodios de media hora. Nos prometieron dramas humanos con el poker como telón de fondo. Queda por ver si algún día veremos los ocho episodios completos; los seis primeros ya fueron eliminados de internet.
Resultó que al creador de la serie, Dustin Iannotti, le faltaban 650 horas de material, por lo que utilizó IA para añadir diálogos a los personajes de la película, incluidos los actores principales, sin informarles ni obtener su consentimiento.
¿Cómo se supo esto? No por la advertencia sobre el uso de IA en los créditos de la serie, ni por los productores, que ni siquiera pensaron en informar al público: "Ah, por cierto, añadimos un poco de nuestra propia fantasía para hacerlo más divertido". No. Es solo que uno de los jugadores, Alan Keating, notó algo extraño mientras se veía en pantalla y tuiteó al respecto:
— Media docena de mis declaraciones fueron generadas por IA. El equipo de filmación me atribuyó palabras que no dije sin mi conocimiento.
¿Qué harías si te encontraras en una situación similar?
Solo después de la publicación de Keating, Iannotti admitió haber generado las líneas de los jugadores. Tanto el tuit de Keating como la respuesta de Iannotti fueron eliminados de la plataforma. Iannotti cree que no ocurrió nada fuera de lo común. Las palabras añadidas fueron pocas y ayudaron a avanzar la narrativa.
— Abordaré las preocupaciones del Sr. Keating: usamos tecnología IA para dos líneas cortas, generando 10 segundos de los 55 minutos de los episodios cinco y seis, durante la postproducción. Claro, debimos haber consultado con Alan sobre esta decisión de dirección.
El quinto episodio recibió críticas abrumadoramente positivas, y muchos espectadores disfrutaron especialmente las escenas en las que aparecía Alan.
A Keating no le impresionó. "Ni siquiera merece una respuesta, y ya sabes por qué", escribió.
Como alguien que ha aparecido en docenas de documentales, inmediatamente me puse en guardia. Al firmar un contrato, siempre especifico que mis declaraciones no pueden ser editadas para cambiar el significado de las frases. Elijo mis palabras con cuidado para que un productor obsesionado con su propia narrativa no pueda manipularlas a su gusto. Tacho escrupulosamente cualquier texto que pueda ser objeto de una edición sesgada y exijo que cualquier cambio importante sea aprobado por mí por separado. Si los productores no lo aceptan, revoco el derecho a usar el material. (El año pasado, pasé un día entero filmando una importante serie canadiense, pero resultó ser una pérdida de tiempo cuando discrepamos sobre un texto).
Y aun así, por mucho que lo intentes, la mierda pasa. Nunca sabes realmente qué harán con tus palabras. Pero lo que hizo el equipo de NO LIMIT va más allá de toda decencia, rompiendo todas las reglas del cine documental. Los documentales modernos documentan. Primero muestran la verdad y luego se preocupan por crear un paquete atractivo. Esto no es un reality show. Los documentales funcionan de manera diferente. Si te faltan cientos de horas de material y recurres a la IA en busca de ayuda, ese es tu propio problema como escritor, un signo de pereza intelectual y creativa.
Esto también es señal de una brújula moral rota. Éticamente, tienes la responsabilidad de trabajar abiertamente. ¿Planeas usar IA? Genial, adelante. Simplemente avisa a todos con antelación y obtén el consentimiento de los invitados. Algunos estarán de acuerdo. Otros se negarán. ¿Planeas inventar un diálogo que nunca ocurrió? Obtén permiso de la persona para editar el contenido con su participación, y asegúrate de advertir a la audiencia que no les estás mostrando la historia auténtica prometida, sino una realidad mejorada por IA.
Como escritora, he desarrollado una alergia al uso de la IA, tanto encubierta como abierta, con el objetivo de reemplazar el trabajo de los creativos. Pero mi opinión es irrelevante aquí. Si un autor quiere usar IA, adelante; no soy una especie de Ludita. La IA llegó para quedarse, nos guste o no. Pero un autor tiene una obligación con el público. Es necesario ser honesto y respetar las reglas. Este principio se aplica a documentalistas, periodistas, guionistas, etc. No creo que mis lectores, especialmente los suscriptores de pago, se alegren de descubrir de repente que mis textos fueron generados parcialmente por IA. (Ni una palabra, lo prometo). Hay periodistas que han perdido sus trabajos por delitos menores.
Michael Shamberg, un experimentado productor cinematográfico de Hollywood que ha trabajado en Pulp Fiction, Contagion y Erin Brockovich, entre otras, se encuentra en el otro extremo del espectro en cuanto al uso de la IA en el proceso creativo. Le apasiona la generación de vídeo y cree que la IA revolucionará el cine. ¡Es un auténtico fan de esta nueva tecnología! Le expliqué la situación de esta película y esta fue su respuesta: hay que cumplir las normas. ¿Quieres añadir algo a la entrevista? De acuerdo, pero 1) debe hacerse con el permiso del entrevistado y 2) el espectador debe estar informado. La regla es simple pero estricta: el espectador debe saber que lo que escucha o ve es el resultado de una red neuronal generativa. Ocultarlo es inaceptable.
El uso secreto y no revelado de IA por parte del equipo en la serie es pésimamente grave. Lo que es aún peor es su postura de que no ocurrió nada especial, alegando que la mayoría del material se creó sin la ayuda de la IA. Desafortunadamente, no funciona así. No importa si dura 10 horas, 10 minutos o 10 segundos. Si el público no sabe que el video se generó de esa manera, lo estás engañando, y eso es un asunto muy serio.
La IA está cambiando radicalmente el mundo creativo. Ya seas entusiasta o escéptico, ignorarla es inútil. La tecnología es imparable. Sin embargo, al implementarla, se deben seguir ciertas reglas. Sólo la honestidad y la transparencia preservarán el respeto por nuestras queridas formas de arte en este nuevo mundo.
Adición importante
Tras la publicación de este artículo, salió a la luz otro incidente relacionado con la IA que involucraba contenido de poker: se encontraron rastros de Chat GPT en un artículo en el sitio web Pokerlistings dedicado a la sala WPT.
La fuente pequeña en la parte inferior no apareció de inmediatoCuando empezó el ruido, apareció el autor del artículo y adoptó la postura que ya conocemos: todo está bien, no hay de qué preocuparse, todo el mundo lo hace.
— Oye, @SrslySirius, eres el director creativo de Club WPT Gold, ¿verdad? "¡Wow, qué loco!". ¡Menuda obra maestra! ¿Por qué no te pones los pantalones y me contactas directamente?
¿Por qué no respondes preguntas específicas en el artículo, sino que te centras en cómo se hizo?
Sí, usé IA al escribir mi texto. No lo oculto. La IA es una buena asistente, aunque con grandes defectos, que me ayuda a transformar ideas sin procesar en algo digerible. No cité mal a nadie. La IA simplemente me ayudó a sintetizar ideas y formularlas...
Sinceramente, no puedo creer que no sea obvio: ESTO NO ES NORMAL. No, no se pueden usar redes neuronales generativas al escribir textos. No, no todos los periodistas lo hacen. Ni de lejos. Sí, tus artículos serán eliminados del sitio y no te encargarán nuevos si intentas algo así en algún medio de comunicación que se precie. Si los editores no lo vigilan y publican un artículo así, cuando se sepa la verdad, se retractarán y se disculparán en la columna del editor.
La semana pasada, The Local publicó un artículo sobre este fenómeno. Recomiendo encarecidamente leerlo completo, pero quiero señalar que su autor, Nicholas Huynh-Brown, acuñó un término para el periodismo ChatGPT y no duda en usarlo: «estafa».
¿Qué fue exactamente lo que se le atribuyó a Keating?
Del artículo de PokerNews:
La primera cita generada aparece en el minuto 19:18 del episodio 5, cuando Keating dice: "Me gusta poner a la gente en situaciones difíciles y poner a prueba su fuerza de voluntad". Iannotti afirma haber deducido esta afirmación de varios comentarios de Keating sobre el tema, como: "Creo que las partidas cash ponen a prueba a una persona más que los torneos". También dijo: "Odio admitirlo, pero me da mucha satisfacción ver a alguien realmente frustrado" y "Creo que me siento más cómodo en situaciones difíciles que la mayoría de la gente. Si tengo una ventaja, ahí es donde está". A partir de estas citas, los productores utilizaron IA para generar su respuesta para el episodio.
La segunda activación de la IA ocurre al 23:00 del episodio 6, donde Keating pregunta: "¿Terminamos? ¿Podemos encontrar una partida cash?".
Otro Keating, Alex, también se quejó de que los cineastas añadieron una "voz falsa" a su escena y distorsionaron el contexto durante la edición. "No estuve de acuerdo con esto", tuiteó. "Ya no quiero formar parte de esto y no doy mi consentimiento para el doblaje ni el montaje".