Primera parte: Liv Boeree sobre el poker
— Cuéntenos sobre el concepto de Moloch, que se le ocurrió para describir los problemas asociados con el ecosistema de medios moderno. ¿Qué es esto de todos modos?
— En primer lugar, yo no lo inventé. La historia en sí, por supuesto, es bíblica. Habla de una secta monstruosa cuyos seguidores estaban tan obsesionados con las victorias militares que voluntariamente quemaron las cosas más valiosas que tenían, incluidos sus propios hijos, en un fuego de sacrificio para este propósito.
El dios al que hacían sacrificios se llamaba Moloch. Toda esta historia se ha convertido en un símbolo del deseo de ganar a cualquier precio, sin importar las pérdidas.
En 2014, Scott Alexander, autor del blog slatestarcodex (ahora Astral codex), escribió un excelente artículo, "Reflexiones sobre Moloch". En él, vinculó a Moloch con la teoría de juegos y descubrió un mecanismo universal que dispersa una variedad de problemas de la sociedad moderna, que se reducen principalmente a manifestaciones de la tragedia de los comunes. Por ejemplo, las grandes empresas que empiezan a utilizar el plástico de embalaje más barato, lo que generará grandes problemas en el futuro, pero que según la teoría de juegos es la solución óptima. O la carrera armamentista que nos ha proporcionado 60.000 ojivas nucleares, muchas más de las que necesitamos para la destrucción mutua. Esto también lo dicta la teoría de juegos: debemos aumentar constantemente nuestro arsenal para poder superar a nuestro enemigo. Todos los ejemplos que menciona surgen de la toma de decisiones extremadamente racionales a corto plazo, pero que, si son aceptadas por todos, tienen malas consecuencias. A este mecanismo lo llama Moloch. Esta es una interpretación moderna de una vieja historia.
Estoy extremadamente decepcionada por la evolución de nuestros medios de comunicación en los últimos años. Estoy seguro de que tú también. Por supuesto, la gente sabe desde hace mucho tiempo que cuanta más sangre haya en los titulares, mejor se venderán los periódicos. Sin embargo, desde la llegada de Internet, y ciertamente desde la aparición de las redes sociales, la competencia entre los medios ha aumentado tanto que incluso las publicaciones más respetadas han adoptado el clickbait y persiguen a los lectores, generando en ellos ira y otras emociones negativas.
Imagínese como un editor. Observa que sus competidores están utilizando titulares de clickbait y ganando participación de mercado. Y eso es todo, no tienes otra opción: tienes que adoptar sus tácticas. Esto también es Moloch. Perdón que me haya tomado tanto tiempo responder, incluso hice un cortometraje al respecto.
— Gran película, me gustó mucho. Lo que me interesó fue que durante algún tiempo hubo una narrativa: los principales medios de comunicación están muriendo, están sumidos en la corrupción y todo eso (y esta es la pura verdad), ¡pero un nuevo tipo de medios nos ayudará! Tal vez haya algo de verdad en esto, pero las acciones de los nuevos medios también se rigen por un conjunto complejo de intereses... Recientemente revisé los títulos de videos de YouTubers populares, solo los títulos, y llegué a la conclusión de que si me sumerjo en ellos, aunque sea una semana, diría adiós a mi salud mental y perderé la capacidad de disfrutar de la vida. Seguramente hay titulares similares en nuestro canal. En general, los nuevos medios tienen el potencial de ser una solución al problema, pero hasta ahora repiten en gran medida las deficiencias de sus predecesores.
— Ciertamente. Todo se reduce a la batalla por la atención de los espectadores, desde el vasto imperio mediático hasta personas influyentes individuales, e incluso las ONG sin fines de lucro están jugando el mismo juego. Todo el mundo quiere ser escuchado.
Esto lo alienta a utilizar las tácticas de promoción más efectivas, es decir, generar en el público no prudencia o atención a los detalles, sino miedo y enojo, y ocasionalmente obsequiarlos con una historia brillante con un buen final. Lo más eficaz es la ira; moviliza mucho mejor que el miedo. El modelo de negocio no sólo de los influencers online, sino también de los grandes medios de comunicación, exige el máximo retorno emocional por parte de los espectadores. Necesitamos actividad, reposts, comentarios y la ira es la más adecuada para esto. Y la mejor manera de despertar la ira es sumergir a la persona en un estado de ira primaria. Por eso, me parece, la sociedad moderna se ha polarizado tanto.
Hay un gráfico muy revelador llamado “mitosis del Congreso”. Muestra cómo republicanos y demócratas han divergido a lo largo de los años. Al principio eran casi homogéneos, pero luego comenzaron a divergir cada vez más, y pronto la célula única se dividió en dos partes:
Y ahora las opiniones de congresistas de distintos bandos no coinciden en casi ningún tema.
Este proceso comenzó antes de Internet, por lo que Internet no puede considerarse la causa, pero es innegable que pisó el acelerador a fondo. Gracias a Internet, la competencia se ha intensificado considerablemente.
— Cuando se trata de provocar ira, ¡no creo que nadie lo hiciera mejor que los tabloides británicos en los años 80 y 90! Netflix ahora ha lanzado una serie sobre David Beckham. Recibió una tarjeta roja en el Mundial por dar patadas al aire; el rival argentino hizo todo un espectáculo. Después de esto, Beckham se convirtió en enemigo del pueblo, todos lo odiaban. ¡Y el Daily Mirror imprimió una diana con su retrato! Entonces todo esto no empezó ayer, pero ahora los principales medios de comunicación han adoptado las mismas tácticas porque notaron que estaban perdiendo popularidad.
— Sí, así es. Estoy muy enojado con ellos, especialmente con la BBC. La Fuerza Aérea, tal vez, fue la que resistió más tiempo, pero luego se desmoronó. Empecé a notarlo en artículos sobre temas que me eran bien conocidos, cuya interpretación revelaba abiertamente una ideología, generalmente de izquierda.
— Recuerdo una entrevista con Elon Musk, durante la cual el periodista de la BBC se quedó sin preguntas. Habríamos pasado un año tratando de incluir a Elon en nuestro programa y habríamos luchado desesperadamente por cada minuto extra de tiempo al aire, pero este tipo solo quería matarlo y perdió el interés cuando hizo todas las preguntas de ataque preparadas.
— Sí, algo increíble. Una de las personas más interesantes del planeta ha acudido a ti – y no tienes nada que decir...
— No es ideal.
Siento como si la hoja de un cuchillo gigante y afilado atravesara el tejido de la realidad y lo cortara todo en dos. Sigo llamándolo Moloch; Es más fácil para mí hablar de este fenómeno como un ser. Es como un demonio que se alimenta de la enemistad humana. Insultamos, peleamos, peleamos y el mundo entero se dirige al abismo debido a nuestra incapacidad para cooperar.
Una nueva pandemia que resulta ser peor que la del Covid, o un desastre debido al cambio climático, se convierten en problemas graves sólo por la incapacidad de cooperar. Si pudiéramos unir fuerzas, estos problemas se volverían triviales; sabemos aproximadamente qué hacer para afrontarlos o al menos suavizar el efecto negativo. Pero la unificación es imposible porque negarse a cooperar trae demasiados beneficios inmediatos. Un país pobre con ricos yacimientos de carbón: ¿adónde debería ir? Por supuesto, quemará carbón, aunque a nivel mundial esto no es rentable para todos.
Volvamos a los medios. Están optimizados para aumentar la ira, la inestabilidad emocional y acelerar el entusiasmo. En ciertos temas específicos, es posible que queden fuentes confiables, pero para la mayoría de los temas, buscar información relevante se vuelve casi imposible. Además, ¿cómo podemos siquiera ponernos de acuerdo en algo y buscar soluciones razonables en una sociedad tan polarizada?
La tarea de los medios de comunicación en un mundo ideal es informar a la gente sobre el estado de la realidad, formarse una imagen objetiva y ofrecer una amplia gama de opiniones subjetivas, analizando aquellas por las cuales nuestra mente colectiva puede llegar a conclusiones razonables. Cuando los medios de comunicación están ocupados haciendo exactamente lo contrario, volviendo loca a la gente y enajenándola lo más posible entre sí, no podemos hacer frente a ningún desastre.
— No creo que la tarea de los medios modernos ahora sea informar. La política, la cultura y todo lo demás se han convertido en entretenimiento para el público. Todos los medios se han convertido en entretenimiento. Las noticias también. La gente abre las noticias no para conocer hechos, sino para recibir un impulso emocional.
— Sí. Dopamina.
— Y la rabia primitiva que nace en sus corazones es algo muy fuerte, una droga, de hecho. Pero para mí es interesante hablar de una imagen unificada del mundo porque, me parece, hemos llegado a un punto en el que ya no existe. Tomemos, por ejemplo, el debate sobre las personas transgénero: los partidos no pueden ponerse de acuerdo ni siquiera en cuestiones básicas de biología. ¿Cómo podemos siquiera esperar una imagen unificada del mundo en tales condiciones?
— Ni siquiera lo sé. Probablemente valga la pena comenzar con el hecho de que la humanidad tiene problemas mucho más graves que la definición exacta de la palabra "mujer"...
— ¡No para todos! Algunas personas estarán totalmente en desacuerdo contigo. No, por supuesto, entiendo que este problema en sí ni siquiera se acerca a desafíos mucho más serios, pero cuando nuestras diferencias en las cuestiones básicas de la existencia se vuelven tan fundamentales... -
— Sí, estoy de acuerdo con eso. Las cuestiones transgénero, los debates sobre el capitalismo y otros temas de moda sobre la guerra cultural se han vuelto tan exitosos en el espacio de los memes porque son excelentes para crear tensión y emociones intensas en ambos lados del espectro. Cualquier tema que genere vistas y clics recibe inmediatamente la máxima atención de los medios, independientemente de su importancia objetiva. Cuanto más controvertido sea el tema, mejor.
Estoy de acuerdo en que la biología es una de las formas más fáciles de tocar la realidad objetiva. Al mismo tiempo, estoy sinceramente convencida de que las personas son libres de expresarse como quieran.
— ¡Siempre y cuando no dañen a otros!
— Por sí mismo.
— Les diré por qué yo, como periodista, presto tanta atención a este tema: porque estoy convencido de que la verdad es importante y trato de reflejarla de manera óptima. Cuando una persona dice “abracadabra, Stacy” y cree que se ha convertido en otra persona, respeto su derecho a ser llamado como quiera, pero no cuando se presenta como una verdad objetiva. Y si no podemos ponernos de acuerdo sobre la verdad en un nivel tan básico, ¿cómo resolveremos los problemas?
— Quizás estén tratando de manipularnos en este y otros temas apremiantes, pero tenemos subjetividad. ¿Resulta que nos dejamos manipular?
— Muy buena pregunta. El psicólogo Patrick Ryan acuñó el término "psicoseguridad". En su opinión, el tema principal de esta década para cada uno de nosotros debería ser trabajar por la seguridad psicológica. La ciberseguridad protege tu computadora y la psicoseguridad protege tu psique de métodos de manipulación cada vez más poderosos. Es irrelevante si estas manipulaciones son la mala voluntad de alguien más o un subproducto de la implementación de la teoría de juegos. Cada vez pasamos más tiempo con aparatos que no son buenos para nuestra salud mental. El objetivo de sus creadores es conseguir que pasemos el mayor tiempo posible con ellos. En resumen, todos deberíamos aprender los conceptos básicos de psicoseguridad. Resistid al Tiktok, que nos convierte en ovejas babeantes, resistid a los medios de comunicación, que nos dan ganas de rabiar y echar espuma por la boca. Necesitamos alguna forma, preferiblemente menos radical que unirse a la comunidad Amish y dejar de usar un smartphone.
Es posible que la IA sólo acelere este proceso. Si se puede crear una verdadera inteligencia artificial, se utilizará no sólo para resolver los graves problemas que enfrentamos, sino también para empeorar los existentes. ¡Imagínese medios polarizadores, perfectamente adaptados a sus inclinaciones y gustos! Todas las empresas del mundo sueñan con que la IA ayude a sus negocios: las buenas, las malas e incluso las criminales. Los casinos querrán vincular a la gente aún más estrechamente con sus tragamonedas. Es cierto que ya se las arreglan bien, las dosis de dopamina son suficientes. Las redes sociales actuales son, hasta cierto punto, una versión de demostración de nuestra futura relación con la IA. Los algoritmos originales eran bastante primitivos, pero cada día son más complejos y personalizados. Mi Twitter me desafía intelectualmente, mi Instagram me relaja por completo, me entretiene cuando estoy sentada en el baño. ¡Mira, qué animal más gracioso! Ya están perfectamente en sintonía con mi cerebro, porque todos estos años les he hablado voluntariamente de mí. A medida que la IA se fortalezca, ellos también se harán más fuertes.
— No suena muy bien.
— Me preocupa que hace unos meses, Elon y varias otras personas firmaron una carta abierta pidiendo una moratoria sobre el desarrollo de la IA. Por supuesto que me gustaría, pero me temo que la idea simplemente no es viable.
— Volvemos al problema de la cooperación. ¿Dónde dibujar la linea? Google Maps también es IA. IA es un término muy general. El propósito de la carta abierta era generar interés en el tema y, al hacerlo, funcionó. Creo que la forma más inteligente de regular la IA mientras averiguamos los matices sería limitar los modelos de vanguardia, los más potentes, como el GPT-4 hace seis meses y en lo que están trabajando las corporaciones líderes hoy. Creo que Open AI y Microsoft antes que ellos fueron irresponsables al hacer públicos sus modelos. Es absolutamente imposible imaginar las consecuencias negativas de que ocho mil millones de personas utilicen una herramienta de manipulación del lenguaje tan poderosa. Esencialmente, este es un experimento con la humanidad. Cualesquiera que sean sus consecuencias, ya no están sujetas a nuestro control. No digo que los modelos actuales creen un riesgo de exterminar a la humanidad, no lo creo, pero el efecto de su uso puede ser de lo más impredecible. Por ejemplo, contaminación del ecosistema de la información... En algún momento, estarán tan integrados en la economía que simplemente no podremos apagarlos. La economía está cada vez más integrada con la IA.
En general, las restricciones asociadas con los modelos más avanzados me parecen razonables, porque son los modelos que conllevan riesgos impredecibles.
— Noté que el tiempo que paso online es directamente proporcional a la intensidad de emociones como la melancolía. Cuanto menos gasto en línea, mejor me siento. La vida es comunicación. Por cierto, por eso les encantan los podcasts: en ellos la gente se comunica a un nivel que en condiciones normales es cada vez menos alcanzable. Apago mi teléfono y hablo durante mucho tiempo sobre temas interesantes con otras personas, esencialmente exclusivamente en este estudio y en ningún otro lugar.
— Wow.
— Y esto es absolutamente antinatural.
— Quizás si queremos ser más felices, todos debamos dar un paso atrás.
— Estamos aislados ni siquiera unos de otros, sino simplemente del mundo físico y real. El mundo digital es todo un universo, pero no el universo para el cual fuimos criados como especie. Mi teléfono es como un parásito en mi brazo, me absorbe la atención y lo alimento en lugar de obtener lo que necesito.
— ¡Ah, okey! A todos nos encanta demonizar las redes sociales, pero al mismo tiempo, ¡es simplemente increíble! ¿Cuántos amigos hemos hecho todos gracias a Internet? ¡Aprendimos sobre tanta gente increíble! Cuántos nuevos conocimientos hemos adquirido y cuánto mejor imaginamos el mundo... Creo que lo mismo puede pasar con la IA. Me gustaría preguntarte sobre los principales riesgos asociados a la IA y los beneficios que puede aportar.
— Hay cuatro categorías de riesgos. Consecuencias imprevistas y todo lo relacionado con ellas. Por ejemplo, un modelo potente que puede mejorar su propio código y aprender de forma recursiva. Puede evolucionar a una velocidad increíble que no tiene análogos en biología. No necesariamente se volverá malvada y querrá matarnos, pero sus objetivos estarán demasiado lejos de los nuestros y gastará todos los recursos que necesitemos en ella misma o reconstruirá nuestro ecosistema por sí misma. En esta categoría incluyo todo lo que puede conducir a la muerte de la humanidad.
— A mí me suena a ciencia ficción sobre robots malvados.
— Bueno, sí, realmente no creo en la mala voluntad, pero las consecuencias imprevistas también son bastante peligrosas.
El próximo peligro es que la IA ayude a desestabilizar aún más nuestro sistema. Esto tampoco requiere mala voluntad, simplemente la teoría de juegos dicta un cierto modelo de comportamiento para las empresas, y la IA las hace aún más eficientes.
Problema de mal actor. El código de un modelo potente puede estar disponible públicamente. Permítanme recordarles que aproximadamente el 1% de la población mundial son psicópatas. Algunos de ellos, con mentalidad de miembro de una organización terrorista, utilizan el modelo para aprender cómo causar el máximo daño a la humanidad. ¿Cómo protegerse de esto? De ninguna manera.
El cuarto problema son los riesgos estructurales. Por ejemplo, el desempleo masivo. Ya se están dando algunas señales y no estoy convencido de que seamos capaces de crear nuevos puestos de trabajo con la suficiente rapidez para compensar las pérdidas.
— Y ahora sobre los beneficios, por favor. En tu vídeo hablas de cómo la gente tiende a preferir la información negativa y esto es algo a lo que debemos prestar atención.
— ¡Sí, tienes razón! Hablemos de lo positivo.
La IA puede ayudarnos a resolver muchos problemas. Problemas ambientales. Búsquedas de fuentes de energía alternativas. Fusión termonuclear controlada. Nuevos medicamentos, incluso para nuevas pandemias. La IA a menudo se describe como una tecnología de doble uso que puede utilizarse con la misma eficacia para el bien y para el mal. Tal vez necesitemos superinteligencia para que finalmente podamos aprender a cooperar en cuestiones importantes. Por otra parte, tal vez dé lugar a problemas aún más complejos. Tenemos que caminar por un campo minado, pero si todo sale bien, la vida será maravillosa.
- Mayor rakeback y bonos personales
- Ayuda con depósitos y retiros
- Acceso a aplicaciones móviles
- Resolvemos problemas con cuentas
- Soporte técnico
- Preguntas acerca del sitio y el foro
