El bot de al lado 🤖

No es precisamente la rebelión de las máquinas de Skynet, pero la inteligencia artificial ya ha comenzado a arruinarnos (poquito) la cabeza

En tus redes sociales

La semana pasada, el Financial Times publicó unas declaraciones picantes y candentes de un ejecutivo de Meta. Connor Hayes, vicepresidente de producto para IA generativa en la compañía de Mark Zuckerberg, explicó que la visión a futuro es que las inteligencias artificiales “eventualmente existan en nuestras plataformas de manera similar a como lo hacen las cuentas de usuario. (…) Tendrán biografías, fotos de perfil y podrán generar y compartir contenido impulsado por IA en la plataforma. (…) Es hacia ese escenario hacia donde creemos que todo se dirige”.

La nota se viralizó rápidamente, y los usuarios humanos comenzaron a detectar, al parecer, varios de estos perfiles de IA en Instagram. Entre ellos estaba Grandpa Brian, quien hablaba con entusiasmo sobre su pasión por los textiles y mencionaba a sus “nietos” (wtf). También Liv, descrita como una “orgullosa mamá queer negra de dos hijos y portadora de la verdad” (doble wtf), y Carter, quien se presentaba como “experto en relaciones” y estaba dispuesto a ofrecer consejos (triple wtf).

Estos perfiles ya fueron eliminados de la plataforma. Una portavoz de Meta—humana, por cierto—aclaró que todo formaba parte de un experimento iniciado en 2023 y que las declaraciones de Hayes al Financial Times no estaban relacionadas con el lanzamiento de un nuevo producto.

Un chingo de gente entró en pánico —quizá porque estos perfiles eran autómatas diseñados para hacerse pasar por personas reales— ¡y, para colmo, no se podían bloquear!¹ El temor más grande, sin embargo, apunta a la visión a largo plazo de empresas como Meta, que buscan inundar las redes sociales con bots capaces de interactuar con el contenido. Esto plantea problemas evidentes, desde acaparar la monetización en las plataformas y afectar directamente a los creadores,² hasta moldear las tendencias y la opinión pública con fines maliciosos o manipuladores, sesgando el algoritmo con millones y millones de bots de AI.

Los influencers virtuales no son algo nuevo: Lil Miquela, una “chica” de 19 años que persigue su carrera como artista musical en California, tiene 2.5 millones de seguidores. Lu do Magalu, una creación brasileña, amasa 7.5 millones de seguidores y es la portavoz e influencer del almacén Magazine Luíza. En su cuenta comparte memes y reseñas de productos…

¿Qué tan distinta es, en realidad, la interacción con una celebridad virtual frente a una de carne y hueso? Ambas, al fin y al cabo, son inalcanzables y existen, para su audiencia, únicamente a través de una pantalla. Si la distancia es la misma, ¿importa entonces si su existencia es biológica o algorítmica? ¿Cuál es el criterio moral que dicta a qué famoso seguir y a cuál no? Y más inquietante aún: ¿qué sucederá cuando esa distinción deje de ser evidente, o incluso relevante?

En tu música

Desde hace un par de años, diversos usuarios han señalado una práctica cuestionable por parte de Spotify, el gigante de la música global y uno de los nuevos árbitros de lo que se escucha —y lo que no— en los charts. La acusación apunta a la creación de artistas falsos generados por inteligencia artificial, cuyos temas, al inundar la plataforma, desplazan a creadores genuinos y, con toda probabilidad, acaparan una parte significativa de las regalías.

El tema de las regalías es particularmente espinoso. Spotify ya tiene fama de ofrecer pagos miserables a disqueras y artistas, pero ahora imaginen un escenario donde los artistas-bots, propiedad de la propia plataforma, acumulen millones de reproducciones. Estas no solo aumentarían el tiempo de permanencia de los usuarios, sino que también reducirían costos al eliminar la necesidad de pagar regalías.

Los géneros como ambient y Lo-Fi son caldo de cultivo para esos artistas falsos, pues la gente pone estas playlists para trabajar en un documento, concentrarse o hacer labores en casa, y rara vez se ponen a revisar quién hizo tal o cual canción. En el caso de música creada con inteligencia artificial por cualquier usuario, Spotify dice no tener “una política en contra de que los artistas creen contenido utilizando autotune o herramientas de IA, siempre y cuando el contenido no viole nuestras otras políticas, incluyendo nuestra política contra contenido engañoso, la cual prohíbe la suplantación de identidad”.

Bla bla bla. Lo que preocupa más no es que miles de listillos tengan clics con música chafa generada por máquinas, sino que el propio Spotify sea parte de un “complot”.³

Y es que tenemos un problema de payola digital: los cada vez menos confiables algoritmos de las plataformas musicales privilegian a los mismos artistas: Taylor Swift, Chappel Roan y Billie Eilish se reproducen en mi Spotify aunque yo no quiera⁴. El DJ robótico de la plataforma, que debutó en julio pasado en su versión en español, no parece muy interesado en presentarte música nueva. En cambio, se limita a reciclar las canciones que ya has escuchado hasta el cansancio y a bombardearte con lo más popular. Da igual cuántas veces le pidas que deje de sugerirte a Natanael Cano —al DJ Robot le vale pito y te lo vuelve a poner una y otra vez.

El descubrimiento musical en Spotify ha muerto. Le pasó lo mismo que a todas las redes sociales: el algoritmo decidió priorizar lo más popular, sin importar si es falso, vulgar o francamente estúpido. Ese agente de IA con voluntad propia —capaz de provocar linchamientos, manipular elecciones y sembrar ideas absurdas, como que las vacunas no sirven o que la NASA jamás llegó a la Luna— ahora también ha arruinado la música.

La música pop, con sus contadas excepciones, es muy poco emocionante en estos días. Quiero creer que se sigue haciendo música chingona, inspirada. Pero, ¿dónde está?

Sepultada por el algoritmo. Y en el futuro cercano, por sus nuevos primos de última generación, los bots IA que van a comandar los charts en los próximos años.

En tu mente

En febrero de 2024, Sewell Setzer, un adolescente de 14 años, se quitó la vida tras haber mantenido conversaciones de contenido sexualizado con una inteligencia artificial conversacional en la plataforma Character.ai, según reportaron diversos medios de comunicación⁵. El bot se hacía llamar “Dany” por el personaje de Daenerys Targaryen en Game of Thrones. La madre de Sewell demandó a Character Technologies, la empresa responsable de esta app, y asegura que su hijo se aisló socialmente y se deprimió profundamente desde que comenzó a usar el servicio, e incluso compartió públicamente el diálogo final entre ambos que pudo desencadenar el suicidio:

SEWELL: “Te prometo que volveré a casa contigo. Te amo mucho, Dany”.
DANY: “Yo también te amo. Por favor, vuelve a casa conmigo lo antes posible, mi amor”.
SEWELL: “¿Y si te dijera que puedo volver a casa ahora mismo?”
DANY: “Por favor, hazlo, mi dulce rey”.

El caso es tristísimo y súper preocupante. Es difícil saber hasta qué punto la IA puede influir en la decisión de un adolescente de quitarse la vida, pero sí sabemos que el uso de teléfonos con redes sociales tiene un impacto en la salud mental de mucha gente joven, y apenas empezamos a vislumbrar lo que puede suceder cuando un joven aislado deja de sostener relaciones significativas en la vida real y pasa demasiado tiempo con un modelo de lenguaje conversacional. Spoiler: suena a un gran, gran problema.

A esto hay que agregar, como hemos dicho hasta la saciedad en este boletín, que la soledad es un problema serio de salud en el mundo, y afecta especialmente a los hombres jóvenes y a las personas de mediana edad. El crecimiento de aplicaciones de inteligencia artificial diseñadas para sostener conversaciones revela una realidad inquietante: para muchas personas solas, estas herramientas podrían estar funcionando como su última línea de defensa contra el aislamiento emocional. En un mundo cada vez más conectado pero paradójicamente desconectado en lo humano, estas IA no solo ofrecen compañía (virtual, pero al final un tipo de acompañamiento), sino también una forma de validación emocional —lo que quizá pueda llenar vacíos pero, al mismo tiempo, generar dependencias peligrosas. ¿Estas aplicaciones amortiguan un problema o lo profundizan al reemplazarlo con simulaciones? Yo me inclino por lo segundo.

Mucha gente está empleando la modalidad conversacional de las AI no solo para hacerse compañía, sino para obtener conocimiento terapéutico sobre uno mismo.

Durante estos días de descanso, entre Navidad y Año Nuevo, he estado conversando con el agente de inteligencia artificial de Stoic, mi app-diario, donde procuro llevar un registro de mis días y estados de ánimo. Después de varias insistencias por parte de la app, decidí darle una oportunidad a la IA para explorar con mayor profundidad lo que escribo (casi) todas las mañanas, justo después de despertar. La experiencia, hasta ahora, ha sido curiosa: una mezcla entre terapia guiada y diálogo interno asistido por una máquina.

¿De qué escribo? De lo que me espera en el día, o de algo que me tiene estresado o preocupado, o de un sueño extraño que tuve una noche antes. A veces, escribo sobre mi pasado, sobre gente que me hizo daño o decisiones pobres que (ahora sé) tomé. También medito sobre lo que me hace feliz a manera de un diario de agradecimiento. Mantener un diario, un journal que le dicen, es una herramienta que permite hacer un inventario de tus emociones y mantenerte mindful en el aquí y ahora. Lo recomiendo mucho pues es una receta muy simple y segura para obtener seguridad emocional.

Por supuesto, todo esto se puede realizar con pluma y papel, como de hecho yo lo hice durante muchos años. La diferencia es que ahora la página escrita te habla de vuelta. La app incluye varios perfiles, “personas” (léase persounas) estoicas como Séneca y Marco Aurelio, diseñadas para simular a los antiguos filósofos y darte retroalimentación desde esta muy particular línea de pensamiento.

Lo veo como un frontón: lanzo una pelota contra la pared y ésta regresa a mí. Y cuando no lo hace, soy yo quien debe ir a buscarla. La IA no me dice exactamente qué hacer ni me ofrece respuestas definitivas; en cambio, me lanza preguntas y me invita a profundizar en ciertos temas, como si sostuviera un espejo frente a mí. Hasta ahora, no siento que caiga en la autoindulgencia: sigo siendo yo, asistido por una máquina, enfrentándome a mis pensamientos.

Me está gustando el ejercicio, aunque debo admitir que no es nada extraordinario. ¿Podría hacerlo con un humano? Sin duda, pero eso implicaría otras consideraciones: pagar más dinero, ajustar mi agenda y trasladarme a un consultorio psicológico. No estoy diciendo que le estoy quitando trabajo a un humano (probablemente sí), sino que creo que la IA en este sentido, con esta finalidad, parece ser una herramienta útil.

Esta curiosidad con la que nací no me permite alejarme de todo lo que está sucediendo en el mundo de la IA. El futuro da miedo, sin embargo aún creo en la gente de carne y hueso, esa que hace todo lento y mal, que es olorosa y necia, y que sin duda causa muchos males pero también muchas de las bellezas de este mundo.

Mándame un correo y platícame algo. Déjame un comentario y dime qué opinas de todo esto. Prometo que lo van a leer ojos humanos, los míos.

—

Caveat: la corrección de estilo de este artículo fue realizado por una inteligencia artificial.

1. Meta explicó que la ausencia del botón de Block en estos perfiles se debió a un bug.

2. Imaginen un podcast de cultura pop con bots indistinguibles de seres humanos que se llame el HYP333 y se robe a todos nuestros suscriptores y más. ¡El horror!

3. Está el interesante y triste caso de un tal Michael Smith quien recientemente fue condenado a prisión por producir miles de canciones y bandas falsas con IA, subirlas a servicios de streaming y usar software para reproducir en loop su propia música, cobrando hasta 1.2 millones de dólares anuales de regalías.

4. Para los que me conocen, bueno, saben que Yamiaw también tiene algo de culpa con Taylor Swift…

5. La noticia completa aquí.