La Super Bowl se ha convertido en uno de los más grandes escaparates del mundo. Los anuncios que se van colando en las pausas son vistos por millones de ojos, y marcan un antes y un después para muchas marcas. Este año también ha ocurrido, con varios anuncios brillantes (el de Nike y el de Jeep me parecen sensacionales), pero también ha habido uno que ha demostrado uno de los peligros de la IA: el anuncio de Google.
Te pongo en contexto.
El anuncio vendía las virtudes de la IA de Google (Gemini) como “asistente de escritura” para sitios web, y lo representaba en un propietario de una tienda de quesos en Wisconsin que “no tenia tiempo” para escribir las descripciones de los productos que vendía online, y por eso usaba Gemini.
En el video salía la IA de Google escribiendo el texto para su queso Gouda, y decía que el Gouda era “uno de los quesos más populares del mundo, y que suponía entre un 50 y un 60% del TOTAL del consumo de queso mundial”. Yo esta mañana no he desayunado gouda, así que tú debes haber desayunado 4 trozos para que la estadística mundial no se venga abajo.
En cuanto el anuncio salió, un telespectador detectó la barbaridad (ya podían haberlo detectado antes de emitirlo, que anda que no habrá pasado filtros eso…) y corrió rápido a redes a gritárselo al mundo. A pesar de que inicialmente el jefe de Google Cloud intentó sacarle la cara a su IA, al final parece ser que el dato viene de webs con un fuerte enfoque SEO, que meten datos al tun-tun con el único objetivo de salir arriba en las búsquedas de ciertas palabras clave que les generan ventas. Y si para rellenar meten alguna mentirijilla, pues oye, qué más da, no? Pues ya vemos que sí que da.
Una vez se ha destapada la mandanga, Google ha editado el video y eliminado ese trozo, pero es un ejemplo perfecto de uno de los peligros de empezar a utilizar IAs como buscadores, pasando de recibir múltiples resultados (y allá cada cual para evaluar la credibilidad de cada respuesta y cada fuente), a recibir una única respuesta o directamente un texto redactado, en muchas ocasiones sin referencias para validar su veracidad, y dar por bueno lo que nos diga. Sea lo que sea.
Pensemos que a su vez, si esto no fuera un anuncio sino el mundo real, y ese texto con el dato falso fuera subido a la web del de los quesos del anuncio y a otras muchas que usen Gemini para redactarlos, no hará sino reforzar la “veracidad” del dato, alimentando futuros resultados. En definitiva, que la veracidad de la información pública disponible online corre el peligro de deteriorarse a la misma velocidad a la que se siga incrementando el uso de IAs generativas que den por buenos datos falsos.
Garbage in, garbage out. Y toda la web oliendo a queso azul.
Y tú y yo seremos el trozo de pan que quedará nadando en la fondue de medias verdades (o directamente de datos falsos).
Pero es que está tan rico el gouda y es tan fácil de comer…
Paz!
L.
PD.- El caso también ha servido para demostrar que las reglas aplican a todos menos a los dueños de las plataformas. El video en cuestión, subido a Youtube y editado posteriormente, sigue mostrando como fecha de subida la original, cuando “en teoría” Youtube no permite eso. Pero claro, siendo Google el autor…
¿Algo que decir? ¡No te cortes, deja un comentario!