La gente está utilizando la IA para generar inquietantes historias para la hora de dormir de los niños

DALL-E puede utilizar historias generadas por la IA para producir algunas ilustraciones inquietantes, como un Pikachu con un cuchillo guiando a sus compañeros a la batalla.

Los modelos avanzados de IA, como GPT-3 y DALL-E, están de moda últimamente, y este último ha inspirado un reciente aumento del interés por crear imágenes generadas por la IA a partir de indicaciones de texto.

Pero resulta que la combinación de esas imágenes con la predicción avanzada de texto puede dar lugar a algunas historias extremadamente elaboradas e inquietantes, como un libro infantil ilustrado sobre un Pikachu que empuña un cuchillo y conduce a sus camaradas a la batalla bajo un ominoso cielo oscuro.

Este es sólo uno de los resultados obtenidos por Edwin Chen, un ingeniero de Surge AI que utilizó una combinación de las herramientas de lenguaje natural DALL-E y GPT-3 de OpenAI para generar una historia con temática Pokémon para su hijo de guardería. El GPT-3 es conocido por su capacidad inquietantemente precisa de rellenar los espacios en blanco cuando se le da sólo una breve indicación de texto, y Davinci de OpenAI se basa en el modelo para que sea especialmente bueno en la comprensión de la intención y el contexto. Cuando se le dio una breve descripción de una historia sobre Ash y Pikachu yendo a la guerra contra el Equipo Rocket, el modelo generó una historia detallada sobre la batalla que siguió. Cada línea generada se utilizó entonces como una indicación para DALL-E, lo que dio como resultado unas ilustraciones bastante inquietantes.

Imágenes generadas por DALL-E que muestran a un niño con sombrero y a una multitud de Pikachus amarillos bajo un cielo oscuro lleno de relámpagos.
Imágenes generadas por DALL-E que muestran a un niño con sombrero y a una multitud de Pikachus amarillos bajo un cielo oscuro lleno de relámpagos.

DALL-E aún está en fase de pruebas y sólo está disponible para una lista selecta de artistas e investigadores. Pero las herramientas de generación basadas en texto de OpenAI están abiertas a cualquiera que se registre para obtener una cuenta gratuita en su sitio web.

Después de que el cuento ilustrado de Pokémon de Chen empezara a circular por las redes sociales, otros se inspiraron para generar sus propias historias. He aquí una del propio Edward Ongweso, de Motherboard, sobre el amor de Donald Trump por la serie de anime Attack On Titan:

 

Para muchos investigadores y éticos de la IA, la idea de utilizar el aprendizaje automático para generar contenidos para los niños será especialmente alarmante. Se ha demostrado que la GPT-3 refuerza los estereotipos sexistas y racistas, y los investigadores que están detrás de DALL-E han demostrado que el sistema de generación de imágenes también producirá con frecuencia resultados sesgados, como la indicación “CEO” que sólo devuelve imágenes de hombres blancos con trajes de negocios.

En respuesta, empresas y organizaciones como OpenAI han desarrollado lo que afirman son mitigaciones que impiden el abuso de los sistemas de IA generativa. Esto puede implicar varios métodos, como la reponderación de los conjuntos de datos de entrenamiento para aumentar la frecuencia de los tipos de imágenes que el sistema normalmente no mostraría.

Por muy fascinantes o bonitos que sean los resultados, los investigadores de IA tendrán que enfrentarse al hecho de que estos sistemas siempre producirán contenidos sesgados y perjudiciales que simplemente reflejan la desigualdad social preexistente.


Hyper Noir.

Post Anterior

Eric Schmidt cree que la IA es tan poderosa como las armas nucleares

Siguiente Post
La empresa neoyorquina Interplay está recaudando 10 millones de dólares para un nuevo fondo de blockchain

La empresa neoyorquina Interplay está recaudando 10 millones de dólares para un nuevo fondo de blockchain

Posts Relacionados