Instagram comenzará a advertir a los usuarios antes de que publiquenSubtítulos "potencialmente ofensivos"

La función impulsada por IA llegó a comentarios a principios de este año

A partir de hoy, Instagram comenzará a advertir a los usuarios cuando estén a punto de publicar una leyenda “potencialmente ofensiva” para una foto o video que se está cargando en su feed principal, anunció la compañía . Si un usuario de Instagram publica algo que las herramientas impulsadas por IA del servicio piensan que podría ser dañino, la aplicación generará una notificación para decir que el subtítulo “se parece a otros que se han informado”. Luego alentará al usuario a editar el subtítulo. , pero también les dará la opción de publicarlo sin cambios.

La nueva característica se basa en una herramienta similar impulsada por IA que Instagram presentó para comentarios en julio . La compañía dice que empujar a las personas para que reconsideren la publicación de comentarios potencialmente dañinos ha tenido resultados “prometedores” en la lucha de la compañía contra el acoso en línea.

Publicar un comentario potencialmente ofensivo generará una advertencia que lo alienta a editarlo. Imagen: Instagram
Publicar un comentario potencialmente ofensivo generará una advertencia que lo alienta a editarlo. Imagen: Instagram

Esta es solo la última de una serie de medidas que Instagram ha estado tomando para abordar el acoso escolar en su plataforma. En octubre, el servicio lanzó una nueva función de “Restringir” que permite a los usuarios prohibir sus bullies, y el año pasado, comenzó a usar AI para filtrar comentarios ofensivos y detectar de forma proactiva intimidación en fotos y subtítulos .

A diferencia de sus otras herramientas de moderación, la diferencia aquí es que Instagram depende de los usuarios para detectar cuando uno de sus comentarios cruza la línea. Es poco probable que detenga a los matones más decididos de la plataforma, pero es de esperar que tenga la oportunidad de proteger a las personas de los insultos irreflexivos.

Instagram dice que la nueva característica se está implementando en “países seleccionados” por ahora, pero se expandirá globalmente en los próximos meses.

 

 

Jon Porter


Tatiana Vazquez. Tatiana Vázquez es escritora de Noyola Magazine especializada en inversiones y startups emergentes.

Related Posts

Midnite recauda $ 2.5M para sus apuestas de esports

Midnite , la startup de apuestas de deportes electrónicos con sede en Londres del mismo equipo detrás de la aplicación diaria de fútbol de fantasía Dribble , ha recaudado un poco más de $ 2.5 millones en fondos. La inversión "estratégica" está dirigida por la empresa de riesgo enfocada en juegos Makers Fund.