Algoritmo Instagram permite que la amenaza de violación sea usada en Facebook.



Instagram usó la imagen en un anuncio mostrado a la hermana de Solon. Esto no es la mejor manera de anunciar Instagram.

Instagram_Facebook
Créditos: adweek

El problema con los algoritmos es que todavía no pueden detectar cierto contenido ofensivo que un ser humano marcaría. El último ejemplo de esto proviene de Instagram, quien usó una imagen que contenía una amenaza y palabras ofencivas, en un anuncio de la red social Facebook.

Olivia Solon, reportera de The Guardian, descubrió que Instagram estaba usando su captura de pantalla de un amenazante correo electrónico para anunciar la aplicación en su empresa matriz.

Solon publicó la captura de pantalla en Instagram el año pasado. Explicando el mensaje, escribió: “Este es un correo electrónico que recibí esta tarde. Lamentablemente esto es demasiado común para las mujeres en Internet. Estoy segura de que esto es sólo cualquier tipo de amenaza creíble, pero sigue siendo bastante vil“.

La publicación  recibió tres reclamos y más de una docena de comentarios, parece que los algoritmos de Instagram lo clasificaron como un contenido atractivo que podría ser utilizado en un anuncio.



Lamentamos que esto haya sucedido, no es la experiencia que queremos que nuestros usuarios tengan“, dijo Instagram en un comunicado. “Este mensaje de notificación fue presentado como parte de un esfuerzo para alentar la participación en Instagram. Los mensajes son generalmente recibidos por un pequeño porcentaje de los amigos de una persona en Facebook“.

“En primer lugar, estamos aclarando nuestras políticas de publicidad y endureciendo nuestros procesos de aplicación para asegurar que el contenido que va en contra de nuestros estándares de la comunidad no pueda ser utilizado para  anuncios”, escribió Sandberg en un post en su cuenta de Facebook. “Esto incluye todo lo que ataca directamente a las personas en base a su raza, origen étnico, origen nacional, afiliación religiosa, orientación sexual, sexo, género o identidad de género, o discapacidades o enfermedades que siempre han violado nuestras políticas y estamos tomando cartas en el asusnto para hacer cumplir eso ahora”.

Te puede interesar: 
El cable de Internet transatlántico llamado “Marea” ya está completo.

La semana pasada, Facebook fue criticado por permitir que sus algoritmos generaran categorías como “Jew Hater“, basado en intereses y frases que se encuentran en los perfiles de los usuarios, con fines publicitarios orientados. Desde entonces, la compañía ha alterado el proceso, agregando revisiones humanas de opciones de orientación de anuncios que no cubren los 5000 términos más comunes.

Referencia: techspot


Un comentario Añadir valoración

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *