Buscan que recapaciten

Instagram anunció este lunes que a partir de ahora notificará mediante una alerta a aquellos usuarios que hagan comentarios considerados ‘ofensivos’ por la red social, con el objetivo de que ‘recapaciten’ y eliminen sus palabras antes de que estas lleguen al receptor.

En un comunicado, los responsables de la red social (propiedad de Facebook) explicaron que la detección de estos comentarios se lleva a cabo mediante un sistema de inteligencia artificial entrenado para identificar posibles casos de acoso en linea y pusieron como ejemplos las frases ‘eres muy feo y estúpido’ y ‘eres un estúpido perdedor. Te odio’.

Si alguien intenta escribir frases como estas dirigidas a otro usuario, antes de su publicación le aparecerá el siguiente mensaje: ‘Mantengamos Instagram como un entorno compasivo. Estamos pidiendo a los usuarios que recapaciten antes de colgar comentarios que son similares a otros que han sido denunciados con anterioridad’.

Pese a la alerta, si el internauta así lo desea, podrá proceder y colgar su mensaje y, si considera que la inteligencia artificial ha cometido un error y que su mensaje no es ofensivo, podrá comunicarlo inmediatamente a Instagram.

Según la empresa, las pruebas realizadas hasta la fecha con este sistema muestran que ‘anima a algunas personas a recomponer sus comentarios y a compartir algo que no sea tan doloroso una vez que han tenido la oportunidad de recapacitar’.

Por otro lado, la red social también anunció que dentro de poco empezará un período de pruebas con otra nueva herramienta para prevenir casos de acoso cibernético, en este caso dirigida a las víctimas y que llevará por nombre ‘Restringir’.

Un usuario podrá ‘restringir’ los comentarios de otro en sus publicaciones sin que el emisor sea notificado, de manera que el potencial acosador podrá seguir dejando frases ofensivas dirigidas a otras cuentas, pero el único que podrá leerlas será él mismo.

La razón por la cual se ha optado por algo así (en la actualidad ya se puede bloquear a otros usuarios, pero estos son notificados) es para evitar casos en los que un usuario que quiere bloquear a otro no lo hace por miedo a represalias en la vida real o por vergüenza.

Con más de 1,000 millones de usuarios activos mensuales, la plataforma para compartir imágenes es una de las redes sociales más populares del mundo y se ha convertido en uno de los segmentos de negocio más importantes de su empresa matriz, Facebook.