Instagram ha anunciado que va a poner en marcha nuevas herramientas basadas en inteligencia artificial para detectar bullying en las fotos y los comentarios de los vídeos en directo.
A pesar de que las redes sociales tienen muchas ventajas si se hace un buen uso de ellas, por ejemplo la posibilidad de permanecer en contacto con personas a las que no vemos habitualmente, estar al día de cómo les va y comunicarnos con ellas, también tiene su lado oscuro si se utilizan de manera maliciosa.
Uno de los grandes problemas derivados del uso inadecuado de estas plataformas es el ciberbullying, un tipo de acoso que se sirve de las nuevas tecnologías para insultar, chantajear, vejar, hostigar o excluir a otras personas.
Un estudio llevado a cabo por investigadores británicos el año pasado reveló que Instagram y Snapchat son las peores redes sociales para jóvenes debido, entre otros factores, a que contribuyen a favorecer situaciones de acoso.
Instagram es consciente de este tipo de problemática, y no es la primera vez que toma cartas en el asunto. El año pasado, la red social fotográfica introdujo un filtro de comentarios mejorado que utiliza machine learning para detectar palabras y frases ofensivas en contextos difíciles.
Te puede interesar: Play Store restringe el acceso de Apps maliciosas para tu móvil
Ahora, la plataforma también quiere aplicar IA para limitar más aún el acoso o cualquier otro comportamiento perjudicial. Para ello, la compañía ha anunciado que va a empezar a utilizar machine learning para detectar de manera proactiva el bullying en las fotos y sus subtítulos, con el objetivo de enviar los contenidos inadecuados a supervisar y hacer que sean retirados en caso de que resulten ofensivos.
"Este cambio nos ayudará a identificar y eliminar significativamente más bullying – y es un paso crucial, ya que muchas personas que experimentan u observan estas situaciones no lo denuncian", explica Instagram. "También nos ayudará a proteger a los miembros más jóvenes de nuestra comunidad, ya que los adolescentes experimentan tasas más altas de ciberbullying que otros".
Además, la plataforma señala que va a extender el filtro para detectar el bullying que está operativo en el feed, el perfil y la pestaña Explorar también a los comentarios de los vídeos en directo. El objetivo no es otro que garantizar que no se producen situaciones de acoso a través del canal Live.
Fuente: COMPUTER HOY
