La plataforma implementa una funció d'intel·ligència artificial que t'avisa quan publicaràs un comentari inadequat
JUDITH VIVES, BARCELONA
10/07/2019 11.31Actualitzat a 10/07/2019 11.52 Original: https://www.lavanguardia.com/tecnologia/20190710/463404409179/instagram-pedira-usuarios-reconsideren-publicacion-contenidos-ofensivos.html
Instagram demanarà als usuaris que s'ho pensen dues vegades abans de publicar un contingut que puga considerar-se ofensiu. La xarxa social està implementant una nova funció que gràcies a la intel·ligència artificial permet alertar als usuaris sobre comentaris ofensius.
Així, per exemple, si algú escriu “eres lleig i estúpid”, el sistema serà capaç d'alertar-li amb un missatge d'avís que diu: “Estàs segur que vols publicar això?” i un enllaç a un missatge en el qual Instagram explica “Estem demanant a les persones que reconsideren els comentaris que s'assemblen a uns altres que han sigut reportats”.
”Aquesta acció dona a les persones l'oportunitat de reflexionar i desfer els seus comentaris i evita que el destinatari reba la notificació de comentaris nocius”, explica Adam Mosseri, CEO d'Instagram, en declaracions recollides en New Scientist.
Mosseri reconeix que el bullying és “un problema complex” i que Instagram porta usant des de fa anys la intel·ligència artificial per a detectar est i altres tipus de continguts nociu.
La xarxa va començar a realitzar un seguiment de casos d'assetjament escolar després que es donaren casos com el de la mort de l'adolescent britànica Molly Russell. Després del seu suïcidi, al novembre de 2017, el seu pare Ian va assegurar que creia que Instagram era en part responsable de la seua mort.
En una conferència, Ian Russell va afirmar que “és important reconéixer que les empreses de tecnologia fan algunes coses bé, però lamentablement les seues plataformes estan sent utilitzades per la gent per a fer mal i no han fet prou per a evitar-ho. Llevat que ocórrega un canvi, les seues plataformes es tornaran tòxiques”, va advertir.
Una altra de les eines que podria llançar Instagram, Restrict, està pensada per a ajudar a filtrar comentaris abusius sense necessitat de bloquejar a altres usuaris. Amb aquesta eina, les persones restringides no podran veure quan un usuari està actiu en Instagram o quan s'han llegit missatges directes.
”Hem escoltat dels joves de la nostra comunitat que es mostren poc inclinats a bloquejar, deixar de seguir o denunciar al seu agressor perquè podria agreujar la situació, especialment si interactuen amb el seu agressor en la vida real”, diu Mosseri, per la qual cosa Restrict podria ser de gran ajuda.
JUDITH VIVES, BARCELONA
10/07/2019 11.31Actualitzat a 10/07/2019 11.52 Original: https://www.lavanguardia.com/tecnologia/20190710/463404409179/instagram-pedira-usuarios-reconsideren-publicacion-contenidos-ofensivos.html
Instagram demanarà als usuaris que s'ho pensen dues vegades abans de publicar un contingut que puga considerar-se ofensiu. La xarxa social està implementant una nova funció que gràcies a la intel·ligència artificial permet alertar als usuaris sobre comentaris ofensius.
Així, per exemple, si algú escriu “eres lleig i estúpid”, el sistema serà capaç d'alertar-li amb un missatge d'avís que diu: “Estàs segur que vols publicar això?” i un enllaç a un missatge en el qual Instagram explica “Estem demanant a les persones que reconsideren els comentaris que s'assemblen a uns altres que han sigut reportats”.
”Aquesta acció dona a les persones l'oportunitat de reflexionar i desfer els seus comentaris i evita que el destinatari reba la notificació de comentaris nocius”, explica Adam Mosseri, CEO d'Instagram, en declaracions recollides en New Scientist.
Mosseri reconeix que el bullying és “un problema complex” i que Instagram porta usant des de fa anys la intel·ligència artificial per a detectar est i altres tipus de continguts nociu.
La xarxa va començar a realitzar un seguiment de casos d'assetjament escolar després que es donaren casos com el de la mort de l'adolescent britànica Molly Russell. Després del seu suïcidi, al novembre de 2017, el seu pare Ian va assegurar que creia que Instagram era en part responsable de la seua mort.
En una conferència, Ian Russell va afirmar que “és important reconéixer que les empreses de tecnologia fan algunes coses bé, però lamentablement les seues plataformes estan sent utilitzades per la gent per a fer mal i no han fet prou per a evitar-ho. Llevat que ocórrega un canvi, les seues plataformes es tornaran tòxiques”, va advertir.
Una altra de les eines que podria llançar Instagram, Restrict, està pensada per a ajudar a filtrar comentaris abusius sense necessitat de bloquejar a altres usuaris. Amb aquesta eina, les persones restringides no podran veure quan un usuari està actiu en Instagram o quan s'han llegit missatges directes.
”Hem escoltat dels joves de la nostra comunitat que es mostren poc inclinats a bloquejar, deixar de seguir o denunciar al seu agressor perquè podria agreujar la situació, especialment si interactuen amb el seu agressor en la vida real”, diu Mosseri, per la qual cosa Restrict podria ser de gran ajuda.
