A pedofilia é um problema muito sério da internet, e os meios de moderação ainda deixam escapar essa prática em plataformas grandes. A Microsoft veio com uma ferramenta que seria capaz de identificar pedófilos que tentam assediar crianças na web. Ela é uma versão de um recurso da Microsoft usado em outros projetos. Mas, a moderação não humana ainda enfrenta muitos desafios, como a precisão de seu julgamento.
Batizado de Projeto Artemis, o programa tem o objetivo de detectar criminosos a partir de padrões de conversas em chats online. A ferramenta classifica a probabilidade de uma pessoa estar assediando virtualmente em um canal de bate-papo. A empresa que usar o programa pode definir uma pontuação, caso passe do número definido, eles são acionados. A partir disso, a empresa recebe o alerta e escolhe qual será o rumo da possível denúncia. O moderador pode denunciar para a polícia ou organizações de proteção a crianças.
Tecnologias assim são essenciais, já que as crianças estão cada mais presentes em ambientes digitais.A ferramenta já é usada há anos pela Microsoft. Segundo a chefe de segurança digital da Microsoft, como uma empresa de tecnologia, eles têm a responsabilidade de criar softwares e serviços como este.
A ferramenta é gratuita e está disponível para as empresas que usam função de bate-papo online. Mas como nem tudo é perfeito, uma análise do MIT (Instituto de Tecnologia de Massachusetts) explica que um dos possíveis desafios que o programa deve enfrentar é que tenham muitos falsos positivos. Sistemas assim não entendem o significado e contexto da nossa linguagem.