Koo anuncia reforço na moderação de conteúdo com mais ferramentas de supervisão

O Koo anunciou um novo conjunto de recursos para reforçar a moderação de conteúdo na plataforma nesta terça-feira (14). As ferramentas foram desenvolvidas para detectar e remover qualquer tipo de material de nudez ou de abuso infantil, conter desinformação e reduzir comentários tóxicos e discurso de ódio na rede social.

• Koo lança ferramenta com ChatGPT para facilitar a criação de posts
• Koo lança programa de recompensas no Brasil

A primeira das novidades de segurança é o "No Nudity Algorithm", ferramenta que detecta e remove publicações que contenham nudez da rede social. A função é útil contra fotos ou vídeos, agindo especialmente contra a publicação de materiais de abuso sexual infantil.

De acordo com a empresa, a detecção e o bloqueio leva "menos de cinco segundos" e os usuários responsáveis pelo post são imediatamente bloqueados de postar conteúdo ou de serem descobertos na plataforma.

Outro mecanismo de proteção adicionado à rede social atua contra comentários tóxicos e discurso de ódio que, assim como acontece com nudez, também detecta ativamente publicações ofensivas. Neste caso, o comentário é escondido ou removido de forma automática "em menos de 10 segundos".

Combate aos fakes

O Koo também apresentou ferramentas contra impostores da rede social. Uma ferramenta desenvolvida pela companhia vasculha constantemente os perfis criados na plataforma para derrubar contas que usem conteúdo, fotos, vídeos ou descrições que tentam se passar por outra pessoa.

Se um perfil fake for encontrado, a plataforma removerá as fotos e vídeos do farsante, a conta será notificada e os posts terão alcance significativamente reduzido.

Controle de fake news e violência explícita

Por fim, fake news também foi um dos focos das adições do dia. O Koo monitorará relatórios de fake news baseados em fontes públicas e privadas para detectar e rotular publicações enganosas.

Cenas violentas também não passarão ilesas na plataforma. Quando detectado, o vídeo ou a foto que apresentarem sangramento em excesso, ferimentos ou atos de violência serão recobertos por um aviso aos usuários.

Uma rede social pra "unir o mundo"

Para o cofundador do Koo, Mayank Bidawtka, a missão da plataforma é "unir o mundo e criar um espaço de mídia social para discussões saudáveis". "Estamos comprometidos em fornecer uma plataforma social pública mais segura para nossos usuários", pontuou no anúncio.

Além das melhorias na gestão de conteúdo, a rede social Koo também ganhou ferramentas para criação de posts que usam tecnologia do ChatGPT, a IA generativa que chacoalhou a internet.