A criadora do ChatGPT anunciou na segunda-feira (16) o lançamento de um recurso inédito voltado para a detecção de material de abuso sexual infantil (CSAM), abrangendo inclusive mídias produzidas por inteligência artificial. A solução será distribuída sem custos para instituições escolhidas, aprimorando a eficácia de sistemas anteriores e diminuindo a quantidade de revisões decorrentes de falsos positivos.
A novidade integra um conjunto ampliado de iniciativas da empresa para reforçar a segurança de menores no ambiente digital. Entre as ações complementares estão ações diretas para bloquear condutas nocivas e o direcionamento de usuários para suporte especializado.
Parceria e eficiência nas investigações
Desenvolvido em colaboração com o Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC), o novo classificador consegue reconhecer indícios visuais de possíveis abusos em fotografias. O algoritmo avalia o arquivo e gera uma nota numérica para orientar a análise humana.
Nos testes realizados, o sistema apresentou resultados expressivos: – Reduziu drasticamente os falsos positivos, com 48% menos imagens sinalizadas, segundo a empresa; – A precisão na localização de material abusivo dobrou, otimizando a rotina de investigadores; – Trata-se da primeira solução do segmento a incluir um alerta direcionado a mídias sintéticas; – A tecnologia reconhece arquivos impróprios produzidos por múltiplos sistemas, abrangendo modelos abertos e aplicativos focados nessa prática.
“Estamos oferecendo acesso ao classificador a organizações verificadas por meio da API da OpenAI sem custo algum, tornando a detecção de CSAM mais acessível a organizações de segurança infantil e ao setor em geral, incluindo aquelas com equipes de tamanhos variados”, destacou a empresa, em comunicado.
Como parte do pacote, a startup divulgou manuais revisados para criadores de software com instruções sobre prevenção, reconhecimento e resposta a materiais inadequados. Capacitações e recursos tecnológicos também serão entregues a delegacias e forças policiais voltadas à infância.
Punições severas e balanço financeiro
A corporação comandada por Sam Altman divulgou alterações nos protocolos protetivos do gerador visual do ChatGPT. Caso alguém tente produzir conteúdos ilícitos na ferramenta, um alerta educativo será exibido com indicações profissionais de suporte psicológico.
Na primeira ocorrência, a conta ficará suspensa por 24 horas, mantendo o suporte disponível para que a pessoa procure auxílio. Novas tentativas podem resultar em suspensões mais longas e até mesmo no banimento do perfil, assim como em denúncia às autoridades, como ressaltou a OpenAI.
Em seu balanço trimestral mais recente, a desenvolvedora registrou US$ 10 bilhões (R$ 57,8 bilhões pela cotação do dia) em faturamento, mas teve prejuízo operacional.
What do you feel about this post?
Like
Love
Happy
Haha
Sad
