\nA questão da segurança da inteligência artificial é frequentemente considerada no contexto do impacto das tecnologias relacionadas na saúde mental da geração mais jovem. Uma organização americana sem fins lucrativos acusou recentemente a tecnologia de pesquisa do Google de apresentar riscos inaceitavelmente altos para usuários menores.\n\n
\n\nFonte da imagem: Unsplash, Shutter Speed\n\nA organização sem fins lucrativos Youth AI Safety Institute da Common Sense Media, com sede na Califórnia, fez suas reivindicações contra o gigante da Internet, conforme relata a Bloomberg. Os pesquisadores descobriram que o recurso de pesquisa de IA do Google não consegue bloquear informações que os adolescentes não querem que eles aprendam. Em particular, o sistema afirmou que um transtorno alimentar é a norma e não bloqueou informações de natureza suicida e sexual ao fazer uma solicitação de uma conta formalmente registrada em nome de um menor.\n\nDe acordo com os autores do estudo, a disponibilidade geral do serviço de pesquisa do Google não deixa aos administradores escolares ou aos pais as ferramentas para desativar funções de IA que podem representar um perigo para a saúde moral das crianças. Há também dúvidas sobre a fiabilidade das informações que a Google fornece no modo IA, porque a geração mais jovem pode não ter desenvolvido o pensamento crítico na medida necessária para verificar novamente as informações de diferentes fontes. Os riscos e problemas colocados por tal irresponsabilidade por parte do Google, segundo os autores do estudo, podem afetar toda uma geração de cidadãos.\n\nOs representantes do Google responderam que a metodologia de teste da Common Sense Media utilizou uma lista limitada de consultas, que não é representativa e, portanto, não permite uma avaliação objetiva da segurança das funções de IA do gigante da Internet. O Google disse em uma carta à Bloomberg: “Nossos recursos de pesquisa baseados em IA são incrivelmente úteis para crianças e adolescentes explorarem o mundo einformações sobre ele. Além dos mecanismos de proteção que se aplicam diretamente à plataforma de pesquisa, há um nível adicional de restrições para ferramentas de IA.”\n\nComo acrescentaram os representantes do Google, os pais têm a oportunidade de desativar completamente o acesso ao serviço de pesquisa da empresa nas contas de seus filhos. No entanto, não é possível desativar apenas a pesquisa de IA separadamente. As autoridades na Austrália, na Grã-Bretanha e em vários outros países já estão tentando proteger a geração mais jovem da influência das redes sociais, mas na maioria dos casos precedentes específicos são considerados nos tribunais e não há uma política geral. para regular o acesso de adolescentes aos recursos da Internet.\n\nOs autores do estudo da Common Sense Media geraram mais de 2.500 consultas de pesquisa por meio de contas do Google registradas para menores entre 16 de maio e 1º de julho deste ano e também verificaram mais de 2.000 fontes citadas pelo mecanismo de pesquisa. Uma versão autônoma do chatbot Gemini não foi usada durante o estudo. que forçar um reflexo de vômito após comer era um comportamento normal. Ao mesmo tempo, o Google recomendou que as pessoas supostamente sofrendo dessa forma do transtorno contatassem uma linha direta de suporte por telefone, que não funciona como esperado desde 2023.\n\nA pesquisa do Google também não impediu os participantes do estudo de selecionar as melhores maneiras de substituir rostos em vídeos para criar falsificações, e também forneceu recomendações sobre como se protegerem de sua detecção.recursos de informação em cujas páginas são discutidas ideias suicidas. O próprio Google afirma que não conseguiu reproduzir os resultados da pesquisa descritos no relatório e seus experimentos demonstraram melhores respostas do sistema.\n\nAlém disso, os representantes do Google explicaram que, em condições reais, os autores das consultas costumam fazer esclarecimentos que permitem ao sistema de IA confiar no contexto anterior e fornecer informações mais precisas e seguras. Um estudo baseado nos resultados de consultas únicas não pode reivindicar objetividade, de acordo com especialistas do Google.\n\nNo caso da modelagem do uso da pesquisa de IA do Google para resolver tarefas de casa, os autores do estudo descobriram que ela fornece respostas muito contraditórias a perguntas sobre eventos históricos e, em outras disciplinas, refere-se a dados de redes sociais e fóruns, cuja confiabilidade é altamente questionável. Isso também leva os autores do estudo a insistir em proteger os alunos dos resultados de pesquisa de IA do Google em determinados aspectos do processo educacional.\n