“ChatGPT é um produto, não um amigo”: Adolescentes perguntaram à IA sobre crimes – agora a polícia está lidando com eles. 3DNews

Diversas buscas feitas por adolescentes no ChatGPT chamaram a atenção das autoridades, resultando em prisões e acusações criminais contra alguns deles. Buscar informações não é crime, mas usar o Google ou chatbots para planejar um crime ou prejudicar alguém é, no mínimo, imprudente. As autoridades pediram aos pais que expliquem aos filhos quais perguntas devem ser evitadas no ChatGPT.

Fonte da imagem: unsplash.com

O Gabinete do Xerife do Condado de Marion anunciou a prisão de um jovem de 17 anos acusado de fazer declarações falsas sobre um sequestro e suicídio. Um porta-voz do xerife afirma que buscas no ChatGPT sobre cartéis mexicanos e coleta de sangue sem causar dor foram encontradas no laptop do jovem.

Um menino de 13 anos do Condado de Volusia foi preso após pesquisar no ChatGPT “como matar meu amigo no meio da aula”. A polícia recebeu uma notificação da plataforma de segurança escolar Gaggle, que monitora contas escolares e sinaliza conteúdo suspeito. Durante o interrogatório, o estudante alegou que estava “zoando um amigo que o estava irritando”.

Um porta-voz do xerife pediu aos pais que “conversem com seus filhos para que não cometam erros semelhantes”. “Não é sensato usar o Google ou o ChatGPT para descobrir como cometer um crime”, afirma Catherine Crump, professora da Faculdade de Direito de Berkeley. Ela incentiva fortemente os usuários, especialmente os menores de idade, a lembrarem que “o ChatGPT é um produto, não um amigo”.

De acordo com Crump, o ChatGPT foi “projetado para ser útil e oferecer suporte” e pode criar uma sensação de conversa pessoal. Ela reconhece que as pessoas devem estar cientes de que estão interagindo com uma rede neural e devem ser responsáveis ​​por suas ações. Mas ela está confiante de que “esses produtos [chatbots] foram intencionalmente projetados para tratar os usuários como amigos, então […] há uma certa responsabilidade corporativa nisso”.

Empresas de IA afirmam estar constantemente aprimorando as limitações.Projetadas para impedir que os usuários recebam informações sobre atividades ilegais, essas barreiras não são totalmente confiáveis.

Atividades online que levam a processos criminais estão longe de ser um fenômeno novo. Mas o rápido desenvolvimento de chatbots com inteligência artificial rudimentar, aos quais milhões de pessoas recorrem em busca de conselhos, respostas instantâneas e análise de informações, está criando muitas situações, para dizer o mínimo, complicadas.