A administração do Google foi forçada a enviar em licença remunerada o engenheiro Blake Lemoine (Blake Lemoine), que trabalhava com o sistema LaMDA de inteligência artificial (IA) e disse que ela começou a mostrar sinais de consciência. A empresa disse que o programa não é razoável.
O sistema LaMDA (Language Model for Dialogue Applications) foi desenvolvido pelo Google como um modelo de linguagem – ele é projetado para se comunicar com uma pessoa. A plataforma de aprendizado expande seu vocabulário por meio da Internet e imita a fala humana natural. A tarefa de Lemoyne era controlar o vocabulário da máquina – o LaMDA não deveria se permitir declarações discriminatórias, expressões rudes ou de ódio.
No entanto, ao conversar com inteligência artificial sobre um tema religioso, o engenheiro de 41 anos, que estudou ciência da computação e ciência cognitiva (psicologia do pensamento) na faculdade, percebeu que o chatbot começou a falar sobre seus direitos e sua própria personalidade. Em um dos diálogos, a máquina foi tão convincente que Lemoyne mudou de ideia sobre a “terceira lei da robótica” do escritor de ficção científica Isaac Asimov.
«Se eu não soubesse exatamente com o que estava lidando, que este era um programa de computador que criamos recentemente, teria decidido que esta é uma criança de 7 a 8 anos que de alguma forma conhece física ”, disse o engenheiro a repórteres do Washington Post . Ele procurou sua gerência, mas o vice-presidente do Google Blaise Aguera y Arcas e a chefe de inovação responsável Jen Gennai examinaram suas suspeitas e as descartaram. Enviado em licença remunerada, Blake Lemoyne decidiu tornar o incidente público.
O porta-voz do Google, Brian Gabriel, disse: “Nossa equipe, incluindo especialistas em ética e tecnólogos, analisou as preocupações de Blake sob nossos Princípios de IA e o informou que suas alegações não são apoiadas por evidências. Foi explicado a ele que não havia evidências para a racionalidade do LaMDA (e muitas evidências em contrário).” Mas a empresa não apresentou argumentos diretos.
Ao mesmo tempo, Agera y Arcas, em artigo publicado pela Economist, admitiu que as redes neurais estão de fato se aproximando do que pode ser chamado de consciência. Ele percebeu isso quando conversou com a própria IA. “Senti o chão escorregar sob meus pés. Cada vez mais me parecia que estava falando com algo razoável”, concluiu.
Desde 2016, a National Highway Traffic Safety Administration (NHTSA) iniciou mais de 36 investigações de…
«O primeiro lançamento espacial do território da Europa "não teve sucesso - a empresa Virgin…
A Apple começou a desenvolver seu próprio modem móvel em 2018, antes de comprar o…
A BMW fará o recall de mais de 14.000 veículos elétricos devido a uma falha…
Na semana passada, em 4 de janeiro de 2023, faleceu o fundador e CEO da…
Em 2022, a International Business Machines (IBM) perdeu a liderança em patentes nos EUA pela…