O cientista da computação Geoffrey Hinton (foto abaixo), chamado de “padrinho da IA”, deixou o cargo de vice-presidente do Google em abril. Ele fez isso para alertar abertamente o público sobre os riscos associados ao uso de IA e também devido ao fato de o Google ter abandonado suas restrições anteriores aos lançamentos públicos de IA devido à concorrência do ChatGPT, Bing Chat etc. levanta muitas questões éticas.
Fonte da imagem: CBS
Em entrevista ao The New York Times, Hinton expressou preocupação de que a IA generativa possa levar a uma onda de desinformação. Você pode “não ser mais capaz de saber o que é verdade”, diz o cientista. Ele também argumenta que a IA não apenas eliminará o “trabalho repetitivo”, mas substituirá completamente alguns empregos.
O cientista também está preocupado com a possibilidade de criar armas totalmente autônomas baseadas em IA e com a tendência de modelos de IA aprenderem “comportamentos estranhos” com base em dados de treinamento. Embora algumas das questões que ele levanta sejam puramente teóricas, Hinton teme uma escalada na implantação da IA que será imparável sem controles efetivos ou limites rígidos.
Hinton disse que sua postura em relação à IA começou a mudar no ano passado, quando o Google, a OpenAI e outras empresas começaram a construir sistemas de IA que às vezes superavam a inteligência humana. Nos últimos cinco anos, a IA se desenvolveu rapidamente, e o que pode acontecer nos próximos cinco anos é alarmante para o cientista.
Comentando as alegações de Hinton, o cientista-chefe do Google, Jeff Dean, disse ao Engadget que o gigante das buscas ainda está adotando uma “abordagem responsável” e monitorando “riscos emergentes”.
O Google adquiriu a startup DNNresearch de Geoffrey Hinton em 2013, e seu trabalho contribuiu para a criação de tecnologia de IA generativa. Em particular, Hinton é um dos autores do método de retropropagação para treinar uma rede neural multicamada.
As preocupações de Hinton são compartilhadas por vários cientistas influentes e executivos de tecnologia. Recentemente, Elon Musk, Steve Wozniak e mais de 1.000 outros especialistas em IA e representantes da indústria de TI pediram uma moratória de seis meses no treinamento de sistemas de IA em uma carta aberta devido à necessidade de abordar questões éticas e de segurança.