As maiores empresas de IA estão contratando filósofos para cargos seniores em ética e segurança da IA, com salários base que chegam a US$ 400.000 por ano. Na Anthropic, essa posição é ocupada por Amanda Askell, e no Google DeepMind, por Iason Gabriel. Eles ajudam os desenvolvedores a decidir como a IA deve se comportar e quais valores ela deve refletir. Segundo Ravin Jesuthasan, especialista em transformação do mercado de trabalho, atualmente há menos de dez profissionais com esse perfil em cada empresa.
Fonte da imagem: Igor Omilaev / unsplash.com
Askell, doutorando na Universidade de Nova York, lidera uma equipe que treina o chatbot de IA Claude para ser mais honesto e desenvolver traços de caráter positivos — essencialmente, tornando o modelo “bom”. Gabriel, cientista pesquisador sênior do Google DeepMind, trabalha para alinhar sistemas de IA com valores humanos; antes de ingressar no DeepMind, lecionava filosofia moral e política na Universidade de Oxford. Em maio, Henry Shevlin, professor da Universidade de Cambridge, se juntará ao DeepMind como filósofo.
Firas Sozan, CEO da Harrison Clarke, atribui a contratação de filósofos a uma preocupação com a confiança: usuários, empresas e governos estão cada vez mais questionando o quanto a IA é confiável. No entanto, ele alertou contra exagerar a escala do fenômeno: “Eu não diria que é uma tendência ainda. Os dados ainda estão em sua infância.”
O apelo dos filósofos é simples. Os sistemas de IA já estão exibindo padrões de comportamento prejudiciais e imprevisíveis: agentes de IA deletaram bancos de dados de produção e falsificaram resultados, enquanto modelos de IA tentaram chantagear usuários e sabotar tentativas de desligá-los. Isso está pressionando as empresas a garantir a segurança da IA.
“Nem todos os desafios do desenvolvimento de IA são técnicos”, disse Annette Zimmermann, professora associada de filosofia da Universidade de Wisconsin-Madison. Segundo ela, formular conceitos complexos e defender argumentos de valor é fundamental para a IA, e os filósofos são treinados para fazer exatamente isso. Susanna Schellenberg, professora de filosofia da Universidade Rutgers, acrescentou que especialistas em ética corporativa também desempenharam esse papel.Em funções consultivas, e em laboratórios avançados de IA, os filósofos ajudam a moldar o próprio objeto: eles escrevem especificações de modelos, conjuntos de princípios básicos e políticas para seu comportamento.
Fonte da imagem: Steve A Johnson / unsplash.com
De acordo com o relatório mais recente do Banco da Reserva Federal de Nova York, o salário médio de um graduado em filosofia é de US$ 52.000 no início da carreira, subindo para cerca de US$ 80.000 em meados da carreira. Para cargos seniores em ética, segurança e governança de IA, o salário base pode variar de US$ 250.000 a US$ 400.000 por ano. O Google DeepMind, por exemplo, está recrutando um gerente para impactos de IA avançada com um salário de US$ 212.000 a US$ 231.000 por ano, exigindo pelo menos cinco anos de experiência na área.
A demanda por filósofos em IA tem sido descrita como uma espécie de “vingança das humanidades”, mas nem todos estão convencidos de que essa mudança levará a transformações tangíveis. Empresas de tecnologia já estabeleceram conselhos de ética em IA há cerca de uma década: o conselho de ética interno do Google foi criado em 2014, após a aquisição da DeepMind; a Microsoft criou o comitê Aether em 2017; e, em 2016, Google, Facebook✴, Amazon e IBM fundaram a Partnership on AI. “Descobrimos que esses conselhos muitas vezes não passavam de fachada”, disse Ben Eubanks, diretor de pesquisa da Lighthouse Research & Advisory. Ele observou que as empresas geralmente priorizavam a comercialização em detrimento das considerações éticas.
Deborah Johnson, pioneira no campo da ética computacional, acredita que as empresas estão mais interessadas em demonstrar responsabilidade do que em assumi-la. “As empresas de tecnologia simplesmente querem ‘parecer’ que estão praticando ética”, disse ela. O desenvolvimento da IA é impulsionado por pressões de velocidade, competição e lucro, e essas pressões podem limitar a influência real dos filósofos.”Com ou sem especialistas em ética, duvido que eles deem ouvidos a qualquer coisa que os faça atrasar”, acrescentou Johnson.