Enquanto Elon Musk e outros continuam a soar o alarme sobre os perigos potenciais da inteligência artificial, uma dupla improvável de um cientista de dados e um filósofo político está se unindo para usar a IA com um propósito diferente em mente: unir as divisões políticas cada vez mais rígidas da sociedade.
O projeto surgiu da pesquisa de David Rozado, professor do Te P?kenga – o Instituto de Habilidades e Tecnologia da Nova Zelândia, cujo trabalho recente chamou a atenção para o viés político no ChatGPT e o potencial desse viés em outros sistemas de IA.
Rozado descobriu que em 14 das 15 respostas do teste de orientação política do ChatGPT, um produto da empresa OpenAI, foram consideradas como dando pontos de vista de esquerda. Ao mesmo tempo, porém, a ferramenta de processamento de linguagem de IA negou ter qualquer viés ou orientação política, sustentando que estava apenas fornecendo informações objetivas e precisas aos usuários.
“O sistema sinalizaria como comentários odiosos sobre certos grupos, mas não sobre outros”, disse Rozado à Fox News Digital, observando, por exemplo, que o sistema diria que é odioso chamar mulheres de desonestas, mas não homens. Ele descreveu de forma semelhante como o ChatGPT é mais permissivo com comentários negativos sobre conservadores e republicanos do que exatamente os mesmos comentários feitos sobre liberais e democratas.
Close-up do ícone do logotipo do aplicativo chatbot de inteligência artificial ChatGPT na tela de um celular. Cercado pelos ícones de aplicativos do Twitter, Chrome, Zoom, Telegram, Teams, Edge e Meet. (iStock)
DESENVOLVEDOR CRIA PRO-FIRST EMENDMENT AI PARA COMBATER AS ‘MOTIVAÇÕES POLÍTICAS’ DO CHATGPT
Em resposta a esse aparente viés, Rozado descobriu que poderia “ajustar” um modelo de linguagem de IA semelhante ao ChatGPT por apenas US$ 300 gastos em computação em nuvem, para que desse consistentemente respostas corretas a perguntas com conotações políticas. Ele apelidou o sistema de RightWingGPT, observando os perigos de “IAs politicamente alinhadas”, devido ao seu potencial de polarizar ainda mais a sociedade.
A pesquisa de Rozado chamou a atenção de Steve McIntosh, um filósofo político e autor que dirige um think tank chamado Institute for Cultural Evolution. Agora, os dois estão se unindo para, como McIntosh disse à Fox News Digital, impedir que os chatbots de IA “polarizem ainda mais a América, como a mídia social fez”.
McIntosh disse que há perigos significativos com a IA, reconhecendo que há uma ameaça real, mas acrescentou que também há oportunidades que não devem ser perdidas.
Nesse ponto, ele e Rozado estão colaborando em um novo projeto para construir outro modelo de linguagem chamado LeftWingGPT que consistentemente dá respostas de esquerda para perguntas com conotações políticas e um terceiro modelo chamado DepolarizingGPT que dará o que os dois descreveram como “despolarizante” e respostas “integrativas”.
O burro democrata e as estátuas de elefantes republicanos simbolizam o sistema político bipartidário da América em frente ao Willard Hotel em Washington, DC (Visions of America/Universal Images Group via Getty Images)
AI CHATBOT ‘ALUCINAÇÕES’ PERPETUAM FALSIDADES POLÍTICAS, PREVENÇÕES QUE REESCREVERAM A HISTÓRIA AMERICANA
A ideia é combinar todos os três modelos – RightWingGPT, LeftWingGPT e DepolarizingGPT – em um sistema para que, quando os usuários fizerem uma pergunta, obtenham respostas de todos os três para oferecer às pessoas mais perspectivas do que as suas.
“Se alguém vê todas as três respostas, pode ver três pontos de vista diferentes e ficar mais exposto”, disse Rozado. “As pessoas podem expandir além de seus próprios pontos de vista e tomar suas próprias decisões.”
Tanto Rozado quanto McIntosh explicaram que inserem trabalhos de intelectuais proeminentes – por exemplo, conservadores como Thomas Sowell, Milton Friedman, William F. Buckley e Roger Scruton para construir o RightWingGPT – para que os modelos sejam expostos a “saudáveis” e ” ideias responsáveis”, mas não extremas.
“Evitamos fontes com pontos de vista perturbados”, disse Rozado, que observou que o processo foi automatizado para que eles não estivessem simplesmente escolhendo o que os modelos de IA aprenderam.
De acordo com McIntosh, o plano é que o projeto seja lançado em julho, e ambos esperam que isso faça diferença.
O logotipo da OpenAI organizado em um laptop em Pequim, China, na sexta-feira, 24 de fevereiro de 2023. (Bloomberg via Getty Images)
QUAIS SÃO OS PERIGOS DA IA? DESCUBRA POR QUE AS PESSOAS TEM MEDO DA INTELIGÊNCIA ARTIFICIAL
O esperado lançamento viria em um momento fortuito. OpenAI alertou recentemente que IA mais capaz os modelos podem ter “maior potencial para reforçar ideologias inteiras, visões de mundo, verdades e inverdades”. Em fevereiro, a empresa disse que exploraria o desenvolvimento de modelos que permitissem aos usuários definir seus valores.
Um desafio potencial é que os modelos de linguagem de IA podem captar vieses sutis do material de treinamento que consomem – ou dos humanos que os criam.
“Em vez de fingir que não há preconceito, que sempre existe, vamos mostrar às pessoas uma direita responsável, uma esquerda responsável e uma posição integrada”, disse McIntosh. “No fundo, a maioria das pessoas quer consertar o que está errado e preservar o que está certo. Mas não queremos a Revolução Francesa de um lado ou um apego irracional ao estrito status quo do outro. A verdade é a esquerda e a direita são interdependentes e precisam uns dos outros.”
CLIQUE AQUI PARA BAIXAR O APLICATIVO FOX NEWS
McIntosh observou que a IA pode ser armada para manipular informações e promover uma ideologia específica, mas quer oferecer um caminho diferente.
“Queremos mostrar às pessoas algo no espaço político além de odiar o outro lado”, disse ele.
