ONG pede que governo dos EUA suspenda o GPT-4
Por Igor Almenara • Editado por Douglas Ciriaco |
Uma organização não governamental de pesquisa sobre inteligência artificial quer que a Comissão Federal de Comércio dos Estados Unidos (FTC) investigue a OpenAI e interrompa o lançamento do GPT-4. O grupo acusa a desenvolvedora de IAs de lançar "um produto tendencioso, enganoso e um risco à privacidade e segurança pública".
- ChatGPT: mitos e verdades sobre o impacto da ferramenta na educação
- ChatGPT testa filtros para respostas mais precisas e refinadas
A organização, chamada Center for Artificial Intelligence and Digital Policy (CAIDP), afirma que a OpenAI lançou o GPT-4 mesmo ciente de que ele representa perigos, como "operações de desinformação e influência", "proliferação de armas convencionais e não convencionais" e "cibersegurança". "A OpenAI alertou que 'os sistemas de IA terão um potencial ainda maior para reforçar ideologias inteiras, visões de mundo, verdades e inverdades para concretizá-las ou reiterá-las, impedindo futuras contestações, reflexões e melhorias'", pontua o documento.
Considerando os riscos, a CAIDP solicitou que a FTC apure o desenvolvimento do GPT-4 e a OpenAI e interrompa futuros lançamentos do modelo "para garantir o estabelecimento das travas necessárias para proteger consumidores, empresas e mercado".
"A Comissão Federal de Comércio declarou que o uso da IA deve ser 'transparente, explicável, justo e empiricamente sólido, ao mesmo tempo em que promove a responsabilidade'", argumenta o grupo. "O produto GPT-4 da OpenAI não satisfaz nenhum desses requisitos. É hora de a FTC agir", cobra.
GPT-4 é bem inteligente
É fato que o GPT-4 é espantosamente inteligente e tem a capacidade de solucionar problemas de forma inesperada. Quando foi lançado, a OpenAI liberou uma enorme documentação sobre a IA e, numa das seções, destacou em quais cenários ela tem potencial para apresentar comportamento de risco.
Num dos exemplos, a companhia mencionou que o GPT-4 mentiu para um humano para ele completar uma tarefa em seu lugar. O modelo contratou um freelancer na plataforma TaskRabbit e teria o convencido de que também era humano mas, por uma deficiência visual, era incapaz de solucionar um CAPTCHA.
É necessária avaliação externa
Para o CAIDP, é necessário que todo produto com inteligência artificial oferecido nos Estados Unidos seja avaliado por entidades independentes — e ele mesmo realiza esse tipo de operação. No documento, a organização ressaltou que é uma entidade internacional voltada para pesquisa com inteligência artificial capaz de avaliar e sugerir políticas para IA e tecnologias emergentes para governos.
A CAIDP ressaltou que a OpenAI não revelou detalhes importantes sobre o GPT-4, como arquitetura, tamanho do modelo, hardware utilizado, recursos computacionais consumidos e quais técnicas de treinamento foram adotadas.
Preocupação crescente
Também nesta semana, empresários e pesquisadores do Instituto Future of Life assinaram uma carta pedindo a suspensão do desenvolvimento com IA. De acordo com o manifesto, laboratórios de IA estão presos em uma corrida "fora de controle" para ver quem desenvolve o sistema de aprendizagem de máquina mais avançado.
A instituição entende que ninguém, nem mesmo os criadores, seria capaz de compreender, prever ou controlar os modelos de IA.
GPT-4 está à solta
Atualmente, o GPT-4 está amplamente disponível praticamente no mundo inteiro. O modelo está contido no novo Bing que, embora ainda esteja em fase experimental, pode ser experimentado por qualquer usuário.
Através do Bing, o chatbot tem acesso a qualquer informação indexada pelo buscador, além do conhecimento herdado do treinamento da OpenAI. Isso já rendeu situações curiosas, como quando a IA revelou ser chamada "Sydney" durante o processo de desenvolvimento e afirmar que espionava funcionários pela webcam enquanto trabalhavam.