Pesquisadores questionam como aplicativo do Sora se encaixa na missão da OpenAI
Por João Melo • Editado por Melissa Cruz Cossetti |
O aplicativo Sora, da OpenAI, foi lançado no dia 30 de setembro. Ele utiliza o modelo Sora 2 para criar vídeos realistas com inteligência artificial (IA). Porém, a chegada do app, com um feed composto por deepfakes, levou pesquisadores a questionarem se ele se encaixa nos objetivos traçados pela empresa.
- "Momento Sora" é marcado por violações de direitos autorais, deepfake e confusão
- Criador de vídeos da OpenAI está mais realista, gera áudios e tem app próprio
- 5 dicas para você identificar se um vídeo foi gerado por Inteligência Artificial
“A missão da OpenAI é garantir que a inteligência artificial geral (IAG) — ou seja, sistemas altamente autônomos que superam os humanos nas tarefas economicamente mais valiosas — beneficie toda a humanidade”, afirma a empresa de Sam Altman em uma carta que descreve seus princípios.
Fundada em 2015, a companhia também ressalta que, uma vez que a AGI for alcançada com sucesso, a tecnologia deverá impulsionar a economia global e auxiliar na descoberta de novos conhecimentos científicos que “mudam os limites das possibilidades”.
Nesse sentido, o aplicativo Sora ainda não oferece a especialistas em IA total certeza de que está alinhado com os objetivos declarados pela empresa.
Rohan Pandey, ex-pesquisador da OpenAI, criticou o novo aplicativo e aproveitou o momento para promover uma startup chamada Periodic Labs, voltada à criação de sistemas de IA para descobertas científicas e lançada no mesmo dia do app de vídeos.
“Hoje serão apresentadas duas visões do futuro da humanidade com IA. Se você não quiser construir a máquina de lixo infinita do TikTok com IA, mas quiser desenvolver uma IA que acelere a ciência fundamental, elevando a civilização ao nível Kardashev 1 e além, venha se juntar a nós na Periodic Labs”, escreveu em sua conta no X (antigo Twitter).
Impressões de pesquisadores da OpenAI
John Hallman, pesquisador de pré-treinamento da OpenAI, também usou o X para afirmar que feeds de redes sociais baseados em IA são “assustadores” e que ficou preocupado quando soube do lançamento do Sora 2.
“Dito isso, acho que a equipe fez o melhor trabalho possível para criar uma experiência positiva”, escreveu Hallman. “Faremos o nosso melhor para garantir que a IA ajude e não prejudique a humanidade.”
Boaz Barak, pesquisador da OpenAI e professor da Universidade de Harvard, respondeu à postagem afirmando que ainda há limites nas avaliações relacionadas ao app, mas que confia que a empresa fará o monitoramento e possíveis adaptações ao Sora.
“Compartilho uma mistura semelhante de preocupação e entusiasmo. O Sora 2 é tecnicamente incrível, mas é prematuro nos parabenizarmos por evitar as armadilhas de outros aplicativos de mídia social e deepfakes”, ressaltou Barak.
Já Will DePue, pesquisador em aprendizado por reforço aplicado a modelos de linguagem na OpenAI e que também contribuiu para o desenvolvimento do Sora, parabenizou a equipe por trás do app e ressaltou a inteligência inovadora do Sora 2.
Contudo, ele também apresentou alguns pontos de preocupação, especialmente em relação às IAs voltadas à produção de vídeos.
“Claro, ainda estou muito preocupado com a forma como os modelos de vídeo acabarão afetando o ecossistema de informação mundial, a política e os regimes, ou a saúde mental das pessoas”, destacou DePue.
Sam Altman responde a críticas sobre o Sora
Usuários das redes sociais também questionaram Sam Altman sobre o lançamento do Sora e citaram um post em seu blog pessoal (blog.samaltman.com), no qual ele afirma que, talvez com 10 gigawatts de computação, a IA poderia descobrir a cura para o câncer.
Em resposta a uma publicação no X, Altman afirmou que é necessário atrair capital para construir IAs capazes de revolucionar a ciência, mas que também é importante mostrar às pessoas novas tecnologias que possam despertar entusiasmo.
“Eu entendo a vibração aqui, mas… Precisamos principalmente do capital para construir IA que possa fazer ciência e, com certeza, estamos focados em IA com quase todos os nossos esforços de pesquisa”, escreveu o CEO da OpenAI.
Leia mais:
- IAs para gerar vídeos: 5 diferenças entre o Veo 3 e o Sora
- 4 comerciais brasileiros que usaram IA para emocionar na TV ou na internet
-
Novo experimento de IA do YouTube adiciona locutores e DJs virtuais a playlists
VÍDEO | Você já se perguntou como o Raony faz os vídeos da Marisa Maiô?