IA próximo de atingir seu limite?
Jerome Pesenti, chefe do setor de Inteligência Artificial do Facebook é incentivado pelo progresso na inteligência artificial, mas reconhece que a IA está próximo de atingir seu limite.
Responsável pela liderança do desenvolvimento de inteligência artificial em uma das empresas mais influentes e polêmicas do mundo. Como vice-presidente de inteligência artificial do Facebook, ele supervisiona centenas de cientistas e engenheiros cujo trabalho molda a direção da empresa e seu impacto no mundo inteiro.
A Inteligência Artificial é fundamentalmente importante para o Facebook. Algoritmos que aprendem a atrair e prender nossa atenção ajudam a tornar a plataforma e seus produtos, Instagram e WhatsApp, mais viciantes. E, apesar de alguns fracassos notáveis de IA, como o assistente pessoal M, o Facebook continua utilizando a IA para criar novos recursos e produtos – de filtros do Instagram a aplicativos de realidade aumentada.
Origem e novas demandas
Mark Zuckerberg prometeu implantar a IA para ajudar a resolver alguns dos maiores problemas da empresa, policiando discursos de ódio, notícias falsas e cyberbullying (um esforço que teve sucesso limitado até agora). Mais recentemente, o Facebook foi forçado a desvendar uma forma de barrar a divulgação de vídeos de deepfake que poderiam espalhar informações errôneas de forma convincente e permitir novos tipos de assédio. Deepfake são vídeos alterados (por IA), onde as pessoas aparecem fazendo ou falando coisas distintas do que originalmente estavam. A Inteligência Artificial aprende como o rosto se mexe e treina uma nova imagem para fazer o mesmo – como aqueles filtros que trocam o rosto entre as pessoas em tempo real.
Pesenti entrou no Facebook em janeiro de 2018, herdando um laboratório de pesquisa criado por Yann Lecun, um dos maiores nomes do campo. Antes disso, ele trabalhou na plataforma Watson da IBM e na Benevolent, uma empresa que está aplicando a tecnologia na medicina. Pesenti se encontrou com Will Knight, escritor sênior da WIRED, perto de seus escritórios em Nova York. A conversa foi editada por muito tempo.
Entrevista
Will Knight: A IA foi apresentada como uma solução para notícias falsas e abuso online, mas isso pode exagerar seu poder. Que progresso você está realmente fazendo aí?
Jerome Pesenti: Moderar automaticamente, ou mesmo com humanos e computadores trabalhando juntos, na escala do Facebook é um problema super desafiador. Mas fizemos muitos progressos. No início, o campo avançou na visão – compreendendo cenas e imagens. Pudemos aplicar isso nos últimos anos para reconhecer a nudez, reconhecer a violência e entender o que está acontecendo em imagens e vídeos.
Recentemente, houve muito progresso no campo da linguagem, permitindo uma compreensão muito mais refinada das interações por meio da linguagem que as pessoas usam. Podemos entender se as pessoas estão tentando intimidar, se é discurso de ódio ou se é apenas uma piada. De forma alguma, é um problema resolvido, mas há um progresso claro sendo feito.
IA e os Deepfakes
JP: Estamos levando isso muito a sério. Na verdade, criamos novos vídeos do deepfake, para que as pessoas pudessem testar as técnicas de detecção do deepfake. É um desafio realmente importante sobre o qual estamos tentando ser proativos. No momento, não é realmente significativo na plataforma, mas sabemos que pode ser muito poderoso. Estamos tentando estar à frente do jogo e envolvemos a indústria e a comunidade.
WK: Vamos falar sobre IA de maneira mais geral. Algumas empresas, por exemplo, DeepMind e OpenAI, afirmam que seu objetivo é desenvolver “inteligência geral artificial”. É isso que o Facebook está fazendo?
JP: Como laboratório, nosso objetivo é combinar a inteligência humana. Ainda estamos muito, muito longe disso, mas achamos que é um ótimo objetivo. Acredito que muitas pessoas no laboratório, incluindo Yann, acreditam que o conceito de “IGA” não é realmente interessante e não significa muito.
Por um lado, você tem pessoas que assumem que a IGA é inteligência humana. Mas acho que é um pouco falso, porque se você realmente pensa em inteligência humana, não é muito geral. Outras pessoas projetam na IGA a ideia da singularidade – que, se você tiver uma IGA, terá uma inteligência que pode melhorar e continuar melhorando. Mas não existe um modelo real para isso. Os humanos não podem se tornar mais inteligentes. Eu acho que as pessoas estão jogando essas informações por aí para seguir uma certa agenda.
Inteligência real vs. Artifical?
WK: O laboratório de IA do Facebook foi construído por LeCun, um dos pioneiros do deep learning que recentemente ganhou o Prêmio Turing por seu trabalho na área. O que você acha dos críticos do foco do campo na aprendizagem profunda, que dizem que isso não nos trará inteligência real?
JP: O aprendizado profundo e a IA atual, se você for realmente honesto, tem muitas limitações. Estamos muito longe da inteligência humana e existem algumas críticas válidas: ela pode propagar vieses humanos, não é fácil de explicar, não tem senso comum, é mais no nível de correspondência de padrões do que no entendimento semântico robusto. No entanto, estamos progredindo na abordagem de algumas delas, e o campo ainda está evoluindo muito rapidamente. Você pode aplicar um aprendizado profundo à matemática, ao entendimento de proteínas, há muitas coisas que você pode fazer com isso.
Repetição ou inovação em IA
WK: Alguns especialistas em IA também falam sobre uma “crise de reprodutibilidade” ou a dificuldade de recriar pesquisas inovadoras. Você vê isso como um grande problema?
JP: É algo pelo qual a IA do Facebook é muito apaixonada. Quando as pessoas fazem coisas que não são reproduzíveis, isso cria muitos desafios. Se você não pode reproduzi-lo, há muito investimento perdido.
Acreditamos que a reprodutibilidade agrega muito valor ao campo. Isso não apenas ajuda as pessoas a validar resultados, mas também permite que mais pessoas entendam o que está acontecendo e desenvolvam isso. A beleza da IA é que, em última análise, são sistemas executados por computadores. Portanto, é um candidato primordial, como um subcampo da ciência, a ser reproduzível. Acreditamos que o futuro da IA será algo em que é reproduzível quase por padrão. Tentamos manter como código aberto a maior parte do que produzimos na IA, para que outras pessoas possam a partir dela.
IA – Limite computacional e financeiro
WK: A OpenAI observou recentemente que a energia de computação necessária para IA avançada está dobrando a cada 3 meses e meio. Você está preocupado com isso?
JP: Essa é uma pergunta muito boa. Quando você escala o aprendizado profundo, ele tende a se comportar melhor e a resolver uma tarefa mais ampla de uma maneira melhor. Portanto, há uma vantagem no dimensionamento. Mas claramente a taxa de progresso não é sustentável. Se você observar as principais experiências, a cada ano o custo aumenta 10 vezes. No momento, um experimento pode ter sete dígitos, mas não vai chegar a nove ou dez dígitos, não é possível, ninguém pode pagar por isso.
Isso significa que em algum momento vamos chegar ao limite. De muitas maneiras, nós já chegamos lá. Nem todas as áreas atingiram a limitação de escala, mas, na maioria dos lugares, estamos chegando a um ponto em que realmente precisamos pensar em termos de otimização, em termos de custo-benefício, e ver como conseguimos o máximo usando aquilo que temos em temos de computação. Este é o mundo em que estamos entrando.
Cases e a comercialização da IA
WK: O que você aprendeu ao comercializar a IA na IBM com o Watson? O que você tentou copiar e o que tentou evitar no Facebook?
JP: Watson foi um momento muito divertido, e acho que a IBM destacou que este é um mercado comercial e que, existem aplicativos. Eu acho isso realmente notável. Mas havia exagero demais. Não acho que isso tenha servido muito bem à IBM.
Quando você tem um lugar como o Facebook, é impressionante a taxa de uso dentro da organização. O número de desenvolvedores que usam IA no Facebook está mais do que dobrando a cada ano no momento. Então, precisamos explicar que é útil, mas que não se exagere. Não nos serve afirmar que ele pode fazer coisas que não pode. E não preciso exagerar para justificar a existência da minha equipe.
WK: O Facebook às vezes tem se esforçado para transformar a pesquisa em IA em um sucesso comercial, por exemplo, com o Assistente M. Como você está tentando conectar pesquisa e engenharia com mais eficiência?
JP: Quando você começa a falar sobre transferência de tecnologia, significa que você já perdeu a batalha. Você não pode simplesmente pegar algumas pesquisas e pedir a outras pessoas que tentem colocá-las em produção. Você não pode simplesmente jogá-lo por cima da cerca. A melhor maneira de configurá-lo é levar as pessoas que fazem pesquisas fundamentais a trabalhar com pessoas que estão mais próximas do produto. É realmente um desafio organizacional – garantir que exista um conjunto de projetos que amadurecem ao longo do tempo e que tragam as pessoas junto a eles, em vez de terem barreiras onde você tem cientistas de um lado, e eles simplesmente lançam suas pesquisas por cima.
Perspectivas para IA atingir no Facebook
WK: Que tipos de novos produtos de IA devemos esperar do Facebook no curto prazo, então?
JP: Os dois principais usos da IA atualmente no Facebook estão tornando a plataforma mais segura para os usuários e garantindo que o que mostramos aos usuários seja valioso para eles. Mas algumas das coisas mais emocionantes que estamos fazendo estão tentando criar novas experiências que só são possíveis com a IA.
Tanto a realidade aumentada quanto a realidade virtual só podem existir com a IA. Vimos recentemente que você pode interagir com a realidade virtual usando as mãos, o que requer uma compreensão realmente sutil do que está ao redor do fone de ouvido. Ela analisa a cena inteira usando apenas uma câmera para que você possa usar suas mãos como controladores. Eu também acredito que há um enorme potencial para tornar as pessoas mais criativas. Você está vendo isso com algumas das ofertas concorrentes, como o TikTok. Muitas pessoas criam vídeos e conteúdo interagindo naturalmente com o meio, em vez de serem especialistas, editores de vídeos ou artistas.
WK: Será que a tecnologia por trás dos deepfakes talvez possa ser colocada para estes fins criativos?
JP: Absolutamente. Precisamos estar cientes dos dois lados. Há muito potencial para tornar as pessoas mais criativas e capacitá-las. Mas, como aprendemos nos últimos anos, precisamos usar a tecnologia de forma responsável e estar cientes das consequências indesejadas antes que elas aconteçam.
IA Local
WK: O que você acha da ideia dos controles de exportação de IA? A tecnologia pode ser restrita? Isso prejudicaria o campo?
JP: Minha opinião é que isso parece muito impraticável de implementar. Além disso, porém, poderia impactar negativamente o progresso da pesquisa, forçando o trabalho a ser menos reprodutível e não mais. Acredito que a abertura e a colaboração são importantes para impulsionar os avanços na IA, e restringir a publicação ou o código aberto dos resultados de pesquisas fundamentais arriscaria retardar o progresso do campo.
Dito isto, independentemente de tais controles serem implementados, como pesquisadores responsáveis, devemos continuar a considerar os riscos de possíveis aplicações incorretas e como podemos ajudar a mitigá-las, garantindo ainda que nosso trabalho de avanço da IA seja o mais aberto e reproduzível possível.
Traduzido e adaptado de Wired. Facebook’s Head of AI Says Field Will Soon ‘Hit The Wall’. KNIGHT, Will. Disponível em: <https://www.wired.com/story/facebooks-ai-says-field-hit-wall/>. Acesso em 14 dez. 2019.
Gostou deste artigo? Leia também “Golpistas de aplicativo de relacionamentos identificados por IA” e veja como a Inteligência Artificial tem sido aplicada.
