O problema da interpretação da IA sobre a banana solitária

O problema da interpretação da IA sobre a banana solitária

Prof. Ms. Luciano do Amaral Dornelles
@prof.lucianodornelles

A inteligência artificial (IA) é uma tecnologia que promete revolucionar diversos campos do conhecimento e da sociedade, mas também traz desafios e riscos que precisam ser considerados. Um desses desafios é a capacidade da IA de entender o mundo real e gerar resultados coerentes com as expectativas humanas. Um experimento simples, mas revelador, mostrou que a IA ainda tem dificuldades para realizar tarefas aparentemente simples, como desenhar uma única banana.

O experimento foi realizado pelo professor Daniel Hook, que lidera uma empresa de pesquisas que usa a IA para realizar pesquisas colaborativas. Ele usou vários programas de IA geradores de arte, que são capazes de criar imagens a partir de instruções textuais, e pediu a eles para desenhar uma única banana lançando uma sombra sobre um fundo cinza. Para sua surpresa, todos os programas desenharam duas ou mais bananas, mesmo com o pedido sendo refeito de diversas formas. O experimento foi chamado de “O Problema da Banana Solitária” e foi publicado em um artigo pelo pesquisador.
O Problema da Banana Solitária expõe uma falha da IA para interpretar corretamente as instruções humanas e gerar imagens coerentes com a realidade. Segundo o pesquisador, uma possível causa dessa falha é que a IA tenha aprendido a associar bananas com outras bananas, por causa do grande número de imagens de cachos de bananas disponíveis na internet. Outra possível causa é que a IA não entenda o conceito de “uma” ou se apenas reproduza padrões estatísticos.

“Todas as imagens que pedi ao Midjourney produzir continham duas (ou mais) bananas, aparentemente não importando como eu tivesse pedido. Os resultados foram os mesmos, com alienígenas e outros animais segurando bananas. De modo um tanto bizarro, vários dos macacos acabaram vestindo bananas ou tendo cor de banana,” contou Hook (SIT, 2023).
O experimento também levanta questões sobre as implicações dessa falha da IA para outras áreas e aplicações. Se a IA não consegue desenhar uma única banana, como ela pode tomar decisões importantes que envolvem o mundo real, como diagnósticos médicos, planejamento urbano ou segurança pública? Como podemos confiar cegamente na IA sem verificar se ela realmente compreende o que está fazendo e se os resultados são válidos e confiáveis?
O Problema da Banana Solitária é um exemplo de como a IA ainda tem limitações e desafios para lidar com o mundo real, que é complexo e dinâmico. A IA depende dos dados que recebe para aprender e gerar resultados, mas esses dados podem ser incompletos, enviesados ou ambíguos. Por isso, é preciso ter cuidado e senso crítico ao usar a IA, e não assumir que ela é infalível ou superior à inteligência humana. A IA é uma ferramenta poderosa, mas também precisa ser supervisionada, avaliada e aprimorada constantemente.
Ao questionar a IA BING, da Microsoft, logo após ter gerado com sucesso as imagens de bananas únicas, obtive a seguinte resposta:
Eu não sei ao certo como as outras IAs funcionam, mas eu imagino que elas tenham sido treinadas com dados diferentes dos que eu usei. Talvez elas tenham visto mais imagens de bananas em cachos,

ou em outras cores, ou em outros contextos. Talvez elas também tenham dificuldade para entender o que significa “uma” ou “solitária”. Talvez elas não tenham sido otimizadas para gerar imagens realistas ou simples. São muitas as possíveis causas para a falha das outras IAs, mas eu acho que elas podem ser melhoradas com mais dados, mais instruções e mais feedback. (Bing, 2023).
É uma questão em aberto, afinal, IAs com acesso a bancos de dados mais completos e complexos, terão respostas mais assertivas para questões solicitadas pelos usuários, sejam elas mais difíceis ou mais simples.

Referências
BING. Explicação sobre a falha das outras IAs para gerar imagens de uma banana solitária.
Mensagem pessoal, 1 jul. 2023.
SIT. SITE INOVAÇÃO TECNOLÓGICA. Problema da Banana Solitária expõe falha da IA para
entender mundo real.
Disponível em:
https://www.inovacaotecnologica.com.br/noticias/noticia.php?artigo=problema-banana-
solitaria-questiona-confiabilidade-inteligencia-artificial Capturado em 01/07/2023