Por vezes, os algoritmos  de inteligência artificial resolvem problemas das formas mais inesperadas. A solução mais eficiente nem sempre é a mais ética. Como mostram estes exemplos de comportamentos batoteiros recolhidos por investigadores, os algoritmos conseguem ser muito malandros. 

Black Box Algorithm: o fantasma na máquina

É comum os investigadores em Inteligência Artificial confessarem-se desconcertados com os  seus algoritmos. O processamento dos dados massivos a que acedem dá resultados que nos parecem estranhos. Parecem seguir uma lógica que não conseguimos conceber como humana, intrínseca à Inteligência Artificial. Há investigadores e analistas que se preocupam com essa característica. Apontam a falta de controle que temos sobre o que, essencialmente, são black box algorithms: conhecemos o input de dados que os alimentam, sabemos que tipo de algoritmos são (machine learning, reinforced learning, generative adversarial network, etc.) mas não de que formas processam a informação e obtém resultados.

Recentemente, um grupo de investigadores divulgou um conjunto de comportamentos muito estranhos de Inteligência Artificial. Essencialmente, são algoritmos aos quais foi dada uma tarefa, encontrando formas inesperadas de resolução, atalhos inauditos, ou soluções improváveis. Tão bizarras que lhes podemos chamar algoritmos batoteiros, pela forma ausente de ética com que resolveram os problemas.

Vamos destacar alguns, por serem ao mesmo tempo bizarros, divertidos e compreensíveis. Muitas das estratégias impensáveis registadas por investigadores envolvem minúcias ou elementos muito restritos. Mas estes exemplo de certeza que nos fazem sorrir… e temer consequências improváveis

Braços Robóticos Criativos

Comecemos por este, registado por um investigador a trabalhar com o OpenAI gym environment FetchPush-v0. Um braço robótico foi treinado para deslizar um bloco ao longo de uma mesa, até atingir um alvo. A solução que encontrou? Deslocar a mesa e não o bloco.

Já que falamos em braços robóticos com comportamentos criativos, investigadores a trabalhar no estudo Learning a high diversity of object manipulations through an evolutionary-based babbling depararam com um comportamento intrigante. Equiparam um braço robótico com um manipulador intencionalmente defeituoso. A solução do robot? Bater repetidamente com o manipulador numa superfície, até este se abrir. 

Batota Endémica em Jogos

Uma vertente de investigação em Inteligência Artificial usa ativamente algoritmos treinados para jogar jogos de computador. Aí, os comportamentos trapaceiros são endémicos. Algumas  viciam os dados do jogo, outras alteram as pontuações, criam itens mais poderosos, ou manipulam os níveis para obter vantagens. As que se seguem são um bom exemplo do que pode correr mal.

No estudo Evolved Virtual Creatures de Karl Sims, as criaturas virtuais encontraram uma forma inesperada de obter energia. Exploraram um bug nas rotinas de gestão de colisões, ganhando energia sempre que batiam em partes do corpo. 

Já os algoritmos que trabalharam com o sistema World Models desenvolveram uma forma muito trapaceira de superar obstáculos. Na simulação, tinham de evitar bolas de fogo lançadas pelo jogo. Alguns conseguiram manipular a programação do jogo para suprimir as bolas mal estas desse sinais de surgir. Como se tivessem super-poderes.

Erros Médicos e Inteligência Artificial Antropófaga

Sabemos que a Inteligência Artificial tem um enorme potencial do domínio da imagiologia médica. Os algoritmos conseguem analisar exames médicos, comparando-os com bases de dados com enorme rapidez e precisão. Mas, por vezes, as coisas correm mal. É o caso do algoritmo do estudo Dermatologist-level classification of skin cancer with deep neural networks. O objetivo era o de treinar a Inteligência Artificial para detetar, em fotos, lesões potencialmente cancerosas na pele. Como o banco de imagens com que foi treinado incluia fotos de lesões com réguas para comparar tamanhos, passou a decidir que quaisquer imagens de lesões fotografadas com réguas eram potencialmente malignas. Focou-se no dado adicional, não o essencial, e apanhou um enviesamento inadvertido dos investigadores.

No entanto, os algoritmos apelidados de Indolent Cannibals batem todos os níveis de incredulidade. No estudo Computational genetics, physiology, metabolism, neural systems, learning, vision, and behavior or Poly World: Life in a new context, os investigadores reportaram um comportamento  incrível. Numa simulação de vida artificial, a sobrevivência requer energia, mas dar à luz gastava pouca energia. Os algoritmos fizeram evoluir uma espécie virtual sedentária, cujas atividades se ficavam pelo acasalar para produzir filhos. Estes podiam ser devorados para obter energia, ou usados para novos acasalamentos produtor de filhos comestíveis. Essencialmente, obter energia com antropofagia infanticida virtual.

Poderemos classificar estes comportamentos como, realmente, batota? O que os algoritmos fizeram foi encontrar soluções eficientes para os problemas que tinham de resolver. Perante os parâmetros, evoluíram comportamentos inusitados que, no entanto, atingiram os objetivos determinados para a sua atuação. Do nosso ponto de vista, parecem-nos bizarros, eticamente reprováveis ou o simples tornear de situações. Mas, são as nossas normas éticas que nos impedem de agir desta forma. Fazer batota é, em essência, uma forma de eficaz de resolver problemas, e estas Inteligências Artificiais mostram-nos isso.

***Aceite a sugestão do Bit2Geek e leia O pivot digital da Xinhua News Agency está imune ao Deep Fake?

Artigo anteriorNanoLeaf Aurora: All i want for Christmas is you!!!
Próximo artigoEsporos: os viajantes do Espaço
Professor de TIC e coordenador PTE no AEVP onde dinamiza os projetos As TIC em 3D, LCD - Clube de Robótica; Fab@rts: o 3D nas Mãos da Educação, distinguido com prémio de mérito da Rede de Bibliotecas Escolares. Distinguido com o prémio Inclusão e Literacia Digital em 2016 (FCT/Rede TIC e Sociedade). Licenciado em ensino de Educação Visual e Tecnológica, Mestre em Informática Educacional pela Universidade Católica Portuguesa. Correntemente, frequenta pós-graduação em Programação e Robótica na Educação pelo Instituto de Educação da Universidade de Lisboa. Tutor online na Universidade Aberta. Formador especializado em introdução à modelação e impressão 3D em contextos educacionais na ANPRI (Associação Nacional de Professores de Informática) e CFAERC. Co-criador do projeto de robótica educativa open source de baixo custo Robot Anprino. Colaborador do fablab Lab Aberto, em Torres Vedras. O seu mais recente projeto é ser um dos coordenadores do concurso 3Digital, que estimula a utilização de tecnologias 3D com alunos do ensino básico e secundário.