Joseph Norman
0 
2005
171
Um proeminente pesquisador de aprendizado de máquina e inteligência artificial está argumentando que seu campo se desviou dos limites da ciência e da engenharia para a "alquimia". E ele está oferecendo uma rota de volta.
Ali Rahimi, que trabalha em IA para o Google, disse que acha que seu campo fez um progresso incrível, mas sugeriu que há algo podre na maneira como foi desenvolvido. No aprendizado de máquina, um computador "aprende" por meio de um processo de tentativa e erro. O problema em uma palestra apresentada em uma A.I. conferência é que os pesquisadores que trabalham na área - quando um computador "aprende" devido a um processo de tentativa e erro - não apenas não entendem exatamente como seus algoritmos aprendem, mas também não entendem como as técnicas que estão usando para construir esses algoritmos também funcionam, Rahimi sugeriu em uma palestra apresentada em uma conferência de IA coberta recentemente por Matthew Hutson para a revista Science.
Em 2017, Rahimi deu o alarme sobre o lado místico da inteligência artificial: "Produzimos resultados impressionantes", escreveu ele em um blog. "Os carros que dirigem sozinhos parecem estar chegando. A inteligência artificial marca rostos em fotos, transcreve mensagens de voz, traduz documentos e nos fornece anúncios. Empresas bilionárias baseiam-se no aprendizado de máquina. Em muitos aspectos, estamos em uma posição melhor do que há dez anos. Em alguns aspectos, estamos em uma situação pior. " [Máquinas superinteligentes: 7 futuros robóticos]
Rahimi, como Hutson relatou, mostrou que muitos algoritmos de aprendizado de máquina contêm recursos agregados que são essencialmente inúteis e que muitos algoritmos funcionam melhor quando esses recursos são removidos. Outros algoritmos estão fundamentalmente quebrados e funcionam apenas por causa de uma espessa crosta de correções ad-hoc empilhadas em cima do programa original.
Isso é, ao menos em parte, o resultado de um campo que se acostumou a uma espécie de metodologia de tentativa e erro aleatória, argumentou Rahimi naquele blog. Nesse processo, os pesquisadores não entendem de forma alguma por que uma tentativa de resolver um problema funcionou e outra falhou. As pessoas implementam e compartilham técnicas que não entendem remotamente.
Pessoas que seguem a IA podem se lembrar do problema da "caixa preta", Hutson observou em seu artigo - a tendência dos programas de IA de resolver problemas de maneiras que seus criadores humanos não entendem. Mas a questão atual é diferente: os pesquisadores não apenas não entendem as técnicas de solução de problemas de seus programas de IA, disse Rahimi, mas também não entendem as técnicas que usaram para construir esses programas. Em outras palavras, o campo é mais uma alquimia do que um sistema moderno de pesquisa, disse ele.
"Há um lugar para a alquimia. A alquimia funcionou", escreveu Rahimi.
"Os alquimistas inventaram a metalurgia, maneiras de fazer medicamentos, técnicas de tingimento para têxteis e nossos processos modernos de fabricação de vidro. Mais uma vez, os alquimistas também acreditavam que podiam transmutar metais básicos em ouro e que sanguessugas eram uma ótima maneira de curar doenças . "
Em sua palestra mais recente (e o documento que a acompanha) na Conferência Internacional sobre Representações de Aprendizagem em Vancouver, Canadá, Rahimi e vários colegas propuseram uma série de métodos e protocolos que poderiam levar o aprendizado de máquina para além do mundo da alquimia. Entre eles: avaliar novos algoritmos em termos de suas partes constituintes, excluir partes deles uma de cada vez e testar se os programas gerais ainda funcionam e realizar "testes básicos de sanidade" nos resultados que os algoritmos produzem.
Isso tudo porque a IA, argumentou Rahimi em seu blog de 2017, se tornou importante demais na sociedade para ser desenvolvida de maneira tão descuidada.
"Se você está construindo serviços de compartilhamento de fotos, a alquimia está bem", escreveu ele. "Mas agora estamos construindo sistemas que governam os cuidados de saúde e nossa participação no debate civil. Eu gostaria de viver em um mundo cujos sistemas são construídos em conhecimento rigoroso, confiável e verificável, e não na alquimia."