Thomas Dalton
0 
2341
600
Uma rede neural chamada "Norman" é perturbadoramente diferente de outros tipos de inteligência artificial (IA).
Alojado no MIT Media Lab, um laboratório de pesquisa que investiga IA e aprendizado de máquina, o cérebro do computador de Norman foi supostamente distorcido pela exposição aos "cantos mais escuros do Reddit" durante seu treinamento inicial, deixando a IA com "distúrbio alucinatório crônico", de acordo com um descrição publicada em 1º de abril (sim, Dia da Mentira) no site do projeto.
Os representantes do MIT Media Lab descreveram a presença de "algo fundamentalmente maligno na arquitetura de Norman que torna seu retreinamento impossível", acrescentando que nem mesmo a exposição a hologramas de gatinhos fofos foi suficiente para reverter qualquer dano que seu cérebro sofreu nas entranhas do Reddit. [5 usos intrigantes para inteligência artificial (que não são robôs assassinos)]
Esta história estranha é claramente uma brincadeira, mas o próprio Norman é real. A IA aprendeu a responder com cenários violentos e horríveis quando apresentados com manchas de tinta; suas respostas sugerem que sua "mente" experimenta um distúrbio psicológico.
Ao apelidar Norman de "IA psicopata", seus criadores estão brincando com a definição clínica da condição psiquiátrica, que descreve uma combinação de características que podem incluir falta de empatia ou culpa ao lado de comportamento criminoso ou impulsivo, de acordo com a Scientific American..
Norman demonstra sua anormalidade quando apresentado a imagens de manchas de tinta - um tipo de ferramenta psicanalítica conhecida como teste de Rorschach. Os psicólogos podem obter pistas sobre a saúde mental das pessoas com base nas descrições do que elas veem ao olhar para essas manchas de tinta.
Quando os representantes do MIT Media Lab testaram outras redes neurais com manchas de tinta de Rorschach, as descrições foram banais e benignas, como "um avião voando pelo ar com fumaça saindo dele" e "uma foto em preto e branco de um pequeno pássaro", de acordo com o site.
No entanto, as respostas de Norman às mesmas manchas de tinta tomaram um rumo mais sombrio, com a IA "psicopática" descrevendo os padrões como "homem é atirado do carro" e "homem é puxado para dentro da máquina de massa".
De acordo com a pegadinha, a IA está atualmente localizada em uma sala de servidor isolada em um porão, com salvaguardas para proteger outros computadores humanos e a internet de contaminação ou dano por contato com Norman. Também estão presentes na sala armas como maçaricos, serras e martelos, para desmontar fisicamente Norman, "para serem usadas se todos os dispositivos de segurança digitais e eletrônicos apresentarem defeito", disseram representantes do MIT Media Lab..
Outras notas do Dia da Mentira sugerem que Norman representa um perigo único e que quatro em cada dez experimentadores que interagiram com a rede neural sofreram "dano psicológico permanente". (Até o momento, não há evidências de que a interação com IA possa ser prejudicial aos seres humanos de alguma forma).
As redes neurais são interfaces de computador que processam informações de maneira semelhante à do cérebro humano. Graças às redes neurais, a IA pode "aprender" a realizar ações independentes, como legendar fotos, analisando dados que demonstram como essa tarefa normalmente é executada. Quanto mais dados ele recebe, mais informações ele terá para informar suas próprias escolhas e maior será a probabilidade de suas ações seguirem um padrão previsível.
Por exemplo, uma rede neural conhecida como Nightmare Machine - construída pelo mesmo grupo do MIT - foi treinada para reconhecer imagens assustadoras, por meio da análise de elementos visuais que assustavam as pessoas. Em seguida, pegou essa informação e colocou-a em uso por meio da manipulação de fotos digitais, transformando imagens banais em assustadoras, de pesadelo.
Outra rede neural foi treinada de maneira semelhante para gerar histórias de terror. Batizada de "Shelley" (em homenagem à autora de "Frankenstein" Mary Wollstonecraft Shelley), a IA consumiu mais de 140.000 histórias de terror e aprendeu a gerar seus próprios contos aterrorizantes originais.
E há Norman, que olha para uma mancha de tinta colorida que uma IA padrão descreveu como "um close-up de um bolo de casamento em uma mesa" e vê um "homem morto por motorista em alta velocidade".
Mas pode haver esperança para Norman. Os visitantes do site têm a oportunidade de ajudar a IA participando de uma pesquisa que coleta suas respostas a 10 manchas de tinta. Suas interpretações podem ajudar a rede neural rebelde a se corrigir, sugeriram representantes do MIT Media Lab no site.
Artigo original sobre .