Vlad Krasen
0 
4236
943
É Elon Musk em seu Elon Musk-iest: de acordo com as notícias, o empresário do carro espacial e elétrico conheceu sua atual namorada fazendo uma piada sobre inteligência artificial traiçoeira.
Musk e o músico Grimes, cujo nome verdadeiro é Claire Boucher, foram ao Met Gala como um casal na segunda-feira (7 de maio). De acordo com a publicação de fofocas Page Six, os dois se conheceram via Twitter, quando Musk pensou em fazer um trocadilho com "Basilisco do Rococó", um mashup do experimento de pensamento "Basilisco de Roko" e o estilo elaboradamente ornamental visto na França do século 18.
Musk logo soube que Grimes havia feito o mesmo trocadilho em um videoclipe em 2015, e o resto é história romântica. O Basilisco de Roko, por outro lado, é uma visão aterrorizante do futuro e o centro de um redemoinho de subcultura online de anos.
O início
A coisa toda começou em 2010, quando uma pessoa chamada por Roko postou um experimento mental no site LessWrong, um fórum onde as pessoas discutem de tudo, desde filosofia até inteligência artificial (IA) e ciências cognitivas. A postagem foi excluída, mas RationalWiki preservou uma cópia. A ideia de Roko era que se, no futuro, uma IA superinteligente projetada para maximizar o bem comum viesse a existir, ela poderia punir todos que não contribuíram para sua existência. [Máquinas superinteligentes: 7 futuros robóticos]
"Claro, isso seria injusto, mas é o tipo de coisa injusta que é muito utilitária", Roko raciocinou.
Essa hipotética ocorreria após a singularidade, o ponto em que a inteligência artificial se torna indistinguível da própria vida - na verdade, melhor do que a própria vida, porque pode fazer coisas como carregar-se indefinidamente, alcançando uma espécie de imortalidade do silício. Se esse poder divino descobrir que você não ajudou a criá-lo, bem, caramba. Pode apenas decidir que sua justa recompensa é o tormento eterno. [Uma breve história da inteligência artificial]
O nome "basilisco" vem de uma lenda medieval sobre uma cobra que pode matar com um olhar.
Aqui está a armadilha, no entanto: se você não sabia sobre a possibilidade do Basilisco de Roko, você está limpo - a IA provavelmente só virá atrás daqueles que previram sua existência, mas optaram por não, digamos, doar todos os seus descartáveis renda para ajudar a realizá-lo. Só de ler sobre a possibilidade do Basilisco de Roko, você se condenou. (Desculpe.)
Essa ressalva, em poucas palavras, é onde o turbilhão online começou. O fundador da LessWrong, Eliezer Yudkowsky, criticou a postagem como "ESTÚPIDA" e "genuinamente perigosa". Só de pensar em detalhes sobre como uma IA pode chantagear você, Roko armou para si mesmo para ser chantageado, bem como para todas as outras pessoas que poderiam ler a postagem.
"Estou banindo esta postagem para que não (a) dê às pessoas pesadelos horríveis e (b) dê às superinteligências distantes um motivo para prosseguir em chantagem contra pessoas burras o suficiente para pensar sobre elas com detalhes suficientes", escreveu Yudkowsky.
De Roko ao romance
A proibição da discussão do Basilisco de Roko em LessWrong durou até 2015. Yudkowsky escreveu mais tarde no Reddit que se arrependeu de sua reação, o que fez parecer que ele achava que Roko estava certo; ele realmente acredita que nenhuma inteligência artificial projetada com os melhores interesses da humanidade em mente acabaria torturando pessoas. Em vez disso, ele escreveu, ele excluiu a postagem porque a ideia não tinha nenhum benefício potencial para ninguém.
Musk pode gostar particularmente das piadas do Basilisco de Roko porque o post original o mencionou. Roko escreve que alguém como Musk, que está "mudando sozinho as faces das indústrias de alto impacto", estaria nas boas graças da IA teórica sobre-humana. Musk também falou sobre os perigos potenciais da IA, pedindo regulamentação e alertando no mês passado que a IA poderia se tornar um "ditador imortal".
"Se a IA tiver um objetivo e a humanidade apenas atrapalhar, isso destruirá a humanidade como algo natural, sem nem mesmo pensar nisso. Sem ressentimentos", disse Musk em um documentário chamado "Do You Trust This Computer ?, "que foi lançado em abril. "É como se estivéssemos construindo uma estrada e um formigueiro estivesse no caminho. Não odiamos formigas, estamos apenas construindo uma estrada. Então, adeus, formigueiro."
Grimes, por sua vez, é uma música e artista visual canadense que criou o trocadilho "Rococó Basilisk" para seu videoclipe "Flesh Without Blood". O vídeo apresenta um personagem que usa perucas estilo rococó e vestidos volumosos e acaba esfaqueado no estômago e coberto de sangue em uma quadra de tênis.
"Ela está condenada a ser eternamente torturada por uma inteligência artificial, mas também é meio como Maria Antonieta", disse Grimes à FuseTV.
Artigo original sobre .