O texto abaixo foi publicado no PlayStation.Blog brasileiro.


SOMA, nosso próximo jogo de sci-fi e horror, mergulha profundamente em objetos como identidade e consciência. Nesse post, eu gostaria de explorar as inspirações do mundo real que deram forma ao nosso jogo.

O Problema de Outras Mentes

Relaxe e concentre-se em como é ser você por um momento. Você pode ouvir sons, sentir coisas, ver coisas e assim por diante. Você também tem certas respostas emocionais conectadas a isso e você percebe o mundo ao seu redor de uma certa forma. Todas essas coisas fazem a essência do que é ser você.

Enquanto você sabe com certeza que essas experiências existem para você, como você pode ter certeza de que os outros as têm também? Já que essas emoções são puramente subjetivas e não tem qualquer base física, não há como olhar para dentro de uma pessoa e ter certeza. Afinal, parece possível que uma pessoa possa agir como se estivesse consciente; mas que isso é alcançado de uma forma puramente mecânica e que nenhuma sensação subjetiva está envolvida.

Para a maioria das pessoas, a solução é bem simples. Nós parecemos e agimos o bastante uns comos os outros para achar que todos nós temos uma experiência subjetiva similar. Embora não possamos ter 100% de certeza, nós podemos ter alguma certeza disso. Há ocasiões em que isso fica mais difícil, porém. Por exemplo, houve casos em que pacientes em coma estavam na verdade conscientes e alertas por anos, sem formas de entrar em contato com o mundo exterior. Mais difícial ainda é a pergunta sobre se os animais têm consciência.

Soma

E fica ainda mais difícil quando falamos de robôs. Se um robô age como se ele fosse uma pessoa consciente, deveríamos considerá-lo humano? Existem atributos que são necessários para ser realmente consciente? E se nós descobrirmos que uma máquina provavelmente é consciente, ela deveria ter os mesmos direitos que nós?

Essas perguntas e muitas outras parecidas são coisas que você vai enfrentar em SOMA.

O Estranho Caso de Anosognosia

Mais uma vez, foque um pouco em você. Olhe para o seu corpo, mova os seus membros e sinta a sua pele. Você está bem confiante de que você tem uma noção bem correta do que você é, certo? Pra falar a verdade, você nem precisa realmente olhar pra si mesmo ou tocar a si mesmo para saber que você está lá. Essa habilidade de conhecer nossos próprios corpos vem naturalmente e parece a coisa mais óbvia do mundo.

E então vem o estranho mundo da Anosognosia. Depois de um derrame, algumas pessoas vão ficar com um braço insensível e incapaz de se mover. Mas o mais estranho é que elas vão negar que isso aconteceu. Se um médico perguntar a elas se são capazes de mover o braço, elas vão dizer “sim” e agir como se elas o tivessem feito, quando na verdade ficaram paradas. Se insistirem, elas começarão a dar desculpas como “Eu não estou com vontade agora”, ou mesmo negar que o braço é delas! Porém, fora negar o problema, as capacidades cognitivas delas e o auto-conhecimento continuam perfeitamente normais.

Pense nisso por um momento. Pense em quão óbvio para você era o fato de que você sabia tudo sobre o seu corpo. Agora considere que essas pessoas sentem que é igualmente óbivio que elas tem dois braços funcionando. E o que é mais estranho é que conforme você continua as pressionando, elas vão dar as explicações mais absurdas, como se fossem autômatos quebrados. De certa forma, é como se entrássemos em um mundo entre a realidade física e espiritual. Dano cerebral faz com que a parte humana em nós se quebre e revele o maquinário por baixo. E é exatamente nessa área perturbadora que SOMA se passa.

Os Perigos de Controlar a IA

Conforme nossa IA (Inteligência artificial) fica mais e mais poderosa, nós iremos em breve começar a enfrentar uma grande questão: como nós podemos garantir que ela vai se comportar como queremos? Como alguém cria um sistema que entenda e leve em consideração valores humanos?

Soma

Normalmente, quando alguém fala sobre IA, nós imaginamos algo como HAL, uma máquina que entende os desejos humanos — mas não é preciso ir tão longe. Considere um carro que dirige a si mesmo e que tem um passageiro. E se ele chegar a uma situação em que ele calcula que tem duas ecolhas. Um, ele poderia fazer uma manobra para evitar o acidente e poupar a vida do passageiro. Ou dois, ele pode sair da ponte, matando o passageiro, mas salvar as quatro pessoas do carro da frente.

Se nós programarmos a IA para salvar o maior número de vidas, então nós criamos uma carro que potencialmente poderia matar seu próprio passageiro. E se fizermos o oposto, protegendo a vida d humano dentro dele a qualquer custo, o carro poderia atropelar pedestres para salvar os seus passageiros.

É muito difícil fazer as máquinas fazerem o que nós queremos, e quanto mais inteligentes e complicadas elas se tornam, maior fica o problema. Nós gostamos de pensar que algumas coisas como a santidade da vida e assim por diante são conceitos fundamentais, mas isso não precisa ser verdade para uma IA. Por exemplo, um famoso experimento propões que uma IA não veja nada de maior valor que clipes de papel e continua a transformar o mundo todo nisso. Pode soar bizarro para nós, mas para uma IA, mesmo uma de extrema inteligência, tudo o que nós consideramos sagrado poderia não significar nada. Esse é outro ângulo que SOMA vai explorar.

Espero que isso dê um gostinho sobre o que SOMA irá tratar. Isso também deve te preparar um pouco para o mundo em que você vai entrar quando SOMA chegar em 22 de setembro.