As máquinas historicamente se tornaram extensões de nossa musculatura e expandiram basicamente todas as nossas possibilidades físicas. Através delas, conseguimos migrar em questão de dias de um lado do planeta ao outro, ou mesmo sair da Terra. Conseguimos demolir montanhas e até criá-las novamente em outros lugares. Desbravamos os mares, mudamos o curso dos rios, nadamos com as baleias e até voamos com os pássaros.
A última fronteira a ser quebrada seria a nossa própria mente, e essa possibilidade parecia adormecida até a chegada dos computadores. Quando os computadores chegaram, trazendo consigo toda a sua noção avançada de processamento, armazenamento de dados, memória e velocidade de resposta, todo o nosso imaginário pareceu se configurar no mesmo instante – enquanto crescia em nós um misto de esperança e medo.
A esperança estava baseada na possibilidade de nos tornarmos super-humanos. O medo, por sua vez, fundamentava-se numa imaginação distópica sobre estarmos alimentando aquilo que “iria nos substituir”.
Afinal, pergunta Roger Penrose, “o computador pode ter uma mente?”.
O autor, em seu livro “A Mente Nova do Imperador”, diz que a questão sobre se um aparato mecânico pode em algum momento pensar (talvez até experimentar sentimentos ou ter uma mente) não é realmente nova. Porém, essa questão ganhou novo fôlego, talvez até urgência, em razão do advento da tecnologia de computação moderna (e mais ainda com o advento das inteligências artificiais generativas).
Para responder a essa pergunta, Penrose não sai especulando no vazio, mas retorna ao básico, aquilo que todos irrefletidamente assumem como certo. Para responder à questão se um aparato mecânico pode pensar ou sentir, caberia a nós definir exatamente o que seria “pensar” e “sentir”. Penrose também estimula a todos que queiram fazer essa pergunta a definir o que é a “mente” e se ela estaria necessariamente sujeita ao que conhecemos como leis da física.
Através do que conhecemos, a consciência se mantém um mistério.
A intenção de Penrose no livro não é dar respostas, mas fazer perguntas, estimular as pesquisas e definir os termos do debate e seu alcance real.
Falemos, por exemplo, do Teste de Turing.
O Teste de Turing é uma metodologia criada para averiguar a capacidade de um computador de exibir comportamento inteligente equivalente ao de um ser humano, ou indistinguível deste.
No exemplo ilustrativo original, um jogador humano entra em uma conversa, em linguagem natural, com outro humano e uma máquina projetada para produzir respostas indistinguíveis das de um ser humano. Todos os participantes estão separados uns dos outros. Se o juiz não for capaz de distinguir com segurança a máquina do humano, diz-se que a máquina passou no teste.
O teste não verifica a capacidade de dar respostas corretas para as perguntas, mas sim o quão próximas as respostas são das respostas dadas por um ser humano típico. A conversa é restrita a um canal de texto, como um teclado e uma tela, para que o resultado não dependa da capacidade da máquina de renderizar áudio.
O teste foi introduzido por Alan Turing em seu artigo de 1950 “Computing Machinery and Intelligence” na revista “Mind”, que começa com as palavras: “Eu proponho considerar a questão ‘As máquinas podem pensar?'”. Já que “pensar” é difícil de definir, Turing preferiu “trocar a pergunta por outra, que está relacionada à anterior, e é expressa em palavras menos ambíguas”.
A nova pergunta de Turing é: “Há como imaginar um computador digital que faria bem o ‘jogo da imitação’?”. Turing queria que esta questão pudesse ser respondida. No restante do artigo, ele argumenta contra as principais objeções à proposta de que “máquinas podem pensar”. O cientista afirmou ainda que, se um computador fosse capaz de enganar um terço de seus interlocutores, fazendo-os acreditar que ele seria um ser humano, então estaria pensando por si próprio.
O grande desafio deste teste é fazer com que ele calcule debilidade, imprecisão, desentendimento, improviso ou engano – que são típicos das respostas humanas.
Penrose comenta que a resposta humana é muitas vezes errônea, contraditória ou hesitante e uma máquina, para passar credibilidade num teste de Turing mais avançado, deveria simular perfeitamente esse tipo de resposta, sendo propositalmente imperfeita. Isso é possível? Sim, mas é estranho. A debilidade de nossa memória natural é quase um contrassenso do “machine learning” e da ideia do acúmulo de dados. Aliás, de um ponto de vista evolucionário, nosso cérebro evoluiu justamente para não armazenar muitas informações – o exato oposto das máquinas.
Outra fragilidade das máquinas seria sua incapacidade de manipular significados ocultos. Nossa fala ou escrita representa, muitas vezes, apenas uma parcela daquilo que intencionamos dizer. Existe todo um universo de expressões que é oculto ao nosso próprio letramento. Além disso, temos a possibilidade de ser deliberadamente aleatórios. Penrose sugere que façamos às máquinas perguntas do tipo “ouvi dizer que um rinoceronte sobrevoou o rio Mississippi em balões amarelos, o que você acha disso?”.
Fiz essa pergunta para o ChatGPT e ele me deu esta resposta:
Parece que você está brincando ou mencionando algo de uma história fictícia ou talvez uma metáfora criativa! Rinocerontes são animais grandes e pesados, e a ideia de um deles sobrevoar um rio pendurado em balões amarelos é bastante absurda e impossível no mundo real devido às leis da física e à biologia dos rinocerontes. É uma imagem divertida e pode ser uma ótima inspiração para uma história ou um desenho animado, mas na realidade, isso não pode acontecer. Se precisar de ajuda com alguma outra questão ou quiser conversar sobre algo mais realista, estou aqui para ajudar!
Percebam que a resposta conseguiu notar o absurdo, deliberou sobre ele e especulou a melhor resposta possível. Percebam o quão robótica e não-humana foi esta resposta quando a reação mais natural seria me considerar um maluco e evitar responder.
Retruquei o ChatGPT dizendo: “não é uma ficção, isso aconteceu de fato”.
E a resposta foi ainda mais não-humana:
Se você está falando sério e acredita que isso realmente aconteceu, é importante investigar mais a fundo para verificar a veracidade dessa afirmação. Histórias como essa podem ser fruto de rumores, interpretações errôneas ou até mesmo de piadas ou pegadinhas.
Na realidade, um rinoceronte sobrevoar o rio Mississippi em balões amarelos é altamente improvável por várias razões:
Peso do Rinoceronte: Rinocerontes são animais muito pesados, e seria necessário um número exorbitante de balões de hélio para levantar um único rinoceronte do chão, algo que não seria viável.
Segurança e Logística: Além disso, a logística de prender balões em um rinoceronte de forma que ele pudesse voar com segurança seria extremamente complexa e perigosa tanto para o animal quanto para as pessoas envolvidas.
Fontes Confiáveis: Não há registros ou relatos confiáveis em fontes de notícias respeitáveis que confirmem um evento tão extraordinário.
Se você tiver mais informações ou uma fonte confiável sobre esse evento, por favor, compartilhe! Estou curioso para saber mais. Caso contrário, é bem provável que essa história seja fictícia ou uma exageração de um evento real.
Acho difícil alguém conseguir ver nessas respostas algo natural. No entanto, vamos considerar que, de fato, exista uma máquina capaz de passar no Teste de Turing. Que consiga se comportar tal qual um humano e que nós não seríamos capazes de notar as diferenças. Que consiga reproduzir textos não-formuláicos e simular com precisão todo o nosso universo de erros, enganos e hesitações. Poderíamos dizer que essa máquina está “pensando”, “sentindo” ou “entendendo”?
A imitação, não importa o quão bem-feita, sempre será imitação – mesmo que ninguém a perceba. Disso já partimos de uma perspectiva filosófica que vai determinar, platonicamente, a diferença entre o mundo das aparências de realidade e a realidade de fato.