|
Nominations and Campaigning for the 2024 RationalWiki Moderator Election are now open |
Quarto chinês
| Thinking hardly or hardly thinking? Philosophy |
|
| Major trains of thought |
| The good, the bad, and the brain fart |
| Come to think of it |
O Quarto chinês é um experimento mental projetado por John Searle em seu artigo de 1980, "Minds, Brains and Programs", uma grande resposta ao Turing test de Alan Turing e abordagens funcionalistas para a mente. Foi projetado para provar que um programa de computador nunca vai ser capaz de criar mentes, mostrando, que para até um certo grau de "demonstração", é possível um computador se comportar como ele fosse inteligente, porém em uma forma puramente mecânica, de tal forma que falta a compreensão faz nós intuitivamente acreditarmos que isso seja parte da inteligência. O experimento ficou bem conhecido e influente em vários campos científicos, especialmente ciência cognitiva.[1]
O experimento[edit]
Searle descreve o seguinte experimento mental:
Suponha que eu estou trancado em um quarto e foi me dado um lote de escritas em chinês...[porém] para mim, escritura chinesa é apenas um monte de símbolos sem significado algum. Agora suponha que depois de ter recebido o primeiro lote de escritas em chinês, eu recebo um segundo lote de escritas em chinês junto com um conjunto de regras para relacionar o segundo lote com o primeiro. As regras estão em inglês, e eu entendo essas regras muito bem como qualquer falante nativo de inglês. Elas me permitem correlacionar um conjunto de símbolos formais com outro conjunto de símbolos formais, e tudo que 'formal' significa aqui é que eu posso identificar os símbolos apenas por sua forma. Agora suponha que eu também recebo um terceiro lote, mas agora com outras instruções em inglês, que me permite correlacionar os elementos desse terceiro lote com os primeiros dois lotes, e essas regras me instruem a como devolver certos símbolos em chinês... Do ponto de vista de uma pessoa de fora do quarto a qual eu estou trancado -- minhas respostas as perguntas são absolutamente indistinguíveis daqueles que falam nativamente chinês. Ninguém apenas olhando para as minhas respostas podem dizer que eu não falo uma palavra em chinês.'
A conclusão é como o homem do experimento falha em compreender chinês, mas mesmo assim produz respostas coerentes. Uma maquina não pode virar consciente porque está apenas seguindo um código, e não entendendo por si mesma.
Esse cenário é o teste de Turing em sua cabeça. Um humano, equipado com tempo e algoritmo, está imitando um computador que imita um ser humano. Não existe nada de marcante ou especial sobre usar chinês nesse experimento, é apenas algo suficientemente diferente do inglês, ou outra língua relacionada ao alfabeto Romano, para prover uma boa imagem visual do que trabalhar.[note 1] Poderia ser muitas coisas: Francês, Alemão, uma linguagem criada ou qualquer coisa como processamento de data carregada de jargão cientifico - ou seja, podemos perguntar se um indivíduo, carregado com o tipo certo de ferramentas, pode imitar um especialista experiente sem absorver as informações por si mesmo. Alguns sugerem que, de fato, a escola se propõe a fazer.
Em contraste ao teste de Turing[edit]
O alvo do experimento mental do Quarto chinês é dizer que as maquinas nunca vão realmente compreender o que eles estão falando mesmo que eles passem no Teste de Turing — pela falta de qualquer conceito sobre semântica. O teste de Turing determina se uma maquina é "consciente" por efetivamente pergunta-la "você é consciente?" e vendo se ela responde "sim". Isso foi originalmente chamado de "o jogo da imitação", onde se era perguntando se uma máquina conseguia imitar um humano até um nível que ele poderia enganar outro humano. Entretanto, a internet está perguntando a humanos se eles conseguem enganar os outros a pensar que eles são chatbots não inteligentes desde os anos 90.
O teste de Turing vem de um conceito da programação que diz que um código deve passar certos testes em uma ordem para ser considerado funcional. Esses testes são definidos com antecedência, e o código é considerado para funcionar se passar em todos os testes especificados sem erro, e isso é independente de o que o código faz por trás das cena, escondido do usuário. A analogia é feita com uma voo artificial, a qual é alcançada quando as pessoas pararam de tentar fazer uma replica de um pássaro, e simplesmente tentaram construir uma maquina que passe nos testes: voar. Nesse caso do teste de Turing, o principio é aliado à sensibilidade e inteligência. Como uma demonstração externa de inteligência e a habilidade de comunicar é uma evidencia suficiente que podemos ter de outros humanos para provar que eles são conscientes, o teste de Turing apenas segura a máquina no mesmo padrão.
O quarto chinês de Searle inverte a natureza focada em testes do teste de Turing, sugerindo que a "verdadeira" inteligência e a autoconsciência é profunda, e não apenas baseado em um resultado observável (e aparentemente superficial). Ao invés disso, questiona o que realmente está acontecendo dentro de o cérebro de uma maquina, para saber se ela está realmente pensando — análogo a voltar aos dias tentando construir um pássaro, do que construir uma maquina que realmente voa. O problema aqui é que a única prova de que um humano é consciente, é a sua habilidade de imitar um humano, já abrir o seu cérebro e mexe-lo, por si só, não prova nada. Turing projetou o jogo da imitação para evitar esse tipo de dificuldade, inspirado em conceitos focados em teste na ciência da computação.
Problemas[edit]
Existem alguns problemas com essa interpretação do resultado, porém, em forma de experimento mental.
Consciência e emergente[edit]
Um computador que passa no Teste de Turing não está mais vivo quando é desligado assim como um código está vivo quando é impresso no papel e deixado armazenado em um quarto, do mesmo jeito que uma pilha de neurônios por si só não está viva — a maioria das pessoas concorda que um corpo que não apodreceu não está vivo. É preciso todos trabalharem para fazer a consciência. Quando um computador hipotético compatível com o teste de Turing é ligado, e o seu programa é executado, produz um resultado indistinguível da consciência humana. Por causa disso, perguntar um homem em um quarto se ele entende ou não chinês enquanto seguindo um algoritmo faz perder o ponto de como consciência opera e de onde ela vem. Em um quarto isolado, não é o homem que precisa compreender ou entender chinês, mas o código e a instrução. O homem é simplesmente uma ferramenta para executar o programa, do mesmo jeito de que um fornecimento de sangue e condutividade elétrica por potássio e sódio é apenas uma ferramenta para a execução de funções do cérebro humano. O algoritmo por si só quando combinado com as operações do homem que entende chinês.
Searle respondeu a esse criticismo ao seu experimento sugerindo uma extensão onde o homem tem total conhecimento dos algoritmos necessários, lembrando e executando eles na sua própria cabeça. Nesse caso, não são atividades externas que estão fazendo o homem entender a língua, é o seu cérebro inteiro. Mesmo que o homem no experimento ainda não entenda chinês.[2] As criticas começaram rapidamente a apontar que independente de onde o algoritmo acontece — seja ele em um papel ou em um computador; continua sendo o algoritmo combinado com a capacidade de funcionar e entender. Portanto, a resposta de Searle ao criticismo não respondia nada, isso provavelmente indicou que o Searle não entendeu realmente o criticismo em primeiro lugar. O quarto chinês ignora qualquer propriedade emergente de consciência; que existe como uma forma de ordem e execução do algoritmo dentro de um computador, ou dentro de uma vasta rede de neurônios no cérebro humano.
É o algoritmo, estúpido[edit]
O experimento prova pouca coisa no geral. O homem vai passar pelos mesmos algoritmos executados por um computador que pode entender chinês. Ele pode estar fazendo isso manualmente (ou até de cabeça) mas ele ainda vai estar fazendo da mesma maneira. Pode-se imaginar que as canetas, papel e arquivos necessários para fazer isso sejam até uma forma de "ajuda", poderíamos ajudar mais ainda dando uma calculadora, e então finalmente um assistente robô que passa por todos os arquivos e vira as páginas nos livros de instrução. Nós podemos considerar adicionar mais ajuda e automação para o processo até um ponto onde o homem vai estar digitando em um computador para receber o resultado, e em nenhum ponto vamos cruzar uma linha onde de repente se torna o computador fazendo o trabalho em comparação com o homem. O homem no quarto agora está falando com um computador que passou no teste de Turing! Um processo gradual similar também pode ser dito pela variante de internalização da Searle, apesar que isto voltaria o problema de separar o Teste de Turing dum computador compatível dentro da cabeça humana e isto poderia causar meio que um episódio esquizofrênico (apesar deste experimento ser um experimento mental, por isso essa coisa é mais provável de ser impossível na realidade e não causar problemas.)
Mas basicamente, isso nos traz de volta se o homem, o agente que simplesmente executa o programa, precisa entender chinês. Para o experimento concluir que um computador não pode ser consciente, isso precisa ser demonstrado. O próprio homem não tem mais que entender chinês do que os átomos do seu corpo precisam entender inglês quando ele descreve o dia estranho que ele está tendo: empurrando símbolos estranhos em um quarto trancado, para os seus amigos no pub.
Suposições circulares[edit]
Finalmente, todo o conceito é feito em base em que um a consciência humana é especial e diferente. Para aceitar essa conclusão de que uma maquina não pode compreender do mesmo jeito que humanos, você tem que assumir que o pensamento humano é diferente, se não o experimento falha imediatamente — você tem que assumir que tem algo de diferente sobre um homem e que ele precisa de algum jeito entender chinês pelo processo. Comparar um cérebro ativo conectado com neurônios e um computador rodando em silício que simula perfeitamente um cérebro. A diferença entre o anterior e o posterior é irrelevante, e assim o teste de Turing é valido, a menos que alguém assuma algum tipo de dualismo não materialista primeiro, daí a circularidade. Esse entendimento, alguma semântica mágica, pode apenas ocorrer em cérebros orgânicos, é nada mais nada menos que bio-chauvinismo, que ninguém tem direito de afirmar. Essa heurística para avaliar se a consciência deve apenas se aplicar a seres humanos e não pode em nenhuma circunstancia ser aplicado em computadores é apenas súplica especial.
Resposta vs Iniciativa[edit]
É claro que ainda existe o fato de que o homem dentro do quarto chinês, falando com um falante nativo de chinês, iria estar apto a responder com fluência. Ele poderia receber uma entrada e criar uma resposta com máxima precisão, e ainda poderia prover um resultado com a expectativa de uma entrada particular, mas ainda não poderia, por exemplo, perguntar uma serie de questões procurando por uma resposta particular. Ele não iria conseguir perguntar onde ele está, porque ele não saberia a tradução. Da mesma forma, ele não iria saber como pedir comida, ou algo para beber, ou para ser solto. É dessa forma que um ponto distinto é feito por meio do experimento: uma consciência tem a habilidade de aprender e de sustentar. O homem poderia organizar as questões até que comida seja provida, e saber alguma parte sobre a língua chinesa. Isso contradiz as condições do experimento, como ele iria de fato entender chinês, portanto um sistema tem que ter a capacidade de aprender, mais do que tem de responder.
Veja também[edit]
Ligações externos[edit]
Notas[edit]
- ↑ Assumindo uma perspectiva ocidental, é claro. Sinta-se livre para mentalmente trocar "chinês" por "Élfico" se isso te irrita.