O texto da semana passada foi encerrado com a seguinte questão: inteligência simulada é de fato inteligência? Existe algo inerentemente orgânico na concepção de inteligência que não pode ser simulado de forma alguma? E com essa questão eu gostaria de começar o texto dessa semana evocando um experimento mental extremamente interessante proposto pelo filósofo e escritor estado-unidense John Searle, o experimento do quarto chinês.
Suponha existir uma caixa com um espaço para entrada de perguntas e um espaço para a saída das respostas. Qualquer pergunta pode ser feita e a resposta sempre sairá corretamente, podendo demorar mais ou menos dependendo da pergunta. Mas temos aqui alguns detalhes: a caixa só aceita perguntas em chinês (e só entrega respostas em chinês) e quem está fora é incapaz de ver o que acontece lá dentro. Para quem leva as perguntas e depois recebe as respostas fica a clara visão de que "a sala" possui conhecimento claro de chinês (lembre-se que esse é um experimento mental, então não vamos entrar tanto no mérito óbvio aqui). Mas na realidade o que está acontecendo é que dentro da sala existe uma pessoa que nada sabe de chinês, mas tem a sua disposição um livro com todas as perguntas possíveis e suas respostas, ambos em chinês. Essa pessoa ali dentro então tem a tarefa de pegar a pergunta, procurar no seu livro a resposta, copiar em um papel e enviar para a saída. Mas lembre-mos: ele nada sabe de chinês. Somente mimetiza o que vê nos livros, atuando mais como um copista do que como um interpretador.
E aqui temos o modelo a ser analisado e um mundo de questões que nasce dessa situação hipotética. Comecemos pelo óbvio: para a pessoa do lado de fora (que eu chamarei de Questionador), a sala é um ente capaz de compreender chinês com perfeição e que possui uma gama invejável de conhecimentos. O Questionador, por não estar consciente dos processos internos da sala, não se questiona sobre seu funcionamento, mas pode ver seus dois estados principais: a entrada e a saída. E a partir daí ele tira suas conclusões sobre a inteligência e capacidade da sala. Por outro lado, quem está dentro da sala (que aqui será chamado de Interpretador) nada entende dos detalhes do que ele está fazendo. Ele não está consciente da natureza dos problemas que são levados até ele, e não sequer tem noção das origens, implicações e competências das questões que ele está respondendo. Aliás, pode-se dizer até mesmo que ele sequer responde as questões, mas somente copia as respostas (das quais ele não entende) e envia para o outro lado.
É fácil falarmos que o Questionador está errado ao inferir inteligência à sala, já que sabemos o que se passa lá dentro. Para nós, conscientes do processo todo, a sala é capaz de, no máximo, simular inteligência, mesmo sem ser inteligente de fato. E deixo aqui uma ênfase no "simular inteligência" pois esse é o ponto central e mais importante nessa construção. Se pensarmos que a "inteligência real" da sala só seria possível se a mesma fosse realmente capaz de responder a pergunta, entendendo a questão, refletindo sobre ela e gerando uma resposta correta, então o que está acontecendo aqui é uma simulação. A sala não é capaz de nada além de esconder um processo que faz com que tudo se passe por inteligência sem de fato ser (lembrando da definição usada no artigo passado sobre inteligência ter a ver com entender novas situações e se adaptar a elas, fato que não ocorre aqui). Mas se pela nossa perspectiva a sala só consegue simular uma capacidade que ela não tem, para quem está diretamente envolvido no processo essa simualação é de tal forma que não resta dúvidas que a sala tem sim uma capacidade de compreender chinês perfeitamente. E isso nos leva finalmente a questão original: essa inteligência simulada pela sala é de fato inteligência?
Para efeitos práticos, a simulação perfeita da inteligência é indistinguível da inteligência em si, o que significa que qualquer ente externo que olhe os resultados alcançados pela sala possa usá-los para o que quer que seja. Os processos internos podem ser ignorados uma vez que o resultado final é confiável. Essa visão mais pragmática pode ser muito útil para quem somente utiliza o resultado final. Em uma aplicação do mundo real temos um usuário de algum serviço de streaming que recebe produtos escolhidos com precisão pelo algoritmo e não precisa gastar seu tempo procurando algo do seu interesse. Esse usuário poderia dizer que o algoritmo que fez a seleção é inteligente, ainda que ele não seja consciente ou senciente de fato. As escolhas são feitas exclusivamente usando cálculos matemáticos complexos e não levam em consideração tudo aquilo que possa fugir dos seus modelos (como o sentimento do usuário no momento da escolha). Usemos algum serviço de streaming de música como exemplo. Haverão dias em que músicas mais animadas combinarão mais com nosso momento. Enquanto outros dias pedirão músicas mais lentas. O algoritmo não sabe ler essas diferenças. Ele não sabe se acordamos animados ou tristes, se o dia está chuvoso ou ensolarado. Se estamos esperando uma notícia boa ou algo ruim. Tudo que ele sabe é quais músicas foram ouvidas no passado e quais você pulou; quais playlists você ouve com mais frequência e quais os gêneros favoritos. Esse é o universo dele e tudo o que ele sabe e pode vir a saber. Dessa forma, suas análises terão sempre uma defasagem na realidade, mas serão completas o bastante no que ele se propõe a fazer.
Podemos comparar isso com um historiador que dedicou arduamente sua vida ao estudo dos processos históricos que nos trouxeram até onde estamos no momento. Esse historiador saberá muito profundamente sobre movimentos políticos do passado, eventos importantes, suas causas e impactos, pessoas e datas relevantes e muito mais. E esse conhecimento permitirá que ele faça uma leitura incrível da nossa realidade. Mas essa leitura será limitada a vários aspectos. Por não ter domínio de geologia e metereologia, nosso hipotético historiador não saberá explicar eventos naturais que resultam em impactos sociais (como tsunamis, períodos de seca, efeitos do aquecimento global a médio/longo prazo dentre vários outros). Assim como não poderá se debruçar sobre questões de cunho tecnológico em detalhes, pois lhe falta formação. Mas nem por isso dizemos que a inteligência dele é menor por isso. Pelo contrário. Reconhecemos suas capacidades e suas limitações e usamos das leituras feitas dentro dessas bordas para explicar muita coisa. Para uma super análise de todas as características da realidade, todos os processos possíveis para poder prever algo no futuro seria necessário não só o maior historiador possível, mas também químicos, geólogos, economistas, filósofos, matemáticos e vários outros profissionais e pensadores. Só assim podemos chegar em uma espécie de "super conhecimento" ou uma singularidade do conhecimento humano. Mas voltemos por enquanto à nossa sala.
Se retornarmos à nossa definição do que é inteligência vemos uma forte associação com inteligência. Ou seja, inteligente é aquele ente que pode se adaptar a novas situações, não necessariamente aquele que tem uma resposta para tudo. Mas mesmo nesse caso podemos entender que nossa sala chinesa é sim inteligente aos olhos do Questionador. Afinal de contas, cada novo estímulo ou pergunta é respondido de forma distinta, o que significa que podemos perceber uma adaptação da sala aos inputs. Cada entrada gera uma saída única e perfeita e, por isso, a sala adapta sua ação (emissão da resposta) as diversas possíveis ações do mundo externo (as perguntas). Mas como isso tudo liga com Inteligência Artificial e algoritmos de aprendizado de máquina?
Definitivamente não precisamos saber como um algoritmo funciona internamente. Caso você programe eles isso muda de figura, mas para uso diário isso é irrelevante. Não importa se o sistema de recomendação usado se baseia em similaridade de features ou de usuários. Não importa se o algoritmo de análise preditiva se baseia em modelos bayesianos ou cadeias de Markov. Isso é irrelevante para quem for usá-lo. O usuário entra com algumas informações e recebe um produto no final que satisfaz suas demandas, e isso basta para todos os fins práticos. Comparando com a sala chinesa, somos nós os Questionadores enquanto o algoritmo é o Interpretador. E não é necessário uma inteligência por parte do Interpretador para realizar a tarefa final.
Por fim, gostaria de comparar esse experimento mental com nós mesmos. Ainda que muitas pessoas relutem em identificar inteligência em sistemas simulados, ninguém reluta ao falarmos sobre pessoas. E aqui podemos aprofundar um pouco mais. Inicialmente podemos pensar que pessoas são inteligentes seguindo a definição anterior sobre adaptabilidade a novos cenários. Mas quando vamos mais fundos, nos lembramos que uma pessoa não é um ente único, sólido e bem definido. Não somos indivisíveis e integrais. Pelo contrário, somos um conjunto de processos e atividades complexos, organizados de um modo mais ou menos unificado. O que chamamos de "eu" na verdade é um imenso conjunto de vários fragmentos. E ao olharmos um desses, o cérebro, a coisa complica ainda mais.
Quando olhamos para algo, temos uma cadeia de eventos ocorrendo até que possamos entender o que está sendo visto. As célular dos nossos olhos são estimuladas pela luz. Esse estímulo atravessa uma série de nervos até chegar no cérebro, onde é tratada pela parte responsável do cérebro por esses estímulos. Esse tratamento é conectado a outras partes (como memória, noção espacial, linguística dentre outros), mas é feito inicialmente em um espaço muito pequeno. E o tratamento é feito por células "simples", os neurônios, que não tem autonomia total de ação. Ao invés, eles recebem um estímulo de um lado e enviam um novo estímulo para outro segundo seu funcionamento próprio. Mas a cadeia de neurônios integradas é capaz de transformar um simples feixe elétrico originário dos olhos em uma memória fortíssima capaz de grandes mudanças físicas. Mas, como não vemos o comportamento individual dos neurônios, só somos capazes de perceber a luz que entra e a memória que se ativa. Exatamente como uma sala chinesa, onde os neurônios são os Interpretadores e nós os questionadores.
Ou seja, ao perguntarmos algo para uma pessoa, uma cadeia imensa de salas chinesas ocorrerão e a resposta que a pessoa nos der será o resultado dessa cadeia (pode não parecer, mas somos mais próximos de máquinas do que gostaríamos). E essa análise nos aproxima ainda mais da resposta sobre se inteligências simuladas são inteligências. Em última análise, toda inteligência é simulada, o que não as torna menores. Pragmaticamente falando, isso é irrelevante, dado que ninguém se pergunta como uma resposta está se formando na mente de uma pessoa ao perguntar algo pra ela (a não ser talvez filósofos da mente e neurocientistas). Não é necessário também se questionar como o recomendador de algum site te entrega alguma recomendação para saber se a inteligência ali é de fato uma inteligência.
Pra finalizar, é importante notar algumas diferenças fundamentais entre uma inteligência simulada e uma orgânica. E já gostaria de deixar como gancho para a próxima semana uma reflexão: usei ali em cima uma metáfora sobre uma super inteligência humana (agregando historiadores, economistas, geólogos e outros) que, infelizmente, é impossível alcançarmos. Mas não o é para uma máquina, já que ela não terá problemas de esquecer algo aprendido anos atrás, ou se confundir em meio a termos e problemas humanos. Fica então a questão: uma máquina super inteligente com o conhecimento agregado de centenas de campos do conhecimento é possível de ser contruída? Se sim, quais suas implicações? Deixemos essa reflexão para semana que vem.
P.S: alguns links que podem ajudar a aprofundar nessa questão:
댓글