Assisti a um vídeo que circula pela Internet em que, os comentários afirmam, um computador “sonha” com o filme “Blade Runner”. O que se passa é, na verdade, um vídeo produzido por um computador que foi “treinado” por Terence Broad, como parte de sua pesquisa de mestrado, para assistir o filme e, depois, “imitar” o que viu.
Bom, para sequer começar a falar, com rigor, a respeito desse assunto, a quantidade de aspas será irritante. Por que? Porque trata-se de empilhamentos de metáforas as quais preciso citar enquanto metáforas. Computador nenhum está “imitando” nada, porque sequer foi “treinado” para “assistir” um filme. E, certamente, o computador não está “sonhando”, já que não é possível outorgar “níveis de consciência” ao computador, já que não é possível afirmar que o computador é “consciente”, e que seus níveis de consciência sequer sejam remotamente similares aos nossos. Recomendo a leitura da pesquisa do cara, tomando cuidado com ter entre parênteses aquilo que deveria estar entre aspas, ou seja, tente compreender concretamente o que ele, de fato, fez — e não as afirmações metafóricas que faz.
Esse tipo de rigorismo no qual insisto acaba irritando muita gente. Parece frescura, enrolação. Dá pra ouvir as pessoas falando: “Já que parece que é isso mesmo, então deve ser isso mesmo”, ou seja, se o cara diz que o computador está sonhando, deve estar sonhando… Mas, insisto em ter o mesmo tipo de rigor quando aparecem um sem número de afirmações quanto a coisas tão diferentes quanto “holograma”, “teletransporte”, coisas “materiais” em oposição a coisas “imateriais”, e por aí vai.
Mas, acho que esse rigorismo é crucial pra gente entender do que está falando — sob o risco de se embananar e se perder, ou pior, se perder em uma emaranhado de metáforas. Minha intenção é conseguir, de fato, progredir fora de um campo ideológico que, ora, ameaça dominar quase que completamente a produção artística, tecnológica e as lógicas sociais, comunitárias, econômicas e culturais.
Vamos lá: aqui, é importante distinguir entre “reproduzir” e “copiar”.
Em um sentido bastante simples, o que vemos hoje, em muitas das afirmações que circulam mais no campo do “ouvi falar, não sei onde” do que no “deixa eu te explicar”, é a banalização para-formal de algo chamado “teste da caixa-preta”. Que opera assim: se dois objetos diferentes receberem os mesmos inputs e responderem com os mesmos outputs, esses dois objetos serão considerados equivalentes para fins pragmáticos. Nunca, um ciberneticista (a cibernética é a origem desse teste) afirmaria que duas coisas diferentes são a mesma coisa a partir do teste da caixa-preta — mas é exatamente isso que as pessoas andam dizendo por aí.
E aí, chegamos a um ponto importante: o que é “reprodução” e o que é “imitação”? Reprodução é uma competência, uma capacidade ou um princípio biológico: a capacidade de se auto-reproduzir que qualquer ser vivo tem. Pois bem, quando dizemos que o computador está “reproduzindo” o filme para que eu possa o assistir, ele não está “reproduzindo” nada, ela o está apresentando na tela a partir de um mecanismo eletrônico extremamente complexo que performa, de fato, uma capacidade muito interessante: a cópia.
Algo similar acontece quando tanta gente adota o “teste de Turing” como forma de outorgar “humanidade” a um mecanismo. De maneira simples, o teste de Turing pode ser explicado da seguinte forma: se um computador te convencer, por meio de uma conversação banal, de que é impossível distinguí-lo de um ser humano — dentro dos limites daquela conversa — o computador terá passado no Teste de Turing (proposto pelo próprio Turing como um gedankenexperiment em 1950). Como esse teste é interpretado pela maioria das pessoas que conheço: como a “prova” de que o computador é humano. Isso nunca foi dito pelo Turing, e sequer faz qualquer sentido. Hoje, muitas outras “capacidades humanas” estão sendo utilizadas, de modo metafórico, como “prova” de que computadores e autômatos estão se tornando “conscientes”, “vivos”, ou “humanos”.
Bom, utilizar o teste de Turing para outorgar “humanidade” a uma máquina seria o mesmo que dizer que “se alguém acredita que algo é uma coisa específica, esse algo se transforma naquela coisa específica”. Ou seja, é um teste da caixa-preta deturpado, incompreendido, e generalizado sem nenhuma justificativa. Um exemplo: eu posso fazer uma escultura de pedra extremamente realista de um ser humano, pintar a superfície dessa escultura com extrema atenção aos detalhes e à composição geral, de modo que a ilusão de que aquela escultura é um ser humano será muito convincente — um pouco como as esculturas do Ron Mueck. Eu posso fotografar essa escultura e mostrar a uma pessoa, e dizer: “veja esse ser humano”; e a pessoa provavelmente se convencerá de que aquela fotografia é de um ser humano. Pois bem: isso converte a escultura em um ser humano? A pergunta não é só retórica, como o silogismo aqui apresentado é um caso do “reductio ad absurdum”. É claro que não: a escultura continua sendo uma escultura. Vamos adiante: se eu construo um mecanismo extremamente sofisticado que é capaz de, como dizem, “reproduzir” um comportamento biológico, neuronal, ou até mesmo humano, esse mecanismo deixa de ser um mecanismo e se transforma na entidade que ele “reproduz”? É óbvio que não.
Mas, já posso ouvir a turma da Inteligência Artificial dizendo: mas há um limiar que, se transposto, é muito difícil distinguir entre os dois objetos — o artificial e o original (por que não dizer natural?). Mas, imaginemos que construamos um autômato similar a um ser vivo, em que reproduzimos todas as características do ser vivo de referência, descendo até a escala molecular, passando pelos tecidos vivos, pelos órgãos vitais, até as células e organelas… Teremos “reproduzido” o ser vivo? Bom, do ponto de vista da biologia, não. Teremos criado uma cópia de um ser vivo em uma determinada idade e configuração corpórea, sem nenhuma relação histórica e genética com seu crescimento e desenvolvimento enquanto ser vivo. O processo rigorosamente denominado “reprodução” envolve a reprodução vital que, por sua vez, envolve o desenvolvimento pautado pela reprodução celular, pautada pela genética do DNA, etc. Portanto, mesmo que a cópia seja um replicante do filme Blade Runner — que no filme parecem, além das capacidades “incrementadas” de força e intelecto, e pelo limite de 4 anos de vida, serem compostos de carne e sangue — ainda assim será uma cópia, que tem uma historicidade específica, que é o seu processo de cópia a partir de esquemas construtivos similares a um mecanismo.
Vamos além, suponhamos que sejamos capazes de copiar até mesmo o processo de reprodução biológica, e criar uma entidade capaz de se auto-reproduzir, tal qual um ser vivo. Ainda aí, antes da fase “auto-reprodutora”, essa entidade foi construída tal qual um mecanismo, e é importante reconhecer tanto a historicidade do ser vivo que se auto-reproduz (que envolve a chamada “evolução”, o que implica em reconhecer que o organismo vivo tem fronteiras complexas em relação ao ambiente, ou como diria Gregory Bateson, não podemos afirmar que a “unidade de evolução” seja a espécie, e sim todo o ecossistema), como também a historicidade desse “ser vivo artificial” (que envolve o processo de seu projeto, sua concepção abstrata e simbólica, a intencionalidade das pessoas que o inventaram, o repertório dessas pessoas — todo um complexo que é fundamentalmente diferente do ser vivo que se auto-reproduz sem o envolvimento de um artista ou tecnológo).
Mas, porque é tão alastrada essa interpretação simplória, e não rigorosa, tanto do teste de Turing como do teste da caixa-preta? Eu creio que, do ponto de vista pragmático, é muito interessante que a identidade intrínseca das coisas — incluindo pessoas — seja ignorada e se privilegie as “capacidades” dessa coisa. Em outras palavras, em termos práticos, pouco importa se a coisa é ou não viva, inteligente, humana ou não-humana, poderíamos ouvir essa pessoa de espírito pragmático a custo do rigor dizendo: “quero saber do resultado dessa coisa, o que ela pode me dar? dando o que eu quero, dane-se se a coisa é ou não o que eu acredito que ela seja…” Pois bem, aí está o pragmatismo chulo que sustenta a redução de seres humanos a objetos de uso.
Para concluir, e voltarei a isso adiante, creio que é importante distinguir entre “reprodução” e “cópia”. Podemos até brincar que as semelhanças fenotípicas entre um um pai e um filho denotam como esse é cópia daquele, quando concretamente, as diferenças são óbvias e decorrentes do processo de reprodução sexuada. Creio que é uma apropriação indébita e incoerente do conceito de reprodução pela teoria da informação que gera tanta confusão: concretamente, todo o processo de “reprodução” de informação é, na verdade, um processo de cópia, de observação do objeto de referência e sua imitação em outro objeto.
Falei bastante de copiabilidade em meu doutorado, tentando, com isso, desmontar a crença em entidades “imateriais”. Volto a isso daqui um tempo.
E, além disso tudo, há aqui uma distinção entre agir em ecossistemas e agir como demiurgo. Também volto a isso.