Nos �ltimos vinte anos, eu me vi inserido em uma revolu��o, mantendo-me por�m fora de seu dogma resplandecente. Agora que esta revolu��o atingiu a corrente principal de pensamento, e condenou-a � submiss�o ao tomar controle da economia, creio que � o momento de vociferar minha discord�ncia de forma mais enf�tica do que vinha fazendo antes.

Portanto, dividirei aqui minhas id�ias com os participantes de Edge, muitos dos quais s�o, mais que ningu�m, respons�veis por essa revolu��o, que defende o assentimento da tecnologia cibern�tica como cultura.

O dogma a que me oponho � composto de um esquema de cren�as integradas e ainda n�o possui um nome abrangente e amplamente aceito, embora eu o chame �s vezes de "totalitarismo cibern�tico1". Ele tem o potencial de transformar a experi�ncia humana de maneira mais poderosa do que qualquer ideologia, religi�o ou sistema pol�tico anterior, em parte porque pode ser muito atraente, pelo menos no in�cio, para o pensamento, mas sobretudo porque ele pega carona nas tecnologias tremendamente poderosas criadas por pessoas que s�o, em grande parte, seus devotos.

Os leitores de Edge poder�o ficar surpresos pelo meu emprego do termo "cibern�tica". Eu considero esta uma palavra problem�tica, e gostaria, portanto, de justificar sua escolha. Procurei um termo que unificasse as diversas id�ias que eu estava explorando, e ao mesmo tempo conectasse o pensamento e a cultura atuais com gera��es anteriores de pensadores que contemplaram t�picos similares. A aplica��o original de "cibern�tica", por Norbert Weiner, claramente n�o estava restrita aos computadores digitais. O termo foi originalmente concebido para sugerir uma met�fora entre a navega��o mar�tima e um dispositivo de realimenta��o que governa um sistema mec�nico, como um termostato. Weiner certamente soube identificar e explorar humanitariamente o alcance extraordin�rio desta met�fora, uma das mais poderosas j� expressadas.

Eu espero que ningu�m v� pensar que estou igualando a cibern�tica com aquilo que estou denominando totalitarismo cibern�tico. A dist�ncia entre reconhecer uma boa met�fora e trat�-la como a �nica met�fora � a mesma dist�ncia entre a ci�ncia humilde e a religi�o dogm�tica.

Aqui est� uma lista parcial das cren�as que comp�em o totalitarismo cibern�tico:

1) De que os modelos cibern�ticos de informa��o fornecem a melhor - e definitiva - maneira para compreender a realidade.

2) De que as pessoas n�o s�o nada al�m de modelos cibern�ticos.

3) De que a experi�ncia subjetiva ou n�o existe, ou � irrelevante por ser uma esp�cie de efeito ambiental ou perif�rico.

4) De que o descrito por Darwin na biologia, ou algo parecido, � tamb�m a �nica e superior descri��o de toda criatividade e cultura.

5) De que tanto os aspectos qualitativos como quantitativos dos sistemas de informa��o ser�o acelerados pela Lei de Moore.

E finalmente, o mais dram�tico:

6) De que a biologia e a f�sica se fundir�o �s ci�ncias da computa��o (na forma da biotecnologia e da nanotecnologia) resultando numa vida e num universo f�sico transientes, alcan�ando assim a suposta natureza dos programas de computador. Inclusive, tudo isso acontecer� muito em breve! Uma vez que os computadores est�o se aprimorando t�o rapidamente, eles logo poder�o sobrepor-se a todos os outros processos cibern�ticos, como as pessoas (indiv�duos), e modificar fundamentalmente a natureza do que acontece na familiar vizinhan�a da Terra, no momento em que uma nova "criticalidade" for atingida. Quem sabe l� pelo ano 2020. Ser um humano ap�s este momento ser� ou imposs�vel, ou ent�o algo muito diferente do que podemos imaginar.

Nos �ltimos vinte anos, uma enxurrada de livros gradualmente informou o grande p�blico da estrutura de cren�as do c�rculo interno dos digerati2, come�ando suavemente, com Godel, Escher e Bach, por exemplo, e tornando-se mais enf�tica em obras recentes como The Age of Spiritual Machines, de Ray Kurtzweil.

Eu fico bastante curioso sobre quais dos eminentes pensadores que aceitam largamente alguma vers�o das cinco primeiras cren�as, tamb�m se sentem confort�veis com a sexta id�ia, a escatologia. Em geral, percebo que os tecn�logos, mais do que os cientistas naturais, tendem a vociferar sobre a possibilidade de uma criticalidade em curto prazo. N�o fa�o a menor id�ia, por outro lado, do que sujeitos como Richard Dawkins ou Daniel Dennet pensam disso. Por algum motivo n�o consigo imaginar estes elegantes te�ricos especulando se os nanorob�s poder�o dominar o planeta daqui a vinte anos. Parece ultrapassar sua dignidade. Ainda assim, as escatologias de Kurtzweil, Moravec e Drexler derivam diretamente e, ao que me parece, inevitavelmente, de uma compreens�o do mundo articulada com mais precis�o por ningu�m mais que Dawkins e Dennet. Ser� que Dawkins, Dennet, e outros de sua �rea, enxergam alguma falha l�gica que isola seu pensamento de implica��es escatol�gicas? Na minha vis�o, essa falha � que os ciber-apocal�pticos fizeram confus�o entre computadores ideais e computadores reais, os quais comportam-se de maneiras diferentes. Minha posi��o nessa quest�o pode ser avaliada separadamente de minhas posi��es assumidamente provocativas em rela��o �s cinco primeiras cren�as, e eu espero que seja.

Por que este � apenas um "manifesto pela metade": eu espero que os leitores n�o pensem que eu mergulhei numa rejei��o mal-humorada da tecnologia digital. Na verdade, estou mais empolgado do que nunca por estar trabalhando nas ci�ncias da computa��o, e acho que n�o � dif�cil adotar um enfoque humanista para desenvolver ferramentas digitais. Est� ocorrendo um estimulante desabrochar da cultura da inform�tica, cujo surgimento independe, em sua maioria, das elites tecnol�gicas, e rejeita implicitamente as id�ias que estou atacando aqui. Um manifesto completo procuraria descrever e promover essa cultura positiva.

Agora, examinarei as cinco cren�as cuja aceita��o precede a nova escatologia, para ent�o considerar a pr�pria escatologia.

L� vamos n�s:

Cren�a totalitarista cibern�tica #1: de que modelos cibern�ticos de informa��o fornecem a melhor - e definitiva - maneira para compreender a realidade.

Um ineg�vel surto de excita��o � vivido por aqueles que t�m a primeira oportunidade de perceber um fen�meno ciberneticamente. Enquanto eu acredito poder imaginar, por exemplo, a emo��o que deve ter sido utilizar os primeiros equipamentos fotogr�ficos no s�culo 19, eu n�o consigo imaginar que um leigo pudesse compreender a sensa��o de estar envolvido com as tecnologias primordiais de computa��o gr�fica nos anos 70. N�o se tratava, aqui, de um modo de simplesmente produzir e exibir imagens, mas de um meta-sistema que subordinava todas as imagens poss�veis. Uma vez que voc� compreende algo a ponto de poder soc�-lo dentro de um computador, voc� decifrou o seu c�digo, transcendeu qualquer particularidade que esse algo possa ter num determinado momento. Era como se tiv�ssemos nos tornado os Deuses da vis�o e efetivamente criado todas as imagens poss�veis, pois elas seriam meramente recombina��es dos bits nos computadores diante de n�s, sob nosso total comando.

O impulso cibern�tico � inicialmente motivado pelo ego (embora, como veremos, em seu desfecho vindouro ele se tornar� inimigo do ego). Por exemplo, os totalitaristas cibern�ticos olham para a cultura e enxergam "memes", ou figuras mentais aut�nomas (tropos) que competem por espa�o cerebral humano de forma semelhante aos v�rus. Ao fazer isso eles n�o apenas cometem um triunfo de "imperialismo acad�mico", situando a si mesmos numa suposta posi��o de entendimento superior em oposi��o ao resto das ci�ncias humanas, mas tamb�m evitam a necessidade de prestar alguma aten��o nas particularidades da cultura numa determinada �poca e local. Depois que voc� reduz algo a sua dimens�o cibern�tica, qualquer recombina��o particular de seus bits parece n�o ter import�ncia.

A cren�a #1 entrou em cena quase instantaneamente com o surgimento dos primeiros computadores. Ela foi articulada pela primeira gera��o de cientistas da computa��o: Weiner, Shannon, Turing. Ela � t�o fundamental que j� n�o � sequer enunciada no c�rculo especializado. � t�o profundamente enraizada que � dif�cil para mim colocar-me fora do meu ambiente intelectual circundante por tempo suficiente para articular uma alternativa a ela.

Uma alternativa pode ser essa: um modelo cibern�tico de um fen�meno nunca poder� ser o �nico modelo aceito, porque sequer podemos construir computadores em conformidade com tais modelos. Computadores reais s�o completamente diferentes dos computadores ideais da teoria. Eles pifam por raz�es que nem sempre s�o analis�veis, e parecem resistir intrinsecamente a v�rios de nossos esfor�os para aperfei�o�-los, em grande parte devido a complica��es como o legado3 (legacy) e o lock-in4. Imaginamos sistemas cibern�ticos "puros", mas provamos ser capazes de construir apenas sistemas parcialmente disfuncionais. Estamos tapeando n�s mesmos ao pensar que entendemos algo - at� mesmo um computador - meramente porque podemos model�-lo ou digitaliz�-lo.

H� tamb�m um problema epistemol�gico que me incomoda, muito embora meus colegas em geral estejam dispostos a ignor�-lo. Eu n�o creio que se possa medir a fun��o ou at� mesmo a exist�ncia de um computador sem conferir-lhe um contexto cultural. N�o acho que marcianos teriam necessariamente a capacidade de distinguir um Macintosh de um aquecedor de ambientes.

A controv�rsia acima, em �ltima inst�ncia, torna-se uma combina��o de argumentos t�cnicos sobre teoria da informa��o com posi��es filos�ficas, em maior parte oriundas de gosto e f�.

Portanto, tento engrandecer minhas posi��es com considera��es pragm�ticas, e algumas delas come�ar�o a surgir em minhas id�ias sobre a...

Cren�a #2: De que as pessoas n�o s�o nada al�m de modelos cibern�ticos

A fantasia de todo totalitarista cibern�tico depende da intelig�ncia artificial. Pode n�o ficar imediatamente claro por que essas fantasias s�o essenciais para aqueles que as cultivam. Se os computadores se tornar�o espertos o suficiente para projetar seus pr�prios sucessores, dando in�cio a um processo que resultar�, ap�s passagens cada vez mais velozes de uma gera��o de computadores para a seguinte, em uma onisci�ncia divina, algu�m vai precisar escrever o programa que dar� in�cio ao processo. E n�o h� evid�ncia de que os seres humanos sejam capazes de escrever tal programa. A id�ia, portanto, � que os computadores ir�o de algum modo ficar espertos sozinhos e escrever seus pr�prios programas.

Minha principal obje��o a esse modo de pensar � pragm�tica: ela resulta na cria��o de programas de computador de baixa qualidade no mundo real, no presente. Os totalitaristas cibern�ticos vivem com suas cabe�as no futuro e est�o dispostos a tolerar falhas �bvias nos programas atuais em detrimento de um mundo fantasioso que poder� nunca surgir.

Toda a iniciativa da intelig�ncia artificial � baseada num equ�voco intelectual, e continua a resultar em programas caros e mal projetados, � medida em que � relan�ada no mercado com um novo nome, a cada nova gera��o de programadores. Recentemente, foi chamada de "agentes inteligentes". Antes disso, havia sido chamada de "sistemas especialistas".

Vamos voltar ao in�cio, quando a id�ia apareceu pela primeira vez. No famoso experimento imagin�rio de Turing5, � pedido a um juiz humano que determine qual entre dois respondedores � humano, e qual � uma m�quina. Se o juiz n�o souber, Turing afirma que se dever� considerar que o computador alcan�ou o status moral e intelectual de um ser humano.

O erro de Turing foi assumir que a �nica explica��o para o sucesso do computador concorrente seria a de que o computador havia atingido alguma esp�cie de estado elevado, ficado mais inteligente, mais humano. H� contudo outra explica��o, igualmente v�lida, para um computador vencedor: a de que o ser humano ficou menos inteligente, menos humano.

Um teste de Turing oficial � realizado todo ano e, embora o substancial pr�mio em dinheiro ainda n�o tenha sido arrebatado por um programa, ele com certeza ser� conquistado em algum momento nos pr�ximos anos. Minha opini�o � que este acontecimento est� distraindo todos dos verdadeiros testes de Turing que j� est�o sendo vencidos. testes de Turing verdadeiros, ainda que miniaturizados, est�o ocorrendo o tempo todo, a cada dia, sempre que uma pessoa se sujeita a computadores com programas burros.

Nos Estados Unidos, por exemplo, organizamos nossas vidas financeiras de modo que fa�a bonito diante dos programas de computador pateticamente simples que determinam nossos �ndices de cr�dito. Emprestamos dinheiro quando n�o precisamos para alimentar os programas com o tipo de dados aos quais sabemos que eles est�o programados para responder favoravelmente.

Ao fazermos isso, nos fazemos de burros para que o programa do computador pare�a inteligente. Continuamos a confiar no programa indicador de cr�dito, mesmo que tenha havido uma epidemia de fal�ncias pessoais durante uma �poca de baix�ssimo desemprego e grande prosperidade.

N�s fizemos com que o teste de Turing fosse vencido. N�o h� diferen�a epistemol�gica entre a intelig�ncia artificial e a aceita��o de um programa de computador mal desenvolvido.

Meu argumento pode ser considerado um ataque contra a cren�a na eventual senci�ncia dos computadores. Mas uma interpreta��o mais sofisticada poderia concluir que ele defende a vantagem pragm�tica de manter um ceticismo em rela��o � intelig�ncia artificial (porque aqueles que acreditam na intelig�ncia artificial t�m maior chance de se sujeitar aos maus programas). E, mais importante, eu espero que o leitor consiga ver que a intelig�ncia artificial � mais bem compreendida como um sistema de cren�as do que como uma tecnologia.

O sistema de cren�as da intelig�ncia artificial � uma explica��o direta para boa parte dos programas ruins do mundo, como as irritantes fun��es do Microsoft Word e Power Point, que adivinham o que o usu�rio realmente pretendia digitar. Quase todas as pessoas com quem falei odeiam esses recursos, e eu nunca encontrei um engenheiro na Microsoft que pudesse desativ�-los completamente no meu computador (rodando um Mac Office '98), embora isso deva ser poss�vel.

Cren�a #3: De que a experi�ncia subjetiva ou n�o existe, ou � irrelevante por ser uma esp�cie de efeito ambiental ou perif�rico.

H� um novo dilema moral se formando sobre a quest�o dos casos em que o conceito de "alma" poderia ser atribu�do a padr�es percebidos no mundo.

Os computadores, os genes e a economia s�o algumas das entidades que os totalitaristas cibern�ticos julgam estarem povoando a realidade atual, junto com os seres humanos. � sem d�vida verdade que somos confrontados num ritmo constante por part�cipes n�o-humanos e meta-humanos em nossas vidas, e que esses atores �s vezes parecem ser mais poderosos do que n�s.

Assim, a nova quest�o moral �: vamos tomar decis�es exclusivamente com base nas necessidades e desejos dos humanos biol�gicos "tradicionais", ou algum destes outros part�cipes tamb�m merece considera��o?

Proponho o emprego de uma imagem simples para considerar os pontos de vista alternativos. � a imagem de um c�rculo imagin�rio que cada pessoa desenha ao redor de si. Vamos cham�-lo de "c�rculo de empatia". No interior do c�rculo est�o aquelas coisas consideradas merecedoras de empatia, e conseq�entemente de respeito, de direitos, e do tratamento pr�tico dado aos semelhantes. No exterior do c�rculo est�o aquelas coisas consideradas menos importantes, menos vivas, menos merecedoras de direitos. (Esta imagem � apenas uma ferramenta para o pensamento, e n�o deve de maneira alguma ser tomada como meu modelo completo para a psicologia humana e os dilemas morais). Falando superficialmente, os liberais almejam expandir este c�rculo, enquanto os conservadores desejam contra�-lo.

Devem os computadores, quem sabe em algum ponto no futuro, ser inclu�dos dentro do c�rculo de empatia? A id�ia de que eles devem � cultivada com carinho pelos totalitaristas cibern�ticos que povoam as academias da elite tecnol�gica e os neg�cios da "nova economia".

Na escrita argumentativa dos defensores da eventual senci�ncia dos computadores h� com freq��ncia um humor delicado e n�o-intencional. A miss�o de provar racionalmente a possibilidade da senci�ncia em um computador (ou talvez na internet) � a vers�o moderna da prova da exist�ncia de Deus. Como foi o caso com a hist�ria de Deus, um grande n�mero de grandes mentes dedicaram energia em excesso a essa miss�o, e eventualmente um Kant do s�culo 21, voltado � cibern�tica, surgir� para nos apresentar uma tediosa "prova" de que tais esfor�os s�o f�teis. Eu simplesmente n�o tenho a paci�ncia para ser essa pessoa.

Acontece que, nos �ltimos cinco ou tantos anos, os argumentos a respeito da senci�ncia dos computadores come�aram a diminuir. A id�ia � considerada como verdadeira pela maioria dos meus colegas; para eles, a argumenta��o est� encerrada. Mas n�o est� encerrada pra mim.

Devo relatar que na �poca em que os argumentos ainda estavam quentes, era uma sensa��o muito estranha a de debater com algu�m como o fil�sofo e totalitarista cibern�tico Daniel Dennet. Ele afirmaria que os humanos s�o simplesmente computadores especializados, e que impor alguma distin��o ontol�gica fundamental entre humanos e computadores era uma perda de tempo sentimentalista.

"Mas voc� n�o vivencia a sua vida? A experi�ncia n�o � algo diferente do que voc� poderia averiguar em um computador?", eu perguntaria. Meu oponente no debate normalmente diria algo como "A experi�ncia � apenas uma ilus�o criada pelo fato de haver uma parte da m�quina (voc�) que precisa criar um modelo da fun��o do restante da m�quina - esta parte � o seu centro experiencial".

Eu retrucaria que a experi�ncia � a �nica coisa que n�o � subjugada � ilus�o. Que at� mesmo a ilus�o � ela mesma uma experi�ncia. O resultado disso, perdoem-me a express�o, � que a experi�ncia � exatamente aquilo que s� pode ser vivenciado. Isso me levou � esquisita posi��o de questionar publicamente se alguns de meus oponentes eram simplesmente desprovidos de experi�ncia interna. (Certa vez sugeri que dentre toda a humanidade, s� se poderia provar definitivamente a aus�ncia de experi�ncia interna em certos fil�sofos profissionais).

Na verdade, penso que meus incans�veis antagonistas possuem, sim, experi�ncia interna, mas optam por n�o admiti-lo publicamente por uma s�rie de raz�es, sendo a mais freq�ente o simples gosto de aborrecer os outros.

Outra motiva��o pode ser o "imperialismo acad�mico" que invoquei anteriormente. Representantes de cada disciplina acad�mica ocasionalmente afirmam possuir um ponto de vista mais privilegiado, que de alguma forma cont�m ou subjuga os pontos de vista de seus rivais. Os f�sicos foram os "alfa-acad�micos" durante a maior parte do s�culo 20, embora nas d�cadas mais recentes os pensadores humanistas "p�s-modernos" tenham conseguido encenar uma esp�cie de reapari��o, pelo menos em suas pr�prias cabe�as. Mas os tecn�logos s�o os vencedores inevit�veis desse jogo, ao modificar os pr�prios componentes de nossas vidas bem debaixo de nossos olhos. Aparentemente, � tentador para muitos deles alavancar este poder, de modo a sugerir que tamb�m possuem uma compreens�o acabada da realidade, o que � bastante diferente de exercer uma tremenda influ�ncia sobre ela.

Outra forma de explica��o pode ser neo-freudiana, considerando que o primeiro inventor da id�ia de senci�ncia da m�quina, Alan Turing, era uma alma bastante torturada. Turing faleceu num aparente suic�dio provocado pelo fato dele ter desenvolvido seios, como resultado de um regime hormonal cujo objetivo era reverter sua homossexualidade. Foi durante este tr�gico per�odo final de sua vida que ele defendeu apaixonadamente a senci�ncia da m�quina, e j� me perguntei se ele n�o estaria se dedicando a uma nova e original forma de fuga e nega��o psicol�gicas; tornar-se um computador para fugir da sexualidade e da mortalidade.

De qualquer forma, o que � peculiar e revelador � que meus amigos totalitaristas cibern�ticos confundem a viabilidade de uma perspectiva com a sua superioridade triunfante. � perfeitamente verdadeiro que se possa pensar numa pessoa como o m�todo de propaga��o de um gene, segundo Dawkins, ou como um �rg�o sexual utilizado por m�quinas para fazer mais m�quinas, como em McLuhan (citado na cabeceira de cada edi��o da Wired Magazine), e pode ser at� mesmo belo pensar a partir dessas perspectivas de tempos em tempos. Mas como o antrop�logo Steve Barnett apontou, contudo, seria igualmente razo�vel afirmar que "uma pessoa � o meio que a merda utiliza para fazer mais merda".

Portanto, vamos fingir que o novo Kant j� surgiu e realizou seu trabalho inevit�vel. Podemos ent�o dizer que a disposi��o do c�rculo de empatia de uma pessoa � em �ltima inst�ncia uma quest�o de f�. Precisamos aceitar o fato de que somos obrigados a posicionar o c�rculo em algum lugar, e ainda n�o temos como excluir a f� extra-racional de nossa escolha.

Minha escolha pessoal � de n�o situar os computadores dentro do c�rculo. Neste artigo, estou declarando algumas de minhas raz�es pragm�ticas, est�ticas e pol�ticas para isso, embora no final das contas minha decis�o esteja alicer�ada em minha f� particular. Minha posi��o � impopular e at� mesmo ofensiva em meu ambiente profissional e social.

Cren�a #4: De que o descrito por Darwin na biologia, ou algo parecido com isso, � na verdade a �nica e superior descri��o de toda criatividade e cultura.

Totalitaristas cibern�ticos s�o obcecados por Darwin, porque ele descreveu a coisa mais pr�xima que temos de um algoritmo para a criatividade. Darwin responde ao que seria um grande buraco no dogma: como os sistemas cibern�ticos chegar�o a ser inteligentes e criativos o suficiente para inventar um mundo p�s-humano? Para aceitar uma escatologia onde os computadores tornam-se inteligentes na mesma medida em que ficam r�pidos, algum tipo de Deus ex-Machina precisa ser invocado, e ele tem barba.

Infelizmente, neste momento eu preciso quebrar o clima para declarar que n�o sou um criacionista. Neste ensaio, estou criticando aquilo que percebo tratar-se de pregui�a intelectual, um recuo da tentativa de entender os problemas para, ao inv�s disso, esperar pelo software6 que evolua por si mesmo. N�o estou sugerindo que a natureza precisou de algum elemento extra al�m da evolu��o natural para criar o homem.

Tampouco pretendo insinuar que exista um bloco unificado de pessoas se opondo a mim, todas elas pensando exatamente a mesma coisa. Existem, de fato, numerosas varia��es da escatologia darwinista. Algumas das vers�es mais dram�ticas n�o vieram de cientistas ou engenheiros, mas de escritores como Kevin Kelly e Robert Wright, que ficaram deslumbrados com interpreta��es amplas de Darwin. Em seus trabalhos, a realidade � percebida como um grande programa de computador rodando o algoritmo de Darwin, quem sabe em dire��o a algum tipo de Destino.

Muitos de meus colegas da �rea t�cnica tamb�m enxergam algum tipo de flecha causal da evolu��o, apontando ao longo do tempo para algo que nos � dif�cil caracterizar. As palavras empregadas para descrever esse "algo" s�o elas mesmas dif�ceis de definir; diz-se que ele inclui elevada complexidade, organiza��o e representa��o. Para o cientista da computa��o Danny Hillis, as pessoas parecem possuir mais desse "algo" do que, digamos, organismos unicelulares, e � natural especularmos se n�o existir�o um dia novas criaturas com ainda mais "algo" do que encontramos no ser humano. (Claro que o futuro nascimento das esp�cies com "algo a mais" � geralmente relacionado com computadores.) Comparemos esta perspectiva com a de Stephen Jay Gould. Ele argumenta em Full House que, se h� uma seta na evolu��o, � na dire��o de uma maior diversidade ao longo do tempo, enquanto n�s, essas criaturas improv�veis conhecidas como humanos, tendo surgido como diminuta manifesta��o de uma explora��o cega e massiva de todas as criaturas poss�veis, apenas imaginamos que todo o processo foi projetado para resultar em n�s mesmos.

Nenhuma id�ia � mais dif�cil de testar do que uma do tipo antr�pico, ou sua refuta��o. Admito que tendo a me inclinar para o lado de Gould nessa quest�o, mas o mais importante � apontar um quebra-cabe�a epistemol�gico que deveria ser considerado pelos escatologistas darwinistas. Se a humanidade � a medida da evolu��o at� agora, ent�o tamb�m seremos a medida para as esp�cies sucessoras que poder�o ser entendidas como "mais evolu�das" do que n�s. Precisaremos antropomorfizar esta forma de vida "maior do que o homem" para poder assimil�-la, especialmente se ela existir dentro de um espa�o informatizado como a internet.

Em outras palavras, seremos t�o confi�veis para identificar o status dos novos super-seres quanto o somos para identificar a personalidade de c�es de estima��o hoje em dia. N�o estamos � altura da tarefa. Antes de me dizer que a chegada da nova ciberesp�cie superinteligente ser� descaradamente �bvia, visite uma exposi��o de c�es. Ou uma reuni�o de pessoas que acreditam terem sido abduzidas por alien�genas em OVNIs. As pessoas s�o sabidamente insensatas na hora de identificar senci�ncia n�o-humana.

Mas n�o h� d�vida de que o movimento por uma interpreta��o mais ampla de Darwin, em particular por traz�-lo � psicologia e �s ci�ncias humanas, ofereceu alguns discernimentos valiosos, que algum dia ser�o parte de uma compreens�o mais avan�ada da natureza, incluindo a natureza humana. Esta corrente de pensamento me agrada em diversos n�veis. E, vamos admitir, � mesmo imposs�vel para um cientista da computa��o n�o sentir-se regozijado diante de trabalhos que colocam uma forma de algoritmo computacional no centro da realidade, e tais pensadores tendem a ficar confiantes e animados, e a terem ocasionalmente boas e novas id�ias.

Mesmo assim, acho que os darwinistas do totalitarismo cibern�tico s�o com freq��ncia descaradamente incompetentes no discurso p�blico, e podem ser em parte respons�veis, ainda que sem inten��o, por incitar o ressurgimento da rea��o religiosa e fundamentalista contra a biologia racional. Eles produzem tiradas em cima de Darwin que parecem calculadas n�o apenas para contrariar, mas tamb�m alienar aqueles que n�o aceitam sua vis�o. As declara��es do mais careta dos psic�logos evolucionistas parecem ser particularmente irritantes.

Um exemplo que me v�m � mente � o recente livro Uma hist�ria natural do estupro (The Natural History of Rape), de Randy Thornhill e Craig T. Palmer, declarando que o estupro � um m�todo "natural" de espalhar genes por a�. N�s j� vimos todo tipo de proposi��es ligadas a Darwin por um verniz de racionalidade. Na verdade, voc� pode argumentar praticamente qualquer posi��o usando uma estrat�gia darwinista.

Thornhill e Palmer, por exemplo, v�o ao ponto de sugerir que quem discorda deles est� sendo v�tima de uma programa��o evolucion�ria, existente pela necessidade de acreditar num altru�smo fict�cio na natureza humana. Os autores atestam que � uma denota��o de altru�smo n�o acreditar na psicologia evolucionista, porque este ceticismo demonstra a cren�a do indiv�duo no amor fraternal. Demonstra��es de altru�smo s�o descritas como atraentes, e portanto capazes de aumentar a habilidade do indiv�duo em atrair parceiros. Por essa l�gica, os psic�logos evolucionistas dever�o logo eliminar a si mesmos da popula��o. A n�o ser que eles apelem para o estupro.

De qualquer modo, a id�ia darwinista de evolu��o era de um tipo diferente das teorias cient�ficas anteriores, por no m�nimo duas raz�es. A mais �bvia e explosiva delas era a grande proximidade do objeto de estudo. Foi chocante para a mentalidade do s�culo 19 pensar nos animais como parentes de sangue, e esse choque persiste at� hoje.

A segunda raz�o � reconhecida com menor freq��ncia. Darwin criou um estilo de redu��o baseado em princ�pios de emerg�ncia ao inv�s de leis subjacentes (embora algumas teorias f�sicas especulativas mais recentes possam apresentar um tempero darwinista). N�o existe nenhuma "for�a" evolucion�ria an�loga, digamos, ao eletromagnetismo. A evolu��o � um princ�pio que pode ser reconhecido como manifesto nos acontecimento, mas n�o pode ser descrito precisamente como uma for�a que direciona os acontecimentos. � uma distin��o sutil. A hist�ria de cada f�ton � a mesma, num sentido em que a hist�ria de cada animal e planta � diferente. (Claro que existem maravilhosos exemplos de afirma��es precisas e quantitativas na teoria darwinista e em seus experimentos correspondentes. Mas estes n�o se d�o num n�vel sequer pr�ximo da experi�ncia humana, que envolve uma totalidade de organismos possuindo comportamentos complexos num dado ambiente). "Hist�ria" (story) � o termo operacional. O pensamento evolucionista quase sempre foi aplicado a situa��es espec�ficas atrav�s de hist�rias.

Uma hist�ria, ao contr�rio de uma teoria, � um convite � varia��o e � ornamenta��o, e de fato as hist�rias adquirem seu poder comunicativo atrav�s da resson�ncia com outras hist�rias primordiais. � poss�vel aprender f�sica sem inventar uma narrativa dentro da cabe�a de algu�m para das sentido a f�tons e buracos negros. Mas parece que � imposs�vel aprender evolu��o darwinista sem desenvolver, ao mesmo tempo, uma narrativa interna para relacion�-la com outras hist�rias que se conhece. Pelo menos nenhum pensador p�blico do assunto parece ter enfrentado Darwin sem construir uma ponte para sistemas de valores pessoais.

Mas al�m da quest�o do gosto subjetivo, resta o problema de saber se Darwin explicou o suficiente. N�o � poss�vel que a� resida uma id�ia n�o-articulada, que explique aspectos performativos e criadores n�o contemplados por Darwin?

O estilo darwinista de explica��o � suficiente, por exemplo, para compreender o processo do pensamento racional? H� uma abund�ncia de teorias recentes nas quais afirma-se que o c�rebro produz distribui��es aleat�rias de id�ias subconscientes que competem umas com as outras at� que apenas a melhor sobreviva, mas ser� que essas teorias realmente t�m a ver com o que as pessoas fazem?

Na natureza, a evolu��o aparenta ser brilhante na otimiza��o, mas incompetente em tra�ar estrat�gias. (A imagem matem�tica que expressa esta id�ia � a de que a evolu��o "cega" tem enorme dificuldade em se libertar de uma m�nima7 local num campo de energia.) A pergunta cl�ssica seria: Como p�de a evolu��o ter criado p�s, garras, barbatanas e patas t�o maravilhosas, mas ter esquecido da roda? H� v�rios ambientes em que criaturas tirariam grande proveito de rodas; por que nenhuma surgiu? Nem uma s� vez? (Um �timo projeto art�stico a longo prazo para alguma crian�a rebelde, que esteja atualmente em idade escolar: criar um animal com rodas atrav�s da engenharia gen�tica! Verificar se o DNA pode ser condicionado a isso.)

O ser humano fez surgir a roda e muitas outras inven��es �teis que parecem ter escapado � evolu��o. Pode ser que a explica��o seja simplesmente que as m�os tiveram � sua disposi��o um conjunto de inven��es diferente daquele dispon�vel ao DNA, embora ambos tenham sido guiados por processos similares. Mas tratar uma interpreta��o assim como uma certeza me parece prematuro. N�o seria poss�vel que durante o pensamento racional o c�rebro execute algo ainda n�o intelig�vel que possa ter se originado de um processo darwinista, mas n�o possa ser explicado por ele?

As primeiras duas ou tr�s gera��es de pesquisadores da intelig�ncia artificial tomaram como certo que a evolu��o cega em si n�o poderia ser um caso encerrado, assumindo que havia elementos que distinguiam o processo mental humano dos outros processos terrenos. Por exemplo, muitos pensaram que os humanos constru�ssem representa��es abstratas do mundo em suas mentes, enquanto os processos evolutivos n�o precisam fazer isso. Al�m do mais, essas representa��es pareciam possuir qualidades extraordin�rias, como o tem�vel e sempre ardiloso "senso comum". Ap�s d�cadas de tentativas frustradas de construir abstra��es semelhantes em computadores, o campo da intelig�ncia artificial desistiu da tarefa, mas sem admiti-lo. A rendi��o foi abafada como mera s�rie de recuos t�ticos. A intelig�ncia artificial, hoje em dia, � entendida mais como um of�cio do que como um ramo da ci�ncia ou da engenharia. Muitos praticantes com quem conversei ultimamente esperam ver uma evolu��o dos programas de computador que resulte em v�rias coisas, mas parecem ter afundado numa falta de preocupa��o quase p�s-moderna, ou c�nica, com a compreens�o de como essas engenhocas v�o de fato funcionar.

� importante ressaltar que culturas baseadas no artesanato podem elaborar muitas tecnologias �teis, e que a motiva��o de nossos antecessores para abra�ar o Iluminismo e a ascens�o da racionalidade n�o era apenas a de produzir mais tecnologias com mais velocidade. Havia tamb�m a id�ia de humanismo, e uma cren�a na virtude do pensamento e compreens�o racionais. Estamos realmente preparados para abandonar isso?

Finalmente, h� uma observa��o emp�rica a se fazer: j� se completou mais de uma d�cada de trabalho mundial em cima de abordagens darwinistas para desenvolver programas de computador, e ainda que tenha havido alguns resultados isolados fascinantes e impressionantes, e que eu realmente goste de participar desse tipo de pesquisa, nada surgiu deste trabalho que tenha tornado os programas em geral melhores do que eram - como descreverei na pr�xima se��o.

Portanto, por mais que eu adore Darwin, n�o vou contar com ele para escrever c�digo.

Cren�a #5: De que tanto os aspectos qualitativos como quantitativos dos sistemas de informa��o ser�o acelerados pela Lei de Moore.

O hardware8 dos computadores vai ficando cada vez melhor e mais barato, numa velocidade exponencial conhecida pelo apelido de Lei de Moore. A cada ano e meio, por a�, a computa��o aproximadamente duplica de velocidade em rela��o a um custo determinado. As implica��es disso s�o desnorteantes, e t�o profundas, que produzem vertigem numa primeira impress�o. O que um computador um milh�o de vezes mais veloz do que esse em que escrevo este texto seria capaz de fazer? Esse computador seria mesmo incapaz de realizar aquilo que meu c�rebro realiza, seja l� o que for? A quantidade de "um milh�o" � n�o apenas demasiado grande para captar intuitivamente; ela n�o � nem acess�vel experimentalmente para finalidades atuais, e portanto a especula��o n�o � irracional. O que � atordoante � perceber que muitos de n�s descobrir�o esta resposta em vida, pois tal computador poder� ser um bem de consumo barato em cerca de, digamos, 30 anos.

Esse panorama de tirar o f�lego precisa ser rigidamente contrastado com a Grande Vergonha da ci�ncia da computa��o: n�o parecemos capazes de escrever programas muito melhores na medida em que os computadores ficam muito mais r�pidos. Os programas de computador insistem em desapontar. Como eu odiava o UNIX l� nos anos 70 - aquele acumulador demon�aco de informa��o descart�vel, ocultador de fun��es, inimigo do usu�rio! Se algu�m me dissesse naquela �poca que o retorno para o primitivo e embara�oso UNIX seria a grande esperan�a e obsess�o dos investidores do ano 2000, simplesmente com a troca de seu nome para LINUX e com uma nova abertura de seu c�digo, eu nunca teria o est�mago ou o cora��o para permancer na ci�ncia da computa��o.

Se h� uma Lei de Moore observ�vel nos programas de computador, ela � invertida. Conforme os processadores ficam mais r�pidos e a mem�ria mais barata, os programas tornam-se concomitantemente mais lentos e embotados, consumindo todos os recursos dispon�veis. Agora eu sei que n�o estou sendo inteiramente justo aqui. Hoje temos, por exemplo, reconhecimento de voz e tradu��o de idiomas melhores do que antes, e estamos aprendendo a rodar bancos de dados e redes cada vez maiores. Mas nossas t�cnicas e tecnologias essenciais para programas de computador simplesmente n�o ficaram a par do hardware. (Assim que alguma rec�m-nascida ra�a de rob�s super-inteligentes estiver prestes a consumir toda a humanidade, nossa velha e querida esp�cie provavelmente ser� salva por um travamento do Windows. Os pobres rob�s v�o definhar pateticamente, nos implorando para serem reiniciados, mesmo sabendo que n�o lhes ajudaria em nada.)

H� diversas raz�es para que os programas de computador tendam a ser de dif�ceis de manejar, mas uma raz�o principal � o que gosto de chamar de "fragilidade9". O programa quebra antes de dobrar, e portanto exige perfei��o, num universo que prefere estat�sticas. Isso, por sua vez, conduz a todo o pesadelo do legado, do lock-in, e de outros caprichos. A dist�ncia entre os computadores ideais, que imaginamos em nossos experimentos mentais, e os computadores reais, que temos capacidade de introduzir no mundo, n�o poderia ser mais severa.

� a fetichiza��o da Lei de Moore que seduz os pesquisadores a ponto de torn�-los complacentes. Se voc� possui uma for�a exponencial do seu lado, ela certamente triunfar� sobre todos os desafios. Quem se importa com o pensamento racional quando pode, ao inv�s dele, contar com um fetiche exponencial extra-humano? Mas poder de processamento n�o � a �nica coisa que cresce notavelmente; o mesmo acontece com os problemas que os processadores precisam resolver.

Aqui est� um exemplo que ofere�o como ilustra��o deste ponto para aqueles que n�o pertencem � �rea t�cnica. H� dez anos atr�s eu tinha um laptop com um programa de cataloga��o que me permitia pesquisar os arquivos por conte�do. Para que ele respondesse com velocidade suficiente cada vez que eu solicitasse uma pesquisa, o programa repassava todos os arquivos antecipadamente e os catalogava, do mesmo modo que sistemas de busca como o Google catalogam a internet hoje. O processo de cataloga��o durava cerca de uma hora.

Hoje eu possuo um laptop com capacidade de armazenamento imensamente superior, e mais veloz em todos os aspectos, como previsto pela Lei de Moore. Entretanto, agora eu preciso deixar meu programa de cataloga��o rodando noite adentro para que ele execute seu trabalho. H� muitos outros exemplos de computadores aparentando estarem mais lentos, mesmo que seus processadores centrais estejam ficando mais velozes. As interfaces do usu�rio nos computadores tendem a responder hoje mais lentamente a eventos de interface, como uma tecla pressionada, do que h� quinze anos atr�s, por exemplo. O que deu errado?

A resposta � complicada.

Uma parte da resposta � fundamental. Acontece que quando os programas e bancos de dados ficam maiores (e as crescentes capacidades de armazenamento e transmiss�o s�o governadas pelos mesmos processos que governam a acelera��o exponencial de Moore), os custos indiretos10 (overhead) de atividade computacional interna com freq��ncia aumentam num ritmo mais do que linear. Isso acontece por causa de alguns desagrad�veis fatos matem�ticos da vida, relacionados aos algoritmos. Duplicar o tamanho de um problema geralmente faz com que ele exija bem mais do que o dobro de tempo para ser solucionado. Alguns algoritmos s�o piores nesse sentido do que outros, e um dos aspectos para a obten��o de uma s�lida educa��o acad�mica de n�vel b�sico em ci�ncia da computa��o � aprender sobre eles. Muitos problemas apresentam custos indiretos que variam numa escala ainda mais abrupta do que a Lei de Moore. E poucos dos algoritmos mais essenciais, surpreendentemente, apresentam custos indiretos que variem numa escala meramente linear.

Mas este � apenas o come�o da hist�ria. Tamb�m � verdade que se diferentes partes de um sistema se escalonam em diferentes graus - e em geral � esse o caso - uma parte pode ser subjugada pela outra. No caso do meu programa de cataloga��o, o tamanho dos discos r�gidos acabou crescendo mais r�pido do que a velocidade de suas interfaces. Os custos indiretos podem ser amplificados por tais exemplos de escalonamento "bagun�ado", onde uma parte de um sistema n�o consegue acompanhar outra. Surge um engarrafamento (bottleneck), semelhante a um entroncamento paralisado numa rodovia mal projetada. O resultado � t�o desagrad�vel quanto ir ao trabalho pela manh� num sistema de ruas tipicamente inadequado. E � igualmente complicado e caro de planejar e prevenir. (Dirigir nas ruas de Manhattan era mais r�pido h� cem anos atr�s do que � hoje. Cavalos s�o mais velozes do que carros).

E ent�o chegamos � nossa velha antagonista, a fragilidade. Quanto maior o peda�o de computador que o programa abocanha, maior � a chance dele ser dominado por alguma forma de legado de c�digo, e mais brutal se torna o custo indireto provocado pelo endere�amento dos inacab�veis exemplos de s�bita incompatibilidade, que surgem inevitavelmente entre blocos de software criados originalmente em contextos diferentes.

E ainda al�m desses efeitos h� falhas de car�ter humano que agravam a situa��o do software, e muitas delas s�o sistem�ticas e poderiam aparecer inclusive se agentes n�o-humanos estivessem escrevendo o c�digo. Por exemplo, � muito demorado e caro o planejamento antecipado com o objetivo de facilitar a tarefa de futuros programadores, de modo que cada programador tende a optar por estrat�gias que acentuam os efeitos da fragilidade. O aperto de tempo enfrentado pelos programadores � provocado por nada menos que a Lei de Moore, que motiva um ciclo cada vez mais veloz de revis�es do c�digo dos programas, com o objetivo de extrair ao menos alguma forma de vantagem do aumento da velocidade de processamento. Por isso o resultado � muitas vezes um programa que fica menos eficiente em alguns aspectos, mesmo que os processadores fiquem mais velozes.

Eu n�o vejo nenhuma indica��o de que a Lei de Moore seja fulminante o suficiente para ultrapassar todos esses problemas sem o implemento de fa�anhas intelectuais ainda por acontecer.

Um aspecto fundamental da quest�o que estou examinando aqui � saber se os programas de computador tendem a ser dif�ceis de manejar apenas devido ao erro humano, ou se essa dificuldade � intr�nseca � natureza do pr�prio software. Se h� qualquer credibilidade em todos os cen�rios escatol�gicos de Kurtzweil, Drexler, Moravec e outros, ent�o esta � a mais urgente das perguntas relacionadas ao futuro da humanidade.

H� pelo menos algum apoio metaf�rico para a possibilidade de que a dificuldade de manejo do software seja intr�nseca. Para examinar essa possibilidade eu terei que quebrar minha pr�pria regra e ser um totalitarista cibern�tico por um momento.

A natureza aparenta ser um pouco menos quebradi�a do que o software digital, mas se as esp�cies forem pensadas como "programas", ent�o parece que a Natureza tamb�m vive uma crise do software. A pr�pria evolu��o evoluiu, introduzindo o sexo, por exemplo, mas a evolu��o nunca encontrou uma forma de escapar � lentid�o. Isso pode ocorrer em parte porque leva bastante tempo para explorar o total das varia��es poss�veis de um complexo causal excessivamente vasto e complexo, em busca de novas configura��es que sejam vi�veis. A lentid�o da evolu��o natural como meio de transforma��o � aparentemente sistem�tica, em vez de resultante de alguma vagarosidade inerente a suas partes componentes. Por outro lado, a adapta��o � capaz de atingir velocidades sensacionais, em circunst�ncias definidas. Um exemplo de r�pida muta��o � a adapta��o dos germes aos nossos esfor�os de erradic�-los. Resist�ncia a antibi�ticos � um famoso exemplo contempor�neo de velocidade biol�gica.

Tanto os programas de computador criados pelo homem quanto a sele��o natural parecem originar hierarquias de camadas que variam em seu potencial de muta��o r�pida. Camadas de mudan�a lenta protegem cen�rios locais, dentro dos quais existe potencial de mudan�a mais r�pido. Nos computadores, essa � a divis�o entre sistemas operacionais e aplicativos, ou entre navegadores (browsers) e p�ginas de internet. Na biologia, ela pode ser encontrada, por exemplo, na divis�o entre as din�micas natural e ambiental que dominam a mente humana. Mas s�o as camadas mais lentas que habitualmente parecem definir as caracter�sticas e potencial gerais de um sistema.

Na cabe�a de alguns de meus colegas, tudo que voc� precisa fazer � identificar em um sistema cibern�tico uma camada capaz de muta��o r�pida, e aguardar que a Lei de Moore aplique sua m�gica. Por exemplo, mesmo que voc� esteja preso ao LINUX, voc� pode implementar nele um programa de rede neural que eventualmente fique grande e r�pido o suficiente (por causa da Lei de Moore) para alcan�ar um instante de ilumina��o e reescrever seu pr�prio sistema operacional. O problema � que em todos os exemplos que conhecemos, uma camada que pode se transformar velozmente n�o consegue se transformar muito. Os germes podem se adaptar a novas drogas rapidamente, mas ainda assim levariam muito tempo para evoluir em corujas. Isso pode ser uma compensa��o inerente. Como exemplo no mundo digital, voc� pode escrever uma nova rotina JAVA rapidamente, mas ela n�o vai ficar muito diferente das demais rotinas rapidamente escritas - d� uma olhada no que tem sido feito com rotinas JAVA e ver� que isso � verdade.

E finalmente chegamos �...

Cren�a #6, o cataclisma cibern�tico que se aproxima.

Quando uma pessoa ponderada maravilha-se diante da Lei de Moore, o resultado pode ser estupefa��o e terror. Uma vers�o do Terror foi expressada recentemente por Bill Joy, numa mat�ria de capa para a revista Wired. Bill concorda com os pronunciamentos de Ray Kurtzweil e outros, que acreditam que a Lei de Moore resultar� em m�quinas aut�nomas, quem sabe nas proximidades do ano 2020. Esse � o momento em que os computadores se tornar�o, de acordo com algumas estimativas, t�o poderosos quanto c�rebros humanos. (N�o que algu�m j� tenha conhecimento suficiente para realmente avaliar c�rebros em compara��o a computadores. Mas em nome da argumenta��o, vamos supor que h� algum sentido nessa compara��o.) De acordo com esse cen�rio de terror, os computadores n�o estar�o confinados dentro de caixas. Ser�o mais como rob�s, conectados entre si pela rede, e capazes de um bom n�mero de truques.

Eles ser�o capazes de realizar nano-fabrica��o, pra come�ar. Aprender�o rapidamente a reproduzir e aprimorar a si mesmos. Um belo dia, sem nenhum aviso, as novas super-m�quinas v�o varrer a humanidade pro canto, t�o naturalmente quanto os humanos derrubam uma floresta para um novo empreendimento. Ou, quem sabe, as m�quinas v�o manter os humanos por perto, como objeto das indignidades retratadas no filme Matrix.

Mesmo que as m�quinas optem, no outro caso, por preservar seus progenitores humanos, indiv�duos perniciosos ter�o a chance de manipular as m�quinas para infligir um grande mal sobre o resto de n�s. � um cen�rio diferente, que Bill tamb�m explora. A biotecnologia ter� avan�ado ao ponto em que programas de computador poder�o manipular o DNA como se fosse Javascript. Se computadores podem calcular o efeito de drogas, modifica��es gen�ticas e outros conluios biol�gicos, e se as ferramentas para realizar essas maquina��es s�o baratas, ent�o tudo que falta � um maluco para, digamos, criar uma epidemia direcionada a uma �nica ra�a. A biotecnologia tomada isoladamente, sem o apoio de um componente barato e poderoso de tecnologia da informa��o, n�o seria potente o suficiente para tornar real este cen�rio. Ao inv�s disso, a raiz dessa vers�o do Terror est� na habilidade de rodar programas em computadores com velocidade fabulosa, para modelar e controlar a manipula��o da biologia. N�o foi poss�vel transmitir a �ntegra das preocupa��es de Bill nesta breve explana��o, mas d� pra pegar a id�ia.

Minha vers�o do Terror � diferente. J� podemos verificar o modo como a ind�stria da biotecnologia est� se preparando para enfrentar d�cadas de dispendiosos problemas de software. Embora haja todo tipo de bancos de dados �teis e pacotes de modelagem sendo desenvolvidos por firmas e laborat�rios biotecnol�gicos, todos eles est�o em bolhas de desenvolvimento isoladas. Cada uma dessas ferramentas espera que o mundo suporte seus requisitos. J� que as ferramentas s�o muito valiosas, o mundo vai fazer exatamente isso, mas podemos prever vastas quantidades de recursos sendo aplicados no problema de permitir que os dados transitem de uma bolha para a outra. N�o h� um c�rebro eletr�nico gigante, monol�tico, sendo criado com o conhecimento biol�gico. H�, em lugar disso, uma confus�o fragmentada de dados e feudos11 de modelagem. O meio para a transfer�ncia de dados biol�gicos continuar� sendo composto de pesquisadores, indiv�duos humanos privados de seu sono, at� um imagin�rio momento do futuro onde saberemos como fazer um programa capaz de conectar as bolhas por si pr�prio.

Como � um cen�rio a longo prazo no qual o hardware fica cada vez melhor e o software permanece med�ocre? O lado bom do software vagabundo � a quantidade de emprego que ele gera. Se a Lei de Moore se sustentar por mais vinte ou trinta anos, n�o apenas vai haver uma enorme quantidade de inform�tica funcionando no planeta Terra, mas a manuten��o dessa inform�tica consumir� os esfor�os da quase todas as pessoas vivas. Estamos falando do planeta dos profissionais de suporte t�cnico.

Em outra oportunidade, eu demonstrei que esse mundo futuro seria uma �tima coisa, realizando o sonho socialista do pleno emprego atrav�s de meios capitalistas. Mas vamos considerar o lado negativo.

Entre os diversos processos que os sistemas de informa��o tornam mais eficientes est� o processo do pr�prio capitalismo. Um ambiente econ�mico praticamente sem atritos permite a acumula��o de fortunas em alguns meses, ao inv�s de algumas d�cadas, mas a dura��o da vida dos indiv�duos que est�o acumulando ainda � a mesma. � at� maior, na verdade. Portanto, os indiv�duos h�beis em enriquecer t�m a chance de ficar mais ricos at� o dia de sua morte do que tinham seus antepassados de mesmo talento.

H� dois perigos nisso. O menor e mais imediato perigo � o de que a juventude, aclimatada a um ambiente econ�mico delirantemente receptivo, fique emocionalmente abalada com o que o resto de n�s considera como ligeiros retornos � normalidade. �s vezes eu me pergunto se alguns dos estudantes com quem trabalho, que enriqueceram com empresas "pontocom", seriam capazes de lidar com qualquer esp�cie de frustra��o financeira durando mais do que uns poucos dias, sem se entregar a algum tipo de depress�o ou raiva destrutiva.

O maior perigo � que o abismo entre os ricos e o resto do mundo atinja uma gravidade transcendental. Ou seja, mesmo que concordemos que uma mar� alta eleva todos os navios, se o grau de eleva��o dos navios mais altos � maior do que o dos mais baixos, eles ficar�o ainda mais separados entre si. (E, de fato, as concentra��es de riqueza e pobreza aumentaram durante os anos de explos�o da internet nos Estados Unidos).

Se a Lei de Moore, ou algo parecido com ela, est� dando as cartas, a escala de separa��o pode tornar-se assombrosa. � a� que reside o meu Terror, na imagem do desfecho da crescente divis�o entre os ultra-ricos e os meramente ricos.

Com a tecnologia existente hoje, os ricos n�o s�o muito diferentes de todo o resto: ambos sangram quando perfurados, para um exemplo cl�ssico. Mas com a tecnologia dos pr�ximos vinte ou trinta anos, eles podem ficar realmente bastante diferentes entre si. Ser� que os ultra-ricos e os demais ser�o sequer reconhecidos como a mesma esp�cie l� pela metade deste novo s�culo?

As possibilidades de que eles se tornem esp�cies essencialmente diferentes s�o t�o �bvias e aterrorizantes que beira o banal declar�-las. Os ricos poderiam, atrav�s da gen�tica, fazer suas crian�as serem mais inteligentes, belas, entusiasmadas. Talvez elas pudessem, inclusive, ser geneticamente arranjadas para apresentar uma capacidade superior de empatia, mas apenas em rela��o a outras pessoas que se encaixem numa estreita faixa de crit�rios. O simples ato de enunciar isso parece me rebaixar, como se eu estivesse escrevendo literatura de fic��o barata, e ainda assim a l�gica dessa possibilidade � inevit�vel.

Vamos explorar apenas uma possibilidade, para fins de argumenta��o. Um dia os mais ricos entre n�s poderiam ficar quase imortais, tornando-se Deuses virtuais para o resto. (Uma aparente aus�ncia de envelhecimento, tanto em culturas de c�lulas quando em organismos inteiros, j� foi demonstrada em laborat�rio.)

N�o vamos focalizar aqui as quest�es fundamentais da quase-imortalidade, se ela � moral ou at� mesmo desej�vel, ou se haveria espa�o suficiente caso imortais insistissem em continuar gerando filhos. Vamos, ao inv�s disso, focalizar outra quest�o: se � ou n�o prov�vel que a imortalidade tenha um pre�o elevado.

Meu chute � de que a imortalidade ser� barata se a tecnologia da informa��o for bastante aprimorada, e cara se os programas de computador permanecerem toscos como s�o atualmente.

Eu suspeito que a dicotomia hardware/software reaparecer� na biotecnologia, e mesmo em outras tecnologias do s�culo 21. Pode-se pensar a biotecnologia como uma tentativa de transformar a carne em um computador, no sentido de que a biotecnologia almeja controlar os processos biol�gicos em profundidade cada vez maior, alcan�ando um horizonte long�nquo de controle perfeito. A nanotecnologia espera fazer o mesmo em rela��o � ci�ncia dos materiais. Se o corpo e o mundo material como um todo forem mais manipul�veis, mais semelhantes � mem�ria de um computador, ent�o o fator limitante ser� a qualidade do programa que governa a manipula��o.

Embora seja poss�vel programar um computador para fazer virtualmente qualquer coisa, todos sabemos que essa n�o � uma descri��o suficiente dos computadores. Como afirmei acima: Fazer com que computadores realizem tarefas espec�ficas de complexidade significativa, de maneira confi�vel por�m modific�vel, sem travamentos ou falhas de seguran�a, � essencialmente imposs�vel. Podemos apenas nos aproximar desse objetivo, e sempre com um custo alto.

Da mesma maneira, pode-se em hip�tese programar o DNA para fazer virtualmente qualquer modifica��o num ser vivo, mas projetar uma modifica��o em particular e verific�-la de forma completa tende continuar sendo uma imensa dificuldade. (E, como declarei acima, essa pode ser a raz�o definitiva que explique por que a evolu��o biol�gica nunca conseguiu deixar de agir com extrema lentid�o). Igualmente, pode-se em hip�tese usar a nanotecnologia para conseguir que a mat�ria fa�a quase qualquer coisa conceb�vel, mas provavelmente ser� mais dif�cil do que imaginamos conseguir com que ela fa�a algo complexo em particular sem efeitos colaterais perturbadores. Cen�rios que prev�em que a biotecnologia e a nanotecnologia ser�o capazes de criar novidades espantosas sob o sol, de forma r�pida e barata, precisam tamb�m imaginar que os computadores se tornar�o engenheiros virtuosos, aut�nomos e super-inteligentes. Mas isso n�o acontecer�, se a �ltima metade de s�culo de progresso no software servir como indicativo para a pr�xima metade.

Em outras palavras, o software de m� qualidade tornar� as cis�es biol�gicas como a quase-imortalidade caras, ao inv�s de baratas, no futuro. Mesmo que todo o resto fique mais barato, a parte da tecnologia da informa��o nesse esfor�o ficar� mais cara.

Quase-imortalidade a baixo custo para todos � uma proposi��o insustent�vel. N�o h� espa�o f�sico suficiente para acomodar tal aventura. Inclusive, superficialmente falando, se a imortalidade ficasse barata, o mesmo ocorreria com as hediondas armas biol�gicas do cen�rio de Bill. Por outro lado, quase-imortalidade a altos custos � algo que o mundo poderia absorver, pelo menos por algum tempo, porque haveria menos pessoas envolvidas. Talvez elas pudessem at� manter o fato em segredo.

Aqui est�, portanto, a ironia. Os mesmos atributos dos computadores que nos tiram do s�rio hoje em dia, e mant�m tantos de n�s proveitosamente empregados, s�o a melhor garantia de sobreviv�ncia a longo prazo que nossa esp�cie possui, enquanto exploramos os confins das possibilidades tecnol�gicas. Por outro lado, essas mesmas qualidades s�o o que pode transformar o s�culo 21 num manic�mio pautado pelas fantasias e aspira��es desesperadas dos ultra-ricos.

Conclus�o

Eu acompanho meus colegas totalitaristas cibern�ticos na cren�a de que haver� s�bitas e enormes mudan�as trazidas pela tecnologia num futuro pr�ximo. A diferen�a � que acredito que os acontecimentos, seja l� quais forem, ser�o responsabilidade de indiv�duos que fazem coisas espec�ficas. Acho que tratar a tecnologia como se ela fosse aut�noma � a mais auto-realiz�vel das profecias. N�o h� diferen�a entre autonomia mec�nica e a abdica��o da responsabilidade humana.

Vamos considerar o cen�rio do "dom�nio dos nano-rob�s". Parece-me que os cen�rios mais plaus�veis envolvem um entre os seguintes:

a) Super nano-rob�s por tudo, rodando software antigo - LINUX, digamos. Isso pode ser interessante. De qualquer forma, teremos com certeza �timos videogames.

b) Super nano-rob�s que evoluem t�o r�pido quanto os nano-rob�s da natureza - ou seja, n�o fariam muita coisa antes de um milh�o de anos.

c) Super nano-rob�s capazes de coisas novas dentro em breve, por�m dependentes dos humanos. Em todos os casos como esse, os humanos estar�o no controle, pro bem ou pro mal.

Portanto, a partir de agora, vou me preocupar mais com o futuro da cultura humana do que com as engenhocas. E o que me preocupa no temperamento cultural de Jovem Turco12 verificado nos totalitaristas cibern�ticos � que eles n�o parecem terem sido educados na tradi��o do ceticismo cient�fico. Compreendo por que eles est�o intoxicados. H�, de fato uma simples e atraente l�gica por tr�s de seu pensamento, e a eleg�ncia de racioc�nio � contagiosa.

H� chances concretas de que a psicologia evolucionista, a intelig�ncia artificial, a fetichiza��o da Lei de Moore, e todo o resto do pacote, triunfem com a mesma for�a que Freud ou Marx triunfaram em suas �pocas. Ou com mais for�a ainda, uma vez que essas id�ias podem vir a ser incorporadas como parte essencial nos programas de computador que fazem funcionar nossa sociedade e nossas vidas. Se isso acontecer, a ideologia dos intelectuais do totalitarismo cibern�tico ser� catapultada, de uma inova��o para o estado de uma for�a capaz de provocar sofrimento em milh�es de pessoas.

O maior crime do marxismo n�o foi simplesmente o fato de que muito do que ele afirmou era falso, mas sim o pressuposto de que ele era o caminho �nico e completo para a compreens�o da vida e da realidade. A escatologia cibern�tica possui, como em algumas das mais nocivas ideologias da hist�ria, uma doutrina de predestina��o hist�rica. N�o existe nada mais cinzento, decadente e sombrio do que uma vida levada dentro dos limites de uma teoria. Esperemos que os totalitaristas cibern�ticos aprendam algo sobre humildade antes que chegue o seu lugar ao sol.

Traduzido por Daniel Galera