Quem aprende com quem, o homem ou a máquina?

Em Tempos Modernos, de 1936, Charles Chaplin protagoniza uma cena célebre do cinema. Diante de uma esteira de produção cada vez mais veloz, Carlitos aperta parafusos sem parar, tentando acompanhar o ritmo da máquina. Em determinado momento, é literalmente engolido pelas engrenagens.

A cena provoca riso, mas talvez tenha atravessado tantas décadas porque nunca foi apenas engraçada. A máquina havia sido criada para servir ao homem; ali, porém, era o homem que precisava ajustar seus movimentos ao ritmo dela.

A máquina também pode ser bela

No capítulo “A Beleza das Máquinas”, de História da Beleza, Umberto Eco propõe uma noção ampla de máquina. Chama-a de “prótese”: um construto artificial que prolonga e amplia as possibilidades do nosso corpo. Nessa perspectiva, sua história vai da pedra lascada à roda, dos óculos à luneta e chega aos objetos mais banais.

A máquina esteve conosco muito antes de ganhar motores, fios ou telas. O olhar que lançamos sobre ela também mudou.

Claude Monet registrou um desses olhares em A Gare Saint-Lazare, de 1877. Locomotivas, ferro, fumaça e vapor entram na pintura envolvidos por luz e movimento. A nova paisagem também despertava encantamento.

Chaplin mostraria outra face. A máquina podia fascinar e, ao mesmo tempo, exigir novas formas de adaptação.

Quando a máquina entra na vida

Em 1909, E. M. Forster publicou The Machine Stops. No conto, seres humanos vivem isolados em compartimentos e dependem de uma grande Máquina para quase tudo. Por meio dela conversam, recebem informações, ouvem música, assistem a palestras.

Mais de um século depois, algumas situações parecem familiares. Mas a percepção mais interessante em Forster talvez esteja menos na antecipação tecnológica do que na relação entre comodidade, mediação e dependência.

Chaplin mostrou o homem tentando acompanhar a máquina. Forster imaginou algo ainda mais radical: um homem que já não sabia viver sem ela. Quarenta anos depois, George Orwell acrescentaria em 1984 a vigilância do Grande Irmão.

Olhar e ser olhado

Em TV Buddha, de 1974, Nam June Paik colocou uma escultura de Buda diante de uma televisão. Uma câmera transmite, em tempo real, sua imagem para a tela. Forma-se um circuito curioso: o Buda contempla uma imagem de si mesmo gerada naquele instante pela câmera. Passado e presente, contemplação e tecnologia, observador e observado ficam frente a frente.

A máquina já não está apenas diante do homem para ser usada ou admirada; devolve-lhe uma imagem de si próprio.

Agora ela aprende conosco

Essas imagens me voltaram à memória durante o curso A Era Tech: O Poder e a Influência da Tecnologia, de Diogo Cortiz. Entre os temas estão o capitalismo de vigilância e a capacidade de certas tecnologias de aprender com nosso comportamento.

Meio século depois de TV Buddha, o jogo entre olhar e ser olhado tornou-se mais complexo. Muitos dos sistemas que usamos não apenas nos mostram algo; enquanto os utilizamos, recolhem informações sobre o que fazemos.

Depois de ouvirmos certas músicas, uma plataforma nos recomenda outras que provavelmente nos agradarão. Uma loja virtual apresenta produtos semelhantes aos pesquisados. Serviços de streaming selecionam o que provavelmente despertará nosso interesse.

Nada disso é necessariamente incômodo. Muitas recomendações são úteis, economizam tempo e nos ajudam a encontrar o que talvez nem soubéssemos procurar. Para ajustá-las, porém, esses sistemas se valem de informações sobre nossas escolhas e hábitos.

É nesse ponto que Shoshana Zuboff, em A Era do Capitalismo da Vigilância, acrescenta outra dimensão à discussão. Rastros de nossas ações podem se transformar em dados usados para fazer previsões e, em certas circunstâncias, favorecer determinadas escolhas.

Conhecer. Prever. Influenciar

Isso não significa que tenhamos deixado de escolher por nós mesmos, nem que toda recomendação seja manipulação. A questão é mais sutil. Diz respeito à autonomia.

E a nossa autonomia?

Nesse sentido, autonomia é a capacidade de orientar a própria conduta segundo razões, valores e escolhas que reconhecemos como nossos. Não significa viver sem influência externa. Família, cultura, publicidade, amigos, educação e hábitos sempre participaram de nossas decisões.

A diferença está em conservar espaço para refletir, escolher, recusar, mudar de ideia e compreender, ao menos em parte, por que estamos escolhendo.

Um amigo que recomenda um restaurante nos influencia, e sabemos disso. Nos sistemas digitais, essa influência pode ser menos perceptível. Nem sempre sabemos por que certa notícia apareceu primeiro ou por que determinado vídeo nos foi oferecido. Até que ponto continuamos percebendo as influências que participam de nossas escolhas?

Ao longo do tempo, construímos máquinas para ampliar capacidades, adaptamo-nos a elas e passamos a viver cada vez mais por meio delas. Agora, em certas situações, elas também aprendem conosco.

Talvez a pergunta já não seja apenas o que podemos fazer com as máquinas, mas o que muda em nossas escolhas quando elas passam também a saber alguma coisa sobre nós.