O artista norte-americano Trevor Paglen está prestes a colocar em órbita um refletor gigante no formato de um diamante, a primeira obra de arte que poderá ser vista por quase todo o planeta. “Será visível a olho nu como se fosse uma lenta estrela cadente, tão grande quanto uma estrela da constelação Ursa Maior”, comenta Paglen.

Este é apenas o mais recente trabalho de Paglen, que tem se dedicado a questionar os limites da relação entre sistemas de produção de imagens computadorizados por meio da arte. O artista foi o vencedor do importante prêmio Deutsche Börse de fotografia em 2016, com um trabalho composto por imagens de áreas militares e governamentais restritas, rastros de drones nos céus e sistemas de vigilância remota. Plagen diz que hoje, “com a utilização de machine learning e inteligência artificial, alguns sistemas de visualização – encontrados em carros autodirigidos, no controle de qualidade de linhas de manufatura ou até mesmo em um míssil teleguiado – podem olhar autonomamente para informações visuais e executar uma espécie de interpretação”.

Em entrevista para ZUM, o artista conversou com os pesquisadores Bruno Zorzal e Gabriel Menotti e aponta riscos, dilemas e desafios para artistas audiovisuais nestes tempos de onipresença de dispositivos produtores de imagens.

 

Você se notabilizou por fazer um trabalho de contra-vigilância do aparato estatal, no caso, o militar, levando as práticas fotográficas a extremos para mostrar as estruturas complexas que estão por trás do nosso limiar de visibilidade. Seus projetos mais recentes, no entanto, parecem ocupar cada vez mais o lugar dessas estruturas e tentar enxergar como elas. Essa mudança reflete uma transformação maior nas tecnologias globais de vigilância e controle?

Trevor Paglen: Sim. Se pensarmos na minha trajetória de trabalho, formalmente essa diferença aparece. Essas abordagens fazem parte de uma investigação muito parecida, que pretende entender as paisagens do século 21. Em uma escala planetária, as mais importantes invenções em sistemas globais de telecomunicações e computação são o aprendizado por máquinas (machine learning) e a inteligência artificial. Ambas têm a habilidade de não apenas processar quantidades gigantescas de dados, como também de coletar e interpretar de maneira autônoma essas quantidades gigantescas de dados. E isso se estende a imagens, criando algo inédito na nossa relação com elas: não é mais necessário um ser humano para olhar e entender as imagens. Isso tudo é muito recente.

Hoje, com a utilização de machine learning e inteligência artificial, alguns sistemas de visualização – encontrados em carros autodirigidos, no controle de qualidade de linhas de manufatura ou até mesmo em um míssil teleguiado – podem olhar autonomamente para informações visuais e executar uma espécie de interpretação. O carro autodirigido, por exemplo, na verdade coleta centenas de fotografias por segundo e as interpreta para navegar. Mas isso também acontece quando você publica uma foto em uma plataforma como Facebook ou Google. Seus amigos podem vê-la e dar um like ou algo do gênero, mas por trás da interface elas são analisadas por poderosos sistemas de inteligência artificial que tentam entender seu estilo de vida. Quem é você, com quem você se relaciona, que tipo de produtos tem em casa, que tipo de roupa veste etc. As próprias imagens podem ser usadas como parte de uma infraestrutura maior que coleta informações sobre as pessoas. Isso é muito novo.

Acredita que as redes sociais estejam tomando o lugar dessa paisagem do século 21? Seu trabalho mais recente exposto na galeria Metro Pictures é composto basicamente de retratos, talvez por conta dos dados e algoritmos mais facilmente disponíveis para se trabalhar. Ou talvez o corpo seja parte dessa paisagem? Pode desenvolver melhor esse conceito de paisagem?

TP: Os conceitos de retrato e paisagem são bastante embaçados atualmente. Alguém poderia dizer que os softwares de reconhecimento facial estão ligados à história do retratismo, outro argumentar que fazem parte da história do paisagismo. Mas não sei se essas distinções fazem muito sentido. Na verdade, estamos falando de sistemas sensíveis ou de como as máquinas leem o mundo, e do que chamo de imagens invisíveis, aquelas que máquinas fazem para outras máquinas ou para elas mesmas, não necessariamente visíveis para os humanos. Um exemplo seria a assinatura visual de um rosto, que um software de reconhecimento facial pode usar para tentar identificar alguém.

A respeito da ideia de imagens invisíveis, você escreveu que “a imensa maioria das imagens é feita por máquinas para outras máquinas, com humanos raramente envolvidos”. Quais os problemas decorrentes disso?

TP: Muitos problemas! Uma das diferenças fundamentais entre como os humanos e as máquinas vêem é que os humanos reinterpretam constantemente os significados das imagens. Há uma flexibilidade enorme em como entendemos o que uma imagem em particular significa. Tenho pensando muito em artistas como Magritte, autor de uma pintura que diz “Isto não é um cachimbo”. Ele destaca o fato de que, ao olharmos uma imagem, nunca temos certeza de qual é o significado dela. E isso não é verdade para as máquinas. Elas só conseguem ver de maneira muito rígida, são incapazes de reinterpretar a mesma imagem de formas diferentes. Então, ao desenvolver um algoritmo de inteligência artificial, quem quer que esteja programando esse sistema define o significado do fenômeno que a máquina enxerga. Se levarmos essa lógica adiante, concluiremos que se trata de um verdadeiro caso de consolidação de poder. São engenheiros específicos de empresas específicas que decidem o que nossas imagens significam, e fazem isso de uma forma que, em grande medida, é invisível para nós. Sendo assim, há alguns pontos que me preocupam. Um deles é essa concentração de poder na decisão do que as imagens significam.

Mas há também outra questão sobre esse ponto, que é “consertar” significados de imagens. Por exemplo: se olhamos para retratos com a intenção de determinar qual o gênero das pessoas (e existem softwares que tentam determinar o gênero de alguém apenas com a informação visual), normalmente só é possível ser homem ou mulher, é uma escolha fechada. Nessa escala, você até pode ser 100% masculino ou feminino, ou mesmo pode estar em algum lugar no meio, mas são categorias fixas. E claramente vivemos em uma sociedade onde há pessoas pensando no futuro de construções de gênero, que não estejam organizados em torno de escolhas binárias como homem ou mulher. É precisamente o tipo de coisa que sistemas autônomos de reconhecimento facial não conseguem fazer.

Podemos entender esse regime puramente computacional de imagens, a “visão máquina-para-máquina”, de alguma outra forma? Isto é, podemos postular algo parecido com uma fruição estética para espectadores artificiais presentes ou futuros? Nesse caso, como os agentes humanos devem lidar com os gostos visuais do computador?

TP: É uma questão muito interessante. A estética humana é muito diferente da estética da máquina. Em alguns dos trabalhos na Metro Pictures, brinquei com algoritmos de inteligência artificial para construir imagens. Basicamente, tentei criar algoritmos que pudessem ver usando diferentes tipos de lógica, diferente daquilo que você construiria se fosse um engenheiro. Por exemplo, construí um algoritmo que só enxerga presságios e agouros, sinais de uma catástrofe iminente. E outro chamado A interpretação dos sonhos, que só entende imagens de psicanálise freudiana, o que parece uma coisa bastante irracional de se fazer. Dentro de uma lógica da máquina, isso é totalmente irracional. E esse é o meu ponto, na verdade. Categorias de significados como “presságios e agouros” ou “interpretações dos sonhos” historicamente formaram muito de como os humanos entendem o mundo ao seu redor. E esse é mais um exemplo do que uma máquina não consegue fazer.

Mas o regime estético que surge da visão das máquinas é muito interessante. Se, por um lado, quando atentamos para o tipo de formas de ver que um algoritmo de inteligência artificial usa, podemos caracterizá-lo como sinistro, por outro, ao olharmos para o aspecto formal, o resultado parece ao mesmo tempo familiar e estranho. É uma estética meio surrealista, com uma lógica que até somos capazes de entender, mas que responde de maneira estranha ao senso comum. No entanto, é apenas uma categoria estética. Não há nada de místico nisso, nada que pretenda se colocar como um “superfuturo da inteligência artificial”. Estamos simplesmente olhando para a forma lógica de sistemas de visualização por máquinas, que nos afetam esteticamente porque cria imagens distorcidas e muito estranhas aos nossos olhos. Mas não há nada de sobrenatural nisso.

A exploração artística da visão computacional cresceu nos últimos anos sob a ampla categoria de new aesthetics. Como vê a interação entre esse tipo de uso e a pesquisa acadêmica na área? Quais vantagens um pode trazer para o outro?

TP: Trabalho com várias pessoas que estudam a ética da visão por máquinas, inteligência artificial e novas maneiras de produção de imagens. Acredito que produtores de imagem e artistas podem contribuir para a discussão. Por exemplo, um entendimento aprofundado de como os humanos historicamente tem interagido com imagens e extraído significados delas. E o consequente gap entre isso e como as máquinas constroem significados a partir das imagens. Na exposição Um estudo sobre imagens invisíveis (Nova York, 2017), tentei criar imagens usando ferramentas computadorizadas que contradissessem sua própria lógica, como redes neurais que vissem presságios e agouros ou interpretassem os sonhos. Pretendia fazer uma espécie de comentário poético – ou ao menos literário – sobre as próprias ferramentas, algo que pessoas de outras áreas não teriam habilidade de fazer.

Alguns trabalhos da exposição Um estudo sobre imagens invisíveis sugerem uma genealogia da visão computacional a partir do uso da fotografia como sistema de identificação e gestão de populações, o que lembra o trabalho enciclopédico de Eadweard Muybridge. Acredita que a tecnologia poderia ter seguido, ou talvez ainda possa seguir, outro caminho?

TP: Muybridge (1830-1904) é certamente um dos predecessores, como também seria Francis Galton (1822-1911), no uso de imagens para capturar a essência das pessoas. Hoje sabemos que isso não é científico, mas uma espécie de epistemologia racista. E observamos o ressurgimento dessa lógica com empresas construindo softwares para descobrir se você é ou não criminoso, se é ou não gay, só de olhar para o seu rosto. Esse pensamento tem ressurgido neste momento de expansão da inteligência artificial e do machine learning. Por seu histórico racista e violento, devemos prestar muita atenção nele.

Como acha que a incorporação dessas tecnologias por aparelhos de uso cotidiano, como a capacidade de reconhecimento facial de alguns modelos novos de celulares, afetará nossa geografia visual? Que tipos de rearranjos territoriais, urbanos ou arquitetônicos podemos esperar?

TP: Nas aplicações de sistemas visuais de computação, existe uma lógica formal específica, o que eles podem ver e qual tipo de interpretação podem ou não realizar. Mas o que precisamos entender sobre esses sistemas é que, no fundo, são usados a serviço do poder. Tipicamente, servem a três tipos de poder: o militar, com suas tecnologias de mísseis teleguiados; o mercado, que tenta extrair dados de suas imagens com o objetivo de lhe vender algo ou obter informações sobre a sua capacidade de crédito; e o poder policial ou das “forças da lei”, como uma câmera que vê se você furou um sinal vermelho ou está dirigindo acima do limite de velocidade.

O alcance desses sistemas se estende cada dia mais em nossa vida cotidiana. Se você tem um iPhone, por exemplo, e vai a um bar, fica quatro horas e depois volta dirigindo para casa, a Apple sabe que fez isso, rastreando a localização do seu telefone. É totalmente possível que alguém construa um sistema para avisar automaticamente a polícia toda vez que for publicada em alguma rede social uma foto de um menor de idade bebendo cerveja ou de alguém fazendo qualquer outra contravenção. Pequenos momentos de nossas vidas, que antes não estavam sujeitos a uma inspeção tão próxima pelo mercado, pelos militares ou pela polícia, estão cada dia mais sob o escrutínio desses sistemas. E a isso se junta o fato de que vivemos em uma sociedade que nos incentiva enormemente à conformidade.

E que tipo de mudanças no comportamento humano do dia-a-dia você observa em reposta a esse aumento da presença de máquinas visuais autônomas?

TP: Estamos apenas no início de tudo isso. O risco é de vivermos em uma sociedade com cada vez menos liberdade, porque muito de nossas vidas poderia ser vigiado de maneira automatizada. E por vigiada, não quero dizer que seja necessariamente pelo Estado, mas também por empresas e por forças policiais ou militares.

E alguém já escapou dessa vigilância de forma eficiente?

TP: Sim. Na Europa, existem cada vez mais políticas de proteção de dados e coisas do gênero. Não acho que esse tipo de questão possa ser resolvida individualmente. Você pode desligar o telefone, fazer isso ou aquilo, mas não são ações estratégicas, são apenas pequenas coisas que as pessoas podem fazer, mas que no fim do dia não será algo efetivo.

Poderia comentar mais sobre a relação entre circulação de imagens e estruturas de poder nas redes sociais?

TP: Quando compartilha imagens em redes sociais ou em plataformas de telecomunicação globais, você não está compartilhando apenas com outras pessoas. Provavelmente, a coisa menos importante que está fazendo é compartilhar com outras pessoas. Na verdade, você está compartilhando com empresas muito poderosas e centralizadoras, cujo negócio é tentar extrair valor dessas imagens.

Como fotógrafos humanos podem se preparar, se adaptar ou mesmo incorporar essas mudanças tecnológicas nos seus trabalhos? Em outras palavras, como ser fotógrafo no século 21?

TP: Dentro do mundo de imagens digitais que chega até nós, a categoria fotógrafo significa cada vez menos para mim. Há trilhões de imagens, provavelmente há mais fotos produzidas nos últimos três anos do que em toda a história da humanidade. Ser um fotógrafo hoje é tentar entender esses sistemas no sentido mais amplo e tentar usar tecnologias para se comunicar com outras pessoas. E isso pode ser feito usando câmeras, tirando fotos e mostrando-as. No entanto, mais do que se perguntar sobre o que é ser um fotógrafo hoje, é preciso entender as relações entre máquinas produtoras de imagens e a comunicação com outras pessoas.

O seu projeto Refletor orbital leva a aventura da chamada land art para a era espacial. Como nesse tipo de arte, a relação do público com o satélite-escultura acontecerá principalmente por meio da mídia, seja na documentação visual, seja nas recompensas do crowdfunding. Como entende essa reconfiguração da obra de arte na era das redes e qual o papel das imagens nesse processo?

TP: Definitivamente. Mas uma das coisas de que gosto no Refletor orbital é que você não precisa vê-lo somente dessa maneira, por meio de plataformas globais de telecomunicação. O Refletor orbital será visto em grande parte do mundo por alguns meses e para fazer isso você terá que se conectar à internet ou usar algum aplicativo para lhe mostrar onde o satélite estará no céu. Mas uma vez que saiba onde estará, poderá vê-lo com os próprios olhos. A ideia do projeto é construir um pequeno satélite que entrará em órbita e, uma vez no espaço, se desdobrará e se tornará um espelho gigante em forma de diamante, refletindo a luz do sol para a Terra. Será visível a olho nu como se fosse uma lenta estrela cadente, tão grande quanto uma estrela da constelação Ursa Maior e visível pela maioria das pessoas no planeta.

Então quer dizer que um dos pontos principais do projeto é que sua visão não será mediada, mas sim direta a olho nu?

TP: Sim, isso mesmo.

Enquanto o mundo parece cada vez mais preso em uma distopia cyberpunk/ pós-apocalíptica, como o seu próprio trabalho mostra, o seu satélite diamante resgata uma imaginação da era espacial, que parece até otimista. Acredita que a arte tem uma responsabilidade visionária em relação a nossas possibilidades de retomar tecnologias (se é que isso ainda é possível)?

TP: Sim, acredito. Claro. Quero duas coisas com a arte: a primeira é que ela nos ajude a ver o momento histórico em que vivemos. E digo isso de forma bastante literal: coisas que nos ensinem como ver, porque muitas vezes o mundo funciona de uma maneira que não é óbvia para nós e não sabemos como reconhecer. E a segunda é que nos dê um pequeno vislumbre de como as coisas poderiam ser se fossem diferentes, que nos dê a habilidade de imaginar como o mundo seria se as réguas fossem outras. Se pudéssemos imaginar como seria um mundo diferente, seria um primeiro passo na direção de construir um mundo mais igual e justo.

Para fechar, poderia falar um pouco das fontes de inspiração criativa?

TP: São tantas! Para o projeto Refletor orbital uma grande fonte de inspiração foi a arte revolucionária e pós-revolucionária da Rússia. Artistas como Vasily Kandinsky (1866-1944), Kazimir Malevich (1878-1935) e El Lissitzky (1890-1941). Eles tentaram atingir uma utopia, ver um mundo diferente, fazer uma arte que fosse quase fotorrealística, ao mostrar como o mundo poderia ser se fosse possível realizar o projeto comunista, algo incrivelmente utópico. Essa sinceridade e sofisticação formal é muito importante para o projeto Refletor orbital, uma nova maneira de pensar no espaço público (risos). Os projetos que utilizam inteligência computacional, redes neurais e inteligência artificial são bastante influenciados pelo surrealismo, por um lado, e pelo romantismo gótico, por outro.

A criação de infraestruturas computacionais em larga escala proporcionou um aumento da automatização da sociedade. Para um norte-americano como eu, isso acontece num ambiente político que se descolou totalmente da razão, em que coisas não significam mais coisas e que há ainda uma terrível inclinação à violência. Essa estranha combinação de eventos, com um tom muito sombrio, é surreal. Sem dúvida essa é uma categoria estética que me diz algo.///

 

 

Trevor Paglen (1974) é um artista e geógrafo norte-americano, com trabalhos que envolvem sistemas de vigilância e visão computacional. Em 2016, foi vencedor dos prêmios Deutsche Börse  de fotografia  e da Sociedade Germânica de Fotografia, e ganhador da bolsa MacArthur Genius em 2017.

 

Gabriel Menotti é professor da Universidade Federal de Espírito Santo. Já publicou livros no Brasil e no exterior sobre questões ligadas a imagem e tecnologia. Atua como curador independente e coordena a rede de pesquisa Besides the Screen.

 

Bruno Zorzal é artista e pesquisador da fotografia associado ao laboratório Art des images et art contemporain (Labo AIAC), da universidade Paris 8, e membro da cooperativa de pesquisa RETINA.International.

 

Tags: Digital Art, fotografia contemporânea, Inteligência artificial, Land Art, Visão Computacional