Pages

A Inteligência Artificial e o feitiço de Alexa

Capitalismo precisa renovar sua magia, para que desejemos as mercadorias sem ver o que têm por trás. Agora, consumimos a nós mesmos. E as máquinas só não nos superarão por estarmos tão submetidos quanto elas. Ainda assim, há brechas

Texto e imagem: Veridiana Zurita


De OUTRASPALAVRAS, 24 de Junho 2021
Por Veridiana Zurita



Deitada do sofá escuto uma música qualquer e grito…

“Alexa, abaixa o volume!” (Alexa obedece) “Alexa, coloque uma música da minha playlist favorita” (Alexa obedece) “Alexa! Aumenta o volume!!!” (Alexa obedece).

Alexa é uma “assistente virtual” baseada em inteligência artificial (IA) e ordená-la como quem reencena a relação patrão-serviçal – herança fantasmagórica e concreta no Brasil – acontece sem culpa, já que Alexa não é ninguém. A sequência de ordens dadas e cumpridas não me satisfaz. Alexa precisa ser capaz de reencenar outras qualidades humanas.

Alexa, quem é o presidente do Brasil? Jair Messias Bolsonaro. Alexa, ele é um bom presidente? Não consigo fornecer essa informação.

Seria Alexa uma inteligência neutra? Seria Alexa um sistema oco, programado para mera execução de tarefas técnicas e funcionais? Seria ela uma inteligência autônoma com vontade e saberes próprios? Ou Alexa é na verdade uma continua reencenação dos dados produzidos e compartilhados por aqueles que a consomem? E afinal de qual inteligência estamos falando? Quais são os parâmetros cognitivos, programados como modelo de inteligência, aprendidos por Alexa? Quem os define? Quem é Alexa? Alexa não é ninguém. Alexa somos todos nós. Alexa é a voz programada de uma IA, que permeia o material sólido de uma caixa de som. Seu dono é a Amazon. Os trabalhadores que produzem Alexa são aqueles que extraem a matéria-prima para produção de seu corpo material, seu hardware, mas também aqueles que têm seus dados extraídos para produção de sua inteligência imaterial, seu software. Alexa é um dos formatos de IA disponíveis no mercado. E como parte de um arsenal tecnológico que aprimora seu aprendizado da cognição humana, Alexa é fetichizada como uma aparição, mágica, diante de seus consumidores.

O que Marx nos ajuda a entender com o Fetichismo da Mercadoria é que o feitiço, a sensação de que uma mercadoria existe em si própria, como aparição mágica, é um processo intimamente atrelado aos redimensionamentos do capitalismo. A cada crise, o sistema precisa reunir esforços intensos para manutenção de sua magia, para que continuemos a olhar mercadorias sem ver os processos sociais implicados na sua produção.

O que você vê quando olha pra Alexa, que sabe seu nome, suas preferências musicais e gastronômicas, seu calendário de medicamentos e sua agenda de compromissos? O que você vê quando aceita a biometria facial na entrada do shopping? Quando olha pra câmera no elevador programada por uma IA que aprende que corpos negros são mais perigosos que corpos brancos? O que você vê quando anúncios pipocam na sua timeline como mágicas predições de uma bruxaria capital que sabe o seu desejo antes mesmo que você? O que você vê quando um robô te lembra que uma compra ainda não foi efetivada mas que nunca é tarde pra retomar os prazeres do consumo? O que você vê quando compartilha a foto do filho, da casa, do cachorro, da cama, da sala, da privada nas redes sociais? O que você vê quando sua bolha virtual reproduz variações de uma mesma narrativa? O que você vê quando participa da reprodução acelerada de um mesmo comportamento diante das câmeras? O que você vê quando o que te orienta na captura e compartilhamento de uma imagem é promessa de viralização?

Vemos um instrumento, naturalizado pela praticidade cotidiana. Vemos um dispositivo que nos serve. Vemos uma ferramenta prática, funcional. Vemos a aparição de um mecanismo magicamente descolado de nós mesmos. Nós, produtores da mesma inteligência que encena nos servir enquanto nos subordina à produção de mais dados. E somente vemos o que vemos, sem conseguir ver o que está por trás do feitiço, porque não somente nosso desejo está implicado na produção de dados mas porque o tempo dessa produção é acelerado, urge, nos convoca, nos programa. Nesse tempo não há tempo pra questionar a própria máquina que nos maquiniza. Aceitamos e sucumbimos a todas essas ferramentas, técnicas, métodos de vigilância, controle e subordinação a um modo de produção porque essa temporalidade precisa asfixiar qualquer possibilidade de pausa.

O que há por traz do feitiço da IA é o aprendizado de um sistema às custas da produção e compartilhamento de nossos dados. Nós humanos. Mas qual de fato seria a diferença entre nós e uma IA? O que aflige alguns críticos da IA é a suposição de que talvez um dia Alexas, por exemplo, poderiam superar a inteligência humana e nos substituir na gerência do mundo. O que essa crítica supõe é que em oposição a uma inteligência “artificial”existe uma “natural”, devidamente humana. A inteligência humana. Mas que inteligência humana é essa que Alexa aprende senão a naturalização historicamente construída de uma certa racionalidade? Alexa não irá superar a inteligência humana. Não porque sejamos superiores a ela, mas porque estamos ambos, “natural” e “artificial”, forjados pelos mesmos parâmetros daquilo que essa civilização em crise criou. Alexa não irá superar a inteligência humana porque nossa cognição é encabrestada para produzir os dados de que Alexa precisa para aprender e ser.

O fetichismo da IA é sintoma de um processo histórico de desenvolvimento da tecnologia como um todo. Para entendermos as ditas “novas tecnologias” precisamos encarar a abrangência do conceito de tecnologia em si. O que é? O que faz? O que quer? Quem a detém?

Debater tecnologia e seus sentidos implica reavivar debates históricos e sempre latentes. Será a tecnologia mera funcionalidade instrumental, devidamente técnica, objetiva e neutra? Ou seu caráter ideológico escancara, mais do que nunca, a produção de um mundo que acompanha, replica e (re)produz o conhecimento de uma única técnica, universal e hegemônica?

Pensar o fenômeno técnico no Ocidente demanda compreender não somente o conjunto de ferramentas, máquinas e artefatos presentes e disponíveis na sociedade, mas como os métodos que os regularizam – seu modo de produção, consumo e recepção social – se desenvolvem. Isso quer dizer que a tecnologia sempre foi produzida em concomitância com a produção de um modo de vida que sustentasse a reprodução de um sistema-mundo capitalista. As novidades tecnológicas sempre precisaram de um mundo devidamente construído – seus sujeitos, hábitos e comportamentos – para receber e replicar a demanda de novas mercadorias. Pra cada mercadoria nova sendo produzida sempre foi preciso produzir o sujeito que a desejasse.

A técnica, a tecnologia enquanto conjunto de ferramentas, máquinas, artefatos e saberes não é originária no capitalismo mas, indubitavelmente, ganha vigor funcional na lógica que orienta um sistema de apropriação da chamada natureza como matéria-prima de uma certa existência humana.

O relógio de ponteiro talvez seja a primeira máquina que representa essa dialética produtiva no capitalismo. Máquina que produz o tempo, tempo que reproduzimos no cotidiano. Máquina produzida por mãos humanas e carregada pelas mesmas que se orientam no tempo entre horas de trabalho e tempo “livre”. Máquina que produzimos e que produz a nós mesmos. Lewis Munford nos pergunta “onde a máquina tomou forma pela primeira vez na civilização moderna?”1 A historicidade escolhida pelo pensador na tentativa de responder a própria pergunta inicia seu mapa nos monastérios do Ocidente no século VII. Foi lá, dentro dos muros onde “as regras e a ordem” contrastavam com a “surpresa, a dúvida, o capricho e a irregularidade” de fora, que o “conceito mecânico de tempo” e sua “medida regular” surgem. É com o acréscimo beneditino de mais um período para as devoções do dia que o sino passou a tocar sete vezes durante as vinte e quatro horas do dia. O instrumento se estendeu pra fora dos monastérios e passou a orientar a existência urbana trazendo nova regularidade temporal aos trabalhadores e comerciantes. Para Munford, “é o relógio, e não a máquina a vapor, a máquina chave da era industrial moderna”. E como com toda e boa invenção tecnológica, é a elite que primeiro desfila os objetos de fetiche. É no final do século XVI que o relógio doméstico é introduzido nas casas mais ricas da Inglaterra e da Holanda e depois se populariza. Não somente porque as classes mais ricas é que podiam adquirir o objeto desejado, mas porque foi através da burguesia que tempo virou ouro e que tornar o humano tão regular “como um relógio” inaugurou sua ideologia.

Todo o aparato de organização social que precisou ser construído pra legitimar tal ideologia acompanhou com intensidade acelerada o desenvolvimento e a expansão do capitalismo enquanto sistema-mundo. E a cada revolução dos modos de produção na história do capitalismo a tecnologia exerceu papel central na subordinação do tempo e do espaço às demandas de produção e consumo.

As sociedades disciplinares de Foucault foram responsáveis por organizar a população e docilizá-la com todos as arquiteturas panópticas (escolas, hospitais, prisões, fábricas) que vigiavam os corpos dissidentes e buscavam normalizá-los através da biopolítica. As “sociedades de controle” de Deleuze e Guatarri desdobram o olho externo do panóptico para a internalização da vigilância em cada sujeito, na clausura individual de reproduzir um modo de vida prescrito. Em ambos os casos a racionalidade da economia capitalista mobiliza esforços pra que seu redimensionamento aconteça através da tecnologia de seu tempo. É nessa relação entre humano e tecnologia que o capitalismo redimensiona seu modo de produção como imperativo de um modo de vida único e intransponível. Mas é mais do que isso: é através da extrapolação dos limites entre Natureza x Humano que o capitalismo se redimensiona. Limite que esse mesmo sistema criou para justificar a invenção da “natureza” como território inerte, corpo passivo e disponível a ser apropriado e explorado. Limite que se transforma em canal de acesso ilimitado da interferência humana e que agora parece assumir e celebrar que a natureza é de fato sua própria criação. Se uma árvore não nascer reta não será mais uma corda que a corrigirá de fora pra dentro mas uma modificação genética que a programará de dentro pra fora. Se uma criança não se adéqua às demandas da disciplina escolar não é mais a palmatória que o corrige mas a ritalina que a programa.2

Assim como árvores da monocultura ou grãos de soja transgênica estamos nós. Programados para otimização máxima de nossa performance no tempo gerenciado pela demanda do acúmulo de capital. Seja quando usamos as redes sociais (sim, ainda acreditamos que as usamos e não que somos usados por elas), seja quando sucumbimos a todas as praticidades tecnológicas que à primeira vista parecem ser simplesmente funcionais, objetivas, neutras. Em cada momento de nossa interação com as novas máquinas somos digitalizados, dos pés a cabeça: a cada selfie, a cada interação online, a cada compra, a cada segundo que olhamos mais um anúncio do que outro, a cada cadastro. E é com a digitalização da vida que o capitalismo se redimensiona. Já não é mais a mecanização da era industrial que normaliza os corpos mas a digitalização que os quantifica e os otimiza enquanto dados. O corpo é um acúmulo de dados programáveis.

Voltemos à IA. Se você está lá com sua Alexa acreditando que simplesmente usa uma tecnologia funcional, meramente técnica e neutra, se engana. Você e sua Alexa estão ambas muito bem localizadas, milimetricamente programadas pra exercerem seus papéis sociais que as mantêm reproduzindo um modo de vida hegemônico. Essa chave dialética é vital (ou mortal) no capitalismo de vigilância. É você no sofá acreditando usar uma ferramenta de sua posse, que responda ao seu comando, que a obedece e, ao mesmo tempo, essa mesma ferramenta ganha “vida” através da produção de dados exercida por você; o big data. Para que Alexa possa ser sua, aprender e te servir, você precisa produzir dados para que monopólios tecnológicos os coletem, os digitalizem e os programem. Se você não produzir dados a sua Alexa não existirá. Portanto, produza. Deite-se no sofá e desfrute da fetichizada sensação de que Alexa te serve, te obedece e te satisfaz.

Alexa é só um exemplo sobre como a tecnologia por trás da IA opera muito além de sua explicação técnica e objetiva: “um campo das ciências da computação, no qual máquinas realizam tarefas como aprender e raciocinar, assim como a mente humana.” (negrito meu)3. O que a definição meramente instrumental e funcional da IA encobre é justamente o que está implicado em sua produção: o trabalho humano ininterrupto de produzir dados. Encobrimento funcional para existência fetichizada de uma certa inteligência. E assim como toda mercadoria fetichizada ganha vida própria e ameaça seu criador, a IA encarna essa mesma fantasmagoria. Sua fetichização ultrapassa a esfera do consumo, da expressão individual e de toda navegação online e passa a atuar na estrutura do Estado de forma significativa. O Estado plataformizado, celebrado pela (meramente técnica, funcional, objetiva e neutra) cultura do cadastramento demarca território no acesso a serviços básicos como saúde, educação e segurança. E assim como uma mercadoria, o Estado é também fetichizado. Se descola de nós, humanos que o criaram, como se tivesse vida própria, como se fosse uma Alexa mais robusta, institucionalizada, que aprende com nossos dados através da burocracia intensificada pela cultura do cadastramento. Quanto mais plataformizado, mais o Estado parece se distanciar da população com um discurso securitário que interage com cidadãos e cidadãs enquanto números, devidamente digitalizados em nome de uma gestão eficiente. Um Estado robotizado, fetichizado porque encena eficiência e segurança, e que aparece cada vez mais como entidade autônoma, com vida própria diante do modelo de sociedade que o criou. Esse Estado plaformizado incorpora a racionalidade neoliberal de forma exemplar. É a gerência do neoliberalismo ocupando as entranhas do Estado e institucionalizando a eficiência que a lucratividade do mercado impõe. É como se a “mão invisível” do mercado desse lugar ao organismo todo que a opera. É o mercado instrumentalizando o Estado como seu corpo operacional, seu hardware.

Essa aparição do Estado como um Frankstein autônomo de seu criador, ou como uma Alexa que ameace a inteligência humana, é parte do feitiço, do fetiche, da embalagem mágica com a qual o capital nos hipnotiza, pra que fiquemos inertes e passivos diante de um sistema que se quer insuperável. Mas assim como a gerência da tecnologia é a gerência do Estado; funcionais para o redimensionamento de um sistema econômico que se quer hegemônico. E nesse sentido o Estado, como uma das “tecnologias” do capitalismo, é central pro gerenciamento dos nossos corpos. Gerência que normatiza eficiência e otimização como preceitos vitais de nossas práticas cotidianas. Mas nem Alexa nem o Estado seguem de pé sem o trabalho humano, produzido e produtor da própria estrutura que nos subordina. Não há Franksteins autônomos do fazer de seu criador. Não há inteligência artificial sem o fazer humano. Não há Estado intransponível, porque ele depende da disputa politica. Mudar radicalmente as entranhas dessas tecnologias humanas é crucial. A tecnologia não é má ou boa, mas ocupada e gerenciada por interesses objetivos e concretos. E, provavelmente, o maior interesse do tipo de tecnologia que nos gerencia é a narrativa de que sua eficiência, às custas da otimização de nossa performance, possa definir o futuro. Ou como diz Paola Ricaurte “o tecnodeterminismo é (…) um imaginário sobre a capacidade da tecnologia para definir nosso destino.”4

Precisamos repovoar nosso imaginário com outras tecnologias. Ou ainda, desaprender uma racionalidade que nos subordinou a uma performance otimizada. Reabitar a tecnologia como um Comum de práticas, saberes, ferramentas, técnicas e até mesmo Alexas que aprendam a cognição humana, não às custas da extração, coleta, análise e programação de dados para predição de comportamento que sacie as demandas do mercado, mas como inteligências que insurjam e organizem revoltas contra todo e qualquer rastro de acúmulo do capital. E para reivindicar a tecnologia como arma de resistência anticapitalista precisaremos atuar diretamente no direito ao tempo e ao espaço.

A exploração dos limites entre tempo e espaço, seu esgarçamento e até eliminação, são vitais para o redimensionamento do capitalismo. E é através do uso da tecnologia, em suas mais variadas formas desdobradas ao longo da história, que sujeitos são coreografados dentro de uma lógica temporal e espacial adequada e eficiente pra manutenção produtiva. A indústria, espaço emblemático onde o tempo da força de trabalho é explorado para o acúmulo de capital, tem sua lógica desdobrada pra fora de seus limites arquitetônicos. Se nossos “dados” são considerados como matéria-prima de um novo tipo de acumulação, se a coleta e digitalização de nossas informações constitui a mercantilização do “novo petróleo” na geopolítica atual, o espaço onde a exploração do tempo de nossa força de trabalho ocorre perde barreiras visíveis. A todo instante, estamos engajados na produção dessa mais nova matéria-prima. Nessa perda de limites entre tempo e espaço no capitalismo de vigilância, o “tempo-livre” – meras horas que o trabalhador dispõe pra comer e dormir como manutenção de sua força de trabalho, ou meras horas da trabalhadora que fará jornada dupla ao chegar em casa – torna-se cada vez mais divisão abstrata no cotidiano. É exatamente quando estou deitada no sofá, deslizando meus dedos com suavidade entre likes e ordenando minha Alexa que essa neblina entre lazer e trabalho se densifica e me entorpece. Enquanto “descanso”, me entretendo na timeline acelerada daqueles que sigo, ou alimentando o consumo insaciável daqueles que me seguem, produzo.

Mas e quando dormimos? Estaríamos, mesmo no sono, ancorados pela produtividade otimizada que rege nossos dias? Será meu sono um espaço-tempo autônomo ou ainda engajado pelo inconsciente que digere a tensão produtiva do dia? Serão o sono, o sonho, o sonhar uma tecnologia humana que possa insurgir? Será o sono um parênteses de resistência a lógica que nos levanta da cama com o alarme matinal acionado por uma Alexa ou qualquer outra tecnologia programada pra nos acordar? E quem é que dorme? Quem é que pode dormir? Dormimos?5

1 Munford, Lewis. “Preparação Cultural” em “Técnica e Civilização” (edição PT 2018) Editora Antigona.

2 Sibilia, Paul. “O homem pós-orgânico” (2015) Editora Contraponto.

3Google.

4Entrevista com Paola Ricaurte: https://revistacommunicare.casperlibero.edu.br/dossie/paola-ricaurte/

5Crary, Jonathan: “24/7: Capitalismo tardio e os fins do sono” (2016) Editoria Ubu.



VERIDIANA ZURITA
Mãe, artista, pesquisadora e feminista. Vive atualmente na zona rural no interior de São Paulo e desenvolve seu trabalho através de projetos multidisciplinares que possam suspender, torcer, desfazer e re-imaginar papeis sociais. Para conhecer alguns de seus trabalhos acesse: http://www.veridianazurita.com/

Nenhum comentário:

Postar um comentário