Pages

A desigualdade automatizada

Do IHU,  21 Agosto 2021
Por Sofia Scasserra


"A América Latina possui um big data próprio, valioso e único. Precisa deter o extrativismo digital para manter a matéria-prima, e colocar mãos à obra em seu processamento, a fim de desenvolver uma inteligência artificial que reflita os códigos, costumes, cultura e contexto da região", escreve Sofia Scasserra, especialista em economia digital, comércio, desenvolvimento e emprego, professora e pesquisadora do Instituto do Mundo do Trabalho, da Universidade Nacional de Três de Fevereiro - UNTREF, Argentina, em artigo publicado pela revista latino-americana de ciências sociais Nueva Sociedad, Julho-Agosto/2021. A tradução é do Cepat.

Eis o artigo.

Décadas atrás, Alan Turing já se perguntava se a inteligência artificial era realmente inteligência [1]. Daqueles experimentos mais filosóficos do que matemáticos restou, sobretudo, a dúvida sobre se as tarefas automatizadas são mais eficazes do que aquelas que fazemos “manualmente”.

Nos anos recentes, primeiro com o desenvolvimento das telecomunicações e, depois, da cibernética, começou a ser possível reunir, processar e sistematizar uma enorme quantidade de dados (big data) por meio de sistemas de algoritmos. Nascia assim o que hoje conhecemos como inteligência artificial: algoritmos que por meio de enormes quantidades de informação podem emular comportamentos humanos e otimizar tarefas.

O machine learning nos mostra que a evolução desta tecnologia pode emular nosso cérebro, mas ainda há um longo caminho a percorrer - Sofia Scasserra Tweet

Muitas vezes, são expressados sentimentos de medo em relação ao que acontecerá quando esses sistemas “substituírem” os seres humanos [2]. O certo é que sempre encontramos formas tecnológicas de realizar as tarefas de maneira mais eficiente: o transporte nos faz chegar mais rápido, a indústria têxtil produz mais e melhores vestimentas, as máquinas fazem a colheita mais rápido, etc. E a inteligência artificial? Processa informação.

Mas é realmente “inteligência”? O que diferencia os seres humanos não é apenas sua capacidade de processar e absorver informação. É também a sua capacidade de se equivocar, de criar, de aprender, de ser únicos, de ser diversos, de ver as coisas de outro ângulo. Artificial, certo, mas inteligência? O machine learning nos mostra que a evolução desta tecnologia pode emular nosso cérebro, mas ainda há um longo caminho a percorrer [3].

De fato, a inteligência artificial encontra sua maior fragilidade e as maiores críticas em sua pouca capacidade de avaliar em diversos contextos, em sua padronização dos resultados, em sua homogeneização de todos, sem distinguir diversidades. Isto faz pensar na inteligência artificial como em uma mera tecnologia (ainda que sumamente poderosa), que tem uma capacidade inimaginável de processar informação e, sobre essa base, traçar uma linha para o futuro, tendo em conta somente as variáveis ou contextos que tivermos incluído no conjunto de dados que a alimentam.

Dito de outro modo: a criatividade, a imaginação e a crítica sobre sua própria ação ficam de lado, e dificilmente podem emular a inteligência humana. Não só isso: a programação é realizada por seres humanos com limitações e preconceitos que os levam a projetar uma inteligência artificial enviesada. Assim, as críticas a respeito da discriminação, preconceitos, avaliações sem o contexto e outras lacunas são tantas que nos fazem pensar se não são máquinas de gerar exclusão artificial.

Desigualdade e exclusão


Já estão bem documentados os problemas de exclusão e desigualdade social que a incorporação de inteligência artificial gera em diversos âmbitos [4]. Foram detectados algoritmos que estigmatizam as pessoas de cor [5], que conferem menos crédito a mulheres só pelo fato de ser mulheres [6] ou que diretamente impossibilitam o acesso a empregos por diversos motivos [7].

Se os algoritmos decidem sobre as pessoas, sobre sua liberdade, sobre seu emprego, sobre sua capacidade de acesso a seguros, serviços médicos e outras questões fundamentais da vida, é necessário ter a possibilidade de regulá-los - Sofia Scasserra Tweet

O problema de fundo não é só a base de dados sobre a qual o sistema de inteligência artificial está construído, mas, ao contrário, e sobretudo, a decisão sobre quem dá as ordens e define a ação da equipe programadora. A pouca diversidade sexual, racial, étnica e cultural que existe entre aqueles que desenham e produzem a tecnologia é um problema, mas não o único [8]. Se os algoritmos decidem sobre as pessoas, sobre sua liberdade, sobre seu emprego, sobre sua capacidade de acesso a seguros, serviços médicos e outras questões fundamentais da vida, é necessário ter a possibilidade de regulá-los.

Parece lógico, mas para entender por que isso é tão difícil, é preciso olhar para as instituições que estabelecem as regras do jogo da economia mundial, principalmente para a Organização Mundial do Comércio (OMC).

Os direitos de propriedade intelectual foram, são e serão um tema de controvérsia global. Não existem argumentos mais fortes do que “gerar renda adicional para reinvestir” [9] para defender sua existência. Os argumentos contra se sustentam na evidência empírica que demonstra que a humanidade estaria melhor sem eles. Sem mais, desde do final de 2020, países e organizações sociais reivindicam na OMC a extinção das normas de propriedade intelectual para as vacinas contra a covid-19, para assim poder garantir o acesso, a fabricação e a distribuição para toda a humanidade, salvando vidas em troca de algumas poucas empresas farmacêuticas deixarem de obter lucros extraordinários [10].


A ideia de que se não existissem normas de propriedade não haveria inovação é falsa: essas normas têm apenas pouco mais de 25 anos de existência na OMC, e sempre houve inovação ao longo da história da humanidade - Sofia Scasserra Tweet

A ideia de que se não existissem normas de propriedade não haveria inovação é falsa: essas normas têm apenas pouco mais de 25 anos de existência na OMC, e sempre houve inovação ao longo da história da humanidade. Estas normas não apenas limitam o acesso às vacinas, como, além disso, a possibilidade de ter acesso aos códigos-fonte da inteligência artificial que se programa no mundo. Amparadas por um véu de secretismo e poder, as empresas decidem sobre a vida das pessoas sem que estas possam saber quais foram os critérios de seleção e os dados contemplados ou se foram ativamente discriminadas ou não. A sistematização de desigualdades dentro das sociedades está na ordem do dia.
Velhas disputas, novas formas de subdesenvolvimento

O lema “Retirar a escada para o desenvolvimento” [Chutando a escada: a estratégia do desenvolvimento em perspectiva histórica, publicado em português pela Editora UNESP] que o economista sul-coreano Ha-Joon Chang estampava na capa de um de seus livros permanece vigente como nunca, mas adquire uma nova dimensão: a cibernética [11]. O certo é que, diante da acumulação de dados quase inadvertida pelo Sul global, os Estados Unidos funcionam como um aspirador que absorveu em grandes volumes a matéria-prima para a inteligência artificial e assim pôde desenvolver sistemas que hoje são inigualáveis.

Mesmo que um país se colocasse, hoje, a possibilidade de gerar um Google local, não conseguiria o mesmo sucesso devido à escassez de dados e, em muitos lugares, de recursos humanos capacitados. Mais ainda, não teria sentido fazer isso. Sem dúvidas, a escalada levou à eficiência naquilo que poderia ser considerado uma espécie de monopólio natural. Seria muito oneroso para um país seguir uma estratégia desse tipo e o resultado seria incerto.

A concorrência com os gigantes tecnológicos carece de sentido em uma economia que já os coroou como reis e senhores. O colonialismo digital é hoje uma realidade inapelável - Sofia Scasserra Tweet

A concorrência com os gigantes tecnológicos carece de sentido em uma economia que já os coroou como reis e senhores. O colonialismo digital é hoje uma realidade inapelável [12]. Somente a China, com seu big data criado da porta para dentro, graças a seus mais de 1,3 bilhão de usuários e produtores de dados, pôde desenvolver uma inteligência artificial que hoje está na batalha, de igual para igual, com o capitalismo estadunidense. A disputa entre ganhadores e perdedores dessa batalha está apenas entre esses dois jogadores da economia mundial.

O certo é que os lucros gigantescos gerados por essas empresas ao subsumir empresas industriais tradicionais e as oferecer todos os tipos de serviços que otimizem seus negócios, mediante inteligência artificial programada e desenhada pelos engenheiros do Vale do Silício, demonstram que os sonhos de desenvolvimento e industrialização digital serão difíceis de alcançar, mas não impossíveis.

Efetivamente, a concorrência não faz sentido, mas e a complementaridade? É possível criar novos serviços, em escala nacional, com um projeto de soberania de dados que sirva para melhorar a administração pública, construir cadeias regionais de valor e trabalhar, a partir de universidades e empresas, desenvolvimentos locais de inteligência artificial para atender as necessidades nacionais.

Faz sentido para o Google desenvolver sistemas que reconheçam qualidades de erva-mate ou de colheitas de frutas e verduras? São iguais os sistemas que detectam doenças através de imagens médicas, na Europa e na América Latina? São completamente replicáveis os resultados, considerando nossas características alimentares, climáticas, étnicas, etc.? Provavelmente, seja desejável desenvolver inteligência artificial local, não só para melhorar o que a inteligência artificial tem para oferecer, mas também, e sobretudo, para alcançar a industrialização digital e superar a dependência tecnológica.

Mas, como costuma acontecer, o ganhador quer levar tudo. Mais uma vez, o que se cozinha na OMC gera desigualdades em diferentes níveis. Já há alguns anos circula nessa organização o que se conhece como “agenda do comércio eletrônico”, algo que se busca fazer passar como um assunto comercial de compra e venda pela internet. Mas ao ler suas cláusulas, rapidamente se nota que tem pouco a ver com isso e que se relaciona, sobretudo, com a desregulamentação da economia digital do futuro. As normas são muitas e os projetos apresentados provêm de diversos países [13], mas poderíamos resumir a agenda em algumas poucas cláusulas que são comuns a todos (ou quase todos) os projetos:

a) Transferência transfronteiriça de dados, que garanta que aquela instituição que colete dados de um país, através de diferentes plataformas, possa levá-los para fora das fronteiras sem nenhum tipo de impedimento. Esses dados não podem ser reivindicados no futuro, nem se pode exigir sua repatriação. Um verdadeiro extrativismo digital.

b) Proibição de exigências de localização e processamento. O verdadeiro negócio dos dados é armazená-los, mantendo a soberania e a capacidade regulatória sobre eles, e processá-los, atividade na qual está a maior fonte de renda. Efetivamente, não é a matéria-prima o que dá lucros extraordinários, mas seu processamento e industrialização. Essas normas basicamente estabelecem que os Estados não podem impor requerimentos às empresas para que algumas dessas duas atividades sejam realizadas, necessariamente, dentro de seu território. Assim, jogam fora o sonho da soberania tecnológica e a industrialização digital.

c) Não divulgação do código-fonte. Se as empresas de tecnologia oferecem serviços digitais em um país, fica proibido solicitar que se divulgue o código-fonte da inteligência artificial ligada a esses serviços. Não obstante, em diversos acordos no marco da OMC vem sendo incluídas mais exceções, porque muitas vezes os próprios países desenvolvidos precisam auditar os algoritmos em questão, a fim de detectar falhas nos sistemas: desde um modelo de automóvel que apresenta defeitos, passando por uma máquina de jogos que nunca dá um ganhador, até um algoritmo de avaliação de professores, todos casos nos quais, muitas vezes, o Estado quer reservar para si o poder de auditoria.

Com a iminente chegada do 5G e a internet das coisas, esses casos de falhas que possam provocar ações e processos por danos aos consumidores estarão na ordem do dia. As empresas sabem disso, e o lobby fenomenal que realizam para se proteger, não só mediante normas de propriedade intelectual, mas também por meio da futura agenda de economia digital, mostra que não estão dispostas a dar espaço e que seu lucro pode estar bem fundamentado na fragilização dos direitos das pessoas [14].

d) Isenção de impostos alfandegários pela venda de serviços digitais. Na medida em que o mundo vai se digitalizando cada vez mais, os serviços contratados e consumidos por um país poderão provir (de fato isso já acontece) de qualquer lugar do mundo. Em termos técnicos, trata-se de uma importação de serviços. As regras comercias que estão em negociação querem impor uma taxa zero para essas importações, o que piora as condições para os desenvolvedores locais que devem competir com grandes transnacionais. Isso já está vigente na OMC através de uma moratória que renovada ano após ano e que exime as empresas prestadoras do pagamento de impostos. Nas negociações em curso, busca-se fixar essa isenção de uma vez e para sempre.

e) Obrigatoriedade do princípio de neutralidade da web. Esta cláusula busca fazer com que os Estados não possam regular os conteúdos e nem as empresas que operam em seus mercados digitais. Embora limitar o conteúdo pode levar a abusos por parte das autoridades, também é verdade que países como a China se desenvolveram controlando e limitando os atores que operam em sua economia digital.

A agenda que se negocia na OMC busca deixar fora do desenvolvimento dos sistemas automatizados do futuro a maioria dos países do mundo, que ficam limitados a ser meros consumidores ou usuários dos serviços - Sofia Scasserra Tweet

Essas não são as únicas disposições que estão sendo negociadas, também existem normas em relação à aceitabilidade de assinaturas digitais, autorização do envio em massa de mensagens não desejadas, normativas de liberalização em matéria de compras e licitações públicas, limitações à proteção de dados, desvinculação das empresas sob a sua responsabilidade como intermediárias dos conteúdos que são publicados na internet e limitações ao pedido de autorização prévia para operar em um mercado, entre outras.

Essas normas geram um marco de “não regulação” que limita a capacidade dos Estados em impulsionar uma estratégia soberana de industrialização digital, que inclua a geração de inteligência artificial. Este aparato regulatório potencializa assim o extrativismo digital desmedido do Sul para o Norte global, ao permitir a este último usufruir de dados sem pagar por eles, eliminar a possibilidade de que o primeiro os processe e conte com eles para o desenho de políticas públicas melhores, e também limitam a capacidade de auditar a inteligência artificial que seja gerada, mesmo que afete a população em aspectos tão diversos como a segurança, a democracia, o emprego e os direitos. Em um mundo que apenas está começando a compreender como esta tecnologia nos impacta, desregulamentá-la e limitar a capacidade de ação dos Estados não parece ser a melhor opção.

Se se fala em retirar a escada, a agenda que se negocia na OMC busca deixar fora do desenvolvimento dos sistemas automatizados do futuro a maioria dos países do mundo, que ficam limitados a ser meros consumidores ou usuários dos serviços, e assim todo o lucro permanece nas mãos de poucos.
Mais desigualdades: o direito epistêmico escondido

O certo é que as normas de propriedade intelectual proíbem conhecer os critérios e formas como a inteligência artificial que utilizamos diariamente está programada. Mas esse não é o único saber valioso nesta tecnologia. O processamento de dados extrai conclusões sobre nossos comportamentos com o objetivo de antecipá-los.

Essa antecipação é o que Shoshana Zuboff chamou de “excedente comportamental”. Ao antecipar comportamentos, as empresas de tecnologia também podem eventualmente influenciá-los [15]. É o que foi visto em casos como o da Cambridge Analytica ou, conforme registrado no próprio livro de Zuboff, com o videogame Pokémon Go.

O que sabem de nós? O que sabem de mim que eu mesma não sei? A sistematização de informação e a análise de padrões de comportamento levam a um conhecimento colossal de alguns comportamentos humanos, um conhecimento que gera uma desigualdade epistêmica entre aquilo que sabemos de nós mesmos e aquilo que sabem de nós.

A desigualdade epistêmica é cada vez maior, e os sistemas de inteligência artificial contribuem para isso lançando conclusões sobre nossas vidas, gostos e costumes - Sofia Scasserra Tweet

Essa desigualdade pode ser replicada no plano macroeconômico. Efetivamente, os serviços digitais conhecem necessidades, movimentos, gostos, costumes e tantas outras coisas dos cidadãos de um país. Toda essa informação poderia ser utilizada para planejar políticas públicas e desenhar sistemas de inteligência artificial que melhorem os serviços públicos e tornem o Estado mais eficiente.

Em um mundo de big data, parece não haver dados suficientes para melhorar os Estados. Já foi possível ver como o Google compartilhou informação sobre a mobilidade das pessoas durante a pandemia de Covid-19, indicando o índice de atividade e circulação dos países. Informação como essa pode ser sumamente valiosa para controlar a pandemia em um território, e está nas mãos de corporações.

A desigualdade epistêmica é cada vez maior, e os sistemas de inteligência artificial contribuem para isso lançando conclusões sobre nossas vidas, gostos e costumes que levam a pensar na vigilância constante e no que enfrentaremos no futuro, caso não comecemos uma estratégia de desenvolvimento de inteligência artificial nacional.

Processos criativos e direito a ser humano


A inteligência artificial intervém cada vez mais em nossas atividades cotidianas: traduções, verificações, redações de um simples e-mail, busca de emprego, trânsito pelas ruas, etc. Passa inadvertida, nós a naturalizamos. Mas a verdade é que muitos dos sistemas que a utilizam observam nossos comportamentos e, em muitos casos, buscam padronizá-los.

A vigilância para coletar dados e seu consequente processamento para emitir juízos de valor sobre a cidadania pode ter um efeito muito nocivo à sociedade: o medo de errar - Sofia Scasserra Tweet

Por exemplo, estão bem registradas as injustiças cometidas pelos sistemas de avaliação de professores nos Estados Unidos, onde se estabelecia uma pontuação almejada para os alunos nas avaliações anuais padronizadas, e se não alcançavam esse padrão, era conferida uma pontuação baixa para o professor responsável, o que colocava em risco seu emprego. Ou na Grã-Bretanha, onde um algoritmo avaliava as “anomalias” nas trajetórias escolares dos estudantes e, em consequência, limitava seu acesso à educação superior [16]. A realidade é que a vigilância para coletar dados e seu consequente processamento para emitir juízos de valor sobre a cidadania pode ter um efeito muito nocivo à sociedade: o medo de errar.

Conseguiu-se implementar a ideia de que existe uma inteligência artificial que pensa, é imparcial, avalia com informação completa e conhece “a verdade”. Uma espécie de olho que tudo vê e que atenta contra o nosso direito de ser humanos, defeituosos, únicos e livres. É que a atividade de nossa inteligência é muito mais complexa do que “processar dados”. A própria capacidade criativa do ser humano opera por tentativa e erro. Trata-se de se errar e recomeçar [17]. De ousar a combinar o que não pensamos ser possível. De entender o contexto e, por conseguinte, captar a ironia, a anedota ou o código social a que nos referimos.

O ser humano goza da capacidade criativa e inventiva para superar seus erros. Isso nos tornou uma máquina imparável de inovação e superação. É justamente em nossas fragilidades que encontramos nossas maiores fortalezas. É desejável um ser humano que não erre, que atue de maneira automática e quase perfeita? Não estaríamos destruindo nossa própria capacidade de criar, de pensar fora da caixa?

A hipervigilância gera medo. Medo de que nosso comportamento seja julgado, de não estar à altura do que se espera de nós - Sofia Scasserra Tweet

Cometer erros nos faz humanos, mas também nos faz descobrir novas e maravilhosas formas de lidar com os problemas. Tentativa e erro, dizem. A realidade é que nós, trabalhadores e trabalhadoras, carregamos em nosso interior um know-how sobre nossa atividade laboral que aumenta a produtividade das empresas, e esse conhecimento se constrói a partir dos problemas que enfrentamos e as potenciais soluções. Sobretudo no Sul global, resolver inconvenientes cotidianos com recursos escassos é a realidade de centenas de milhares de trabalhadores. A hipervigilância gera medo. Medo de que nosso comportamento seja julgado, de não estar à altura do que se espera de nós.

Começar a utilizar tecnologias mais amigáveis é fundamental para todos, como cidadãos e trabalhadores. Da mesma forma, garantir o direito à desconexão digital, limitar os lucros extraordinários e o poder absoluto que damos a essas megacorporações tecnológicas e garantir que não haja uma hipervigilância em massa no futuro que leve a limitar nossa capacidade de inovação e nossa liberdade de ser humanos livres, políticos, ativistas, cultural e socialmente diversos.
Lá onde o direito não chega

A inteligência artificial tem o poder de prescrever realidades e de mudar nossos comportamentos, assim como fazem as leis. A única diferença é que são leis que não estão escritas em lugar algum e que desconhecemos. Conferimos a essa tecnologia um poder inigualável: o poder de ordenar nossas vidas e sociedades. O medo de ser julgados por um sistema que emite uma avaliação com base na inteligência artificial programada não se sabe por quem tem um potencial enorme para “esfriar” nosso comportamento.

Não apenas isso, mas a própria inteligência artificial não pode ser julgada, parece não estar ao alcance das legislações nacionais. Não pode ser auditada. Atenta contra a concorrência, já que não tem como saber se um algoritmo foi copiado por outra empresa mais poderosa. Atenta contra os direitos trabalhistas, já que não podemos saber se foram levados em conta ao ser desenhado os sistemas de atribuição de tarefas e outros processos automatizados no âmbito do trabalho e, de fato, os efeitos que produzem em alguns casos são realmente daninhos. Atenta contra o direito à informação, já que ordena que consumamos a partir de critérios de lucro, agrupando-nos em bolhas informativas que conduzem a sociedades mais fechadas.

Não participamos. Ninguém chamou a sociedade civil à mesa do desenvolvimento e desenho de uma tecnologia que regula, de facto, nossas sociedades. Mas tampouco, e sobretudo, não nos chamaram para participar da formulação das normas que regulam essa tecnologia. O produto é, como era de se esperar, uma tecnologia autoritária e monopolista que envia ordens de países distantes e que obedecemos de modo complacente.

Mãos à obra


Mas nem tudo é sombrio. Existe uma maneira de recuperar aquilo que entregamos, e a solução é fundamentalmente começar a agir. A América Latina soube ser berço de tecnologias desenhadas com outros propósitos e objetivos. Basta olhar as tecnologias agrícolas andinas e como colocavam o eixo na sustentabilidade da vida [18]. Eram cultivados grãos com sistemas de terraço e outras técnicas que favoreciam a fertilização dos solos, o que permitia que houvesse alimentos o ano todo para alimentar a população.

Com a chegada dos conquistadores, esses sistemas caíram em desuso e a prioridade foi colocada em gerar saldos para a exportação. Assim começou o processo de desertificação do solo que continuamos sofrendo até hoje. Isso nos ensina que é possível desenvolver tecnologias com outras lógicas e objetivos. Que um mesmo problema pode ser resolvido de diferentes maneiras.

É necessário, então, recuperar os objetivos de inclusão, sustentabilidade e desenvolvimento. A inteligência artificial que se desenvolve para favorecer serviços públicos e torná-los mais eficientes não pode ter somente uma lógica de lucro, mas é necessário enxergar a diversidade de objetivos possíveis e adequar as tecnologias àqueles fins que fixemos como sociedade. Só é necessário sonhá-lo, planejá-lo e facilitá-lo.


Como princípio geral, nenhuma inteligência artificial deveria decidir sobre as vidas humanas, sua liberdade, seu futuro, trajetórias trabalhistas e direitos - Sofia Scasserra Tweet

Como princípio geral, nenhuma inteligência artificial deveria decidir sobre as vidas humanas, sua liberdade, seu futuro, trajetórias trabalhistas e direitos. Mas mais ainda, devemos começar a olhar as externalidades que são geradas a partir da inteligência artificial, fixando-nos no objetivo de desenvolvimento e industrialização digital com emprego decente para todos.

A América Latina possui um big data próprio, valioso e único. Precisa deter o extrativismo digital para manter a matéria-prima, e colocar mãos à obra em seu processamento, a fim de desenvolver uma inteligência artificial que reflita os códigos, costumes, cultura e contexto da região.

Não assinar os acordos de economia digital nos tratados de livre comércio e na OMC é um bom primeiro passo para permitir uma margem de manobra aos Estados. Mas não é suficiente. É preciso começar a transitar um caminho no qual provavelmente seja o “Estado empreendedor” que possa propiciar uma nova engenharia digital, junto com centros universitários e empresas locais [19]. Também regular.

Onde se discutem os direitos trabalhistas, civis, cidadãos e democráticos, deve existir uma intervenção mais forte do Estado, a fim de eliminar o estado de exceção que rege o desenho e a implementação da inteligência artificial. Deixar isso regulamentado por meros “códigos de ética” [20] que pressupõem a boa-fé empresária pode resultar muito caro para as futuras gerações.

É possível. Raúl Prebisch quis nos mostrar como o enfraquecimento dos termos de intercâmbio nos levava ao subdesenvolvimento. Provavelmente, aproveitar as novas vantagens comparativas que são geradas diariamente em setores que estão apenas começando a nascer seja o caminho possível para um sonho de industrialização digital latino-americano e soberano. Trata-se também de soberania tecnológica e cultural. Precisamos do desenvolvimento, e para isso necessitamos, como ponto de partida, da informação: saber de nós mesmos mais do que eles sabem de nós.
Notas

1. A. Turing: “Computing Machinery and Intelligence”, en Mind vol. LIX No 236, 10/1950.

2. Kai Beckmann: “Will Computers Eventually be Smarter than Humans? The Future Transformation»”, en Merck, 24/5/2020.

3. Machine learning ou aprendizagem automática se refere a sistemas que aprendem sozinhos sobre a base da informação que recebem.

4. Safiya Noble: ‘Algorithms of Oppression: How Search Engines Reinforce Racism’, NYU Press, Nueva York, 2018.

5. V. a página web de “Algoritmic Justice League” [Liga de Justiça Algorítmica], www.ajl.org/.

6. “Apple’s ‘Sexist’ Credit Card Investigated by us Regulator” en BBC News, 11/11/2019.

7. Jeffrey Dastin: “Amazon Scraps Secret ai Recruiting Tool that Showed Bias against Women”, en Reuters, 10/10/2018.

8. El sítio “Data usa” destaca que quase 92% daqueles que programam nos Estados Unidos são homens. V. estadísticas en https://datausa.io/profile/soc/computer-control-programmers-operators#demographics.

9. “5 Reasons Why Investors Love Intellectual Property”, en “EU StartUps”, 8/1/2018.

10. “Oxfam Response to WTO TRIPS Waiver for covid-19 Vaccines Being Blocked again by Rich Countries - a massive missed opportunity to speed up and scale up the production of lifesaving vaccines worldwide”, en “Relief Web”, 11/3/2021, https://reliefweb.int/report/world/oxfam-response-wto-trips-waiver-covid-19-vaccines-being-blocked-again-rich-countries.

11. Ha-Joon Chang: “Retirar la escalera. La estrategia del desarrollo en perspectiva histórica”, Libros de la Catarata, Madrid, 2004.

12. Ulises Mejías e Nick Couldry: “Colonialismo de datos: repensando la relación de los datos masivos con el sujeto contemporáneo”, en “Virtualis. Revista de Cultura Digital”, vol. 10 No 18, 2019.

13. V. por exemplo, a proposta europeia: “Joint Statement on Electronic Commerce: EU Proposal for WTO Disciplines and Commitments Relating to Electronic Commerce”, www.europeansources.info/record/joint-statement-on-electronic-commerce-eu-proposal-for-wto-disciplines-and-commitments-relating-to-electronic-commerce/ .

14. Para mais informação sobre esse tema, v. Sanya Reid Smith: “Some Preliminary Implications of wto Source Code Proposal”, “Third World Network”, trabalho apresentado na 11ª Conferência Ministerial da OMC, Buenos Aires, de 10 a 13 de dezembro de 2017.

15. S. Zuboff: “La era del capitalismo de la vigilancia”, Paidós, Buenos Aires, 2020.

16. “Houston Teachers File Federal Lawsuit Over Evaluation System”, em “Houston Public Media”, 1/5/2014. Sobre o caso da Grã-Bretanha, v. “A-Levels: ‘Dreams Ruined by an Algorithm’”, em BBC News, 13/8/2020.

17. A inteligência artificial, através do machine learning, consegue aprender de sus erros, e é difícil saber até onde pode chegar sua capacidade de inovação e aprendizagem. Um exemplo disto é a tecnologia gpt-3, recentemente superada por uma tecnologia similar na China. Esta tecnologia consegue imitar a lógica e a escritura humanas quase perfeitamente, dado que pode processar 1,75 bilhão de parâmetros. Para mais informação, v. Cristian Rus: “China desvela el modelo de aprendizaje profundo más grande de la historia: 10 veces mayor que gpt-3 de Open AI”, em “Xakata”, 3/6/2021. Mesmo assim, a inteligência artificial continua encontrando dificuldades para “pensar fora da caixa”. Abundam exemplos divertidos dessa situação: por exemplo, o caso de um automóvel da Tesla que detectava múltiplos semáforos na rua porque circulava atrás de um caminhão que transportava, justamente, semáforos. O vídeo pode ser visto em https://twitter.com/fsd_in_6m/status/1400207129479352323 .

18. John Murra: “Formaciones económicas y políticas del mundo andino”, IEP, Lima, 1975.

19. V. Mariana Mazzucato: “El Estado emprendedor. Mitos del sector público frente al privado”, RBA, Barcelona, 2019. Mazzucato explica como o Estado foi e continua sendo o motor da inovação global e como as empresas se servem dos grandes riscos que o Estado assume para depois privatizar os lucros e estatizar as perdas, o que por sua vez faz com que este seja visto como ineficiente e fraco.

20. Um bom exemplo são os delineamentos da Comissão Europeia; mas embora essas guias são úteis, não são suficientes. Grupo Independente de Especialistas de Alto Nível sobre Inteligência Artificial: “Directrices éticas para una ia fiable”, Comissão Europeia, Bruxelas, 2019, disponível em https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai.

Nenhum comentário:

Postar um comentário