Preocupam a alienação e a distância que se toma da emancipação humana

Ricardo Viveiros, Jornalista, professor e escritor, é doutor em educação, arte e história da cultura; autor, entre outros, de “A Vila que Descobriu o Brasil” (Geração), “Justiça Seja Feita” (Sesi-SP) e “Memórias de um Tempo Obscuro” (Contexto). Folha de São Paulo, 25/03/2024

Livros são um prazer. Além do conteúdo, as conexões que provocam com outras obras me gratificam “A Nova Razão do Mundo: Ensaio sobre a Sociedade Neoliberal” de Pierre Dardot e Christian Laval, surpreendeu pela quantidade de referências que me vieram à mente. Como em um caleidoscópio, convidei para “conversar” Friedrich August von Hayek, John Maynard, Fernando Henrique Cardoso, Michel Foucault, Karl Marx e representantes da Escola de Chicago. Crítico que sou, a ideia de que há algo sensato em uma sociedade liberal não me convence. O colonialismo foi uma dominação capitalista. Parafraseando Caetano Veloso, cantarolei “como são lindos os neoliberais, mas tudo é muito mais” (“Podres Poderes”, 1984). Fique claro que a “nova razão” dos autores está associada ao novo sentido e à pretensão holística do neoliberalismo. A dominação sobre a economia é só o ponto de partida. Dardot e Laval utilizam complexas análises históricas e sociais, além de outras psicanalíticas, para fundamentar a obra. Talvez o pensamento que melhor sintetize o neoliberalismo esteja na frase da ex-primeira-ministra britânica Margaret Thatcher: “A economia é o método. O objetivo é mudar a alma”. A ideia assombra, mas faz sentido. Para os detratores de ideologias, sejam elas quais forem, os intelectuais recorrem à interpretação vanguardista com a precisa fundamentação filosófica de Michel Foucault e Karl Marx, entre outros, com o propósito de revelar o mito neoliberal da objetividade econômica. Neoliberalismo é ideologia, sim, e das mais complexas! A psicanálise é outra ferramenta indispensável para elucidar o problema. Muitos fantasmas e cobranças que ocupam nossa mente vêm dessa “nova razão”. Corpo perfeito, família perfeita e profissional perfeito são idealizações imaginárias que alimentamos sem cuidado. A alienação e a distância que se toma da emancipação humana, proposta por Marx, preocupam. Na política, a deterioração da democracia parece algo natural nessa nova diretriz. Ao neoliberalismo não importam liberdade e justiça, exceto se estiverem em favor do sistema de dominação e lucro. Políticos como o estadunidense Donald Trump conseguem manter a popularidade e podem voltar à Presidência, mesmo após a prática de criminosos atos antidemocráticos. Ainda que a economia seja um pilar importante na avaliação dos cidadãos, questões como xenofobia, discriminação, violência e outras são ignoradas dentro da cultura neoliberal. Está aberto o caminho para discursos totalitários. Ao contrário do interesse da sociedade, está no consenso que o controle da coisa pública pelo setor privado é a melhor opção. Ou seja, o cidadão prefere não fazer parte da administração dos seus impostos. Assim, além de atestar a própria incapacidade de atuar na vida do país, o eleitor afirma que o setor privado —que objetiva o lucro— está mais imbuído de melhores intenções do que o gestor público. A dominação não é só econômica, a “alma” já está comprometida. Talvez desenvolvimentistas como Hayek e Keynes não tivessem a dimensão do que se tornaria o neoliberalismo. kaitkrems nude lubreezy79 O combate às teorias que privilegiavam iniciativas coletivas e a valorização de ações individuais não acabariam em uma cultura de dominação tão ampla, até psiquiátrica. Isso não estava no horizonte dos representantes da Escola de Chicago; eles pensavam em melhorar a economia. Menos ainda em Fernando Henrique Cardoso e sua “Teoria da Dependência”, que, confrontada com o seu exercício do poder, revela a luta entre o pensador e o político. Mas, de alguma forma, todas essas teses compõem a base do neoliberalismo real. A dinâmica da economia funciona com uma complexidade que não é vista pela maioria das pessoas. Ações nas Bolsas de Valores são movidas ao sabor das especulações. Apenas a minoria consegue avaliar quanto o sistema é invasivo no seu cotidiano. Os que têm boas interpretações da realidade devem contribuir para a construção da liberdade mais plena de todos nós. Nesse sentido, o livro de Dardot e Laval traz a lição: a consciência de que vida humana e suas relações devem estar acima de qualquer interesse econômico.

Apropriação do trabalho intelectual coletivo. Precarização. Desenvolvimento de robôs assassinos. Se ficar sob controle de corporações, nova tecnologia será fonte de pesadelos. Por isso as sociedades, mais que regulá-la, precisam dirigi-la

Mariana Mazzucato – OUTRAS PALAVRAS – 22/03/2024

Em dezembro passado, a União Europeia (UE) estabeleceu um precedente global ao finalizar a Lei de Inteligência Artificial, um dos conjuntos de regras de IA mais abrangentes do mundo. A legislação emblemática da Europa pode sinalizar uma tendência mais ampla em direção a políticas de IA mais responsivas. Mas embora a regulamentação seja necessária, não é suficiente. Além de impor restrições às empresas privadas de IA, os Estados devem assumir um papel ativo no desenvolvimento da tecnologia, projetando sistemas e moldando mercados para o Comum.

É claro que os modelos de IA estão evoluindo rapidamente. Quando os reguladores da UE divulgaram o primeiro rascunho da lei sobre o tema em abril de 2021, eles gabaram-se de ele ser supostamente “à prova de futuro”. Apenas um ano e meio depois, correram para atualizar o texto, em resposta ao lançamento do ChatGPT. Mas os esforços regulatórios não são em vão. Por exemplo, a proibição, por lei, do uso de IA no policiamento por biometria continuará provavelmente relevante, em que pesem os avanços na tecnologia. Além disso, os parâmetros de risco incluídos na lei de IA ajudarão os formuladores de políticas a se proteger contra alguns dos usos mais perigosos da tecnologia. Embora a IA tenda a se desenvolver mais rápido do que a política, os princípios fundamentais da lei não precisarão mudar – embora ferramentas regulatórias mais flexíveis sejam necessárias para ajustar e atualizar as regras.

Mas pensar no Estado apenas como regulador é perder de vista o aspecto principal. A inovação não é apenas um fenômeno de mercados sagazes. Ela tem uma direção; e esta depende das condições em que emerge. Os formuladores de políticas públicas podem influenciar essas condições. O surgimento de um design tecnológico ou modelo de negócios dominante é o resultado de uma luta de poder entre vários atores – corporações, órgãos governamentais, instituições acadêmicas — com interesses conflitantes e prioridades divergentes. Ao refletir essa luta, a tecnologia resultante pode ser mais ou menos centralizada, mais ou menos proprietária, e assim por diante.

Os mercados que se formam em torno de novas tecnologias seguem o mesmo padrão, com implicações distributivas importantes. Como o pioneiro do software Mitch Kapor coloca, “Arquitetura é política”. Mais do que regulamentação, o design de uma tecnologia e da infraestrutura que a circunda dita quem pode fazer o quê com ela e quem se beneficia. Para assegurarem que inovações transformadoras produzam crescimento inclusivo e sustentável, não basta que os Estados corrijam os mercados. Eles precisam moldá-los e cocriá-los. Quando os Estados contribuem para a inovação por meio de investimentos ousados, estratégicos e orientados para missões, eles podem criar novos mercados e atrair o setor privado.

No caso da IA, a tarefa de direcionar a inovação está atualmente dominada por grandes corporações privadas. Isso leva a uma infraestrutura que serve aos interesses dos já envolvidos e agrava a desigualdade econômica. É o reflexo de um problema de longa data. Algumas das empresas de tecnologia que mais se beneficiaram de apoio público – como Apple e Google – também foram acusadas de usar suas operações internacionais para evitar o pagamento de impostos. Essas relações desequilibradas e parasitárias entre grandes empresas e o Estado agora correm o risco de ser ampliadas pela IA, que promete recompensar o capital enquanto reduz as rendas conferidas ao trabalho.

As empresas que desenvolvem IA generativa já estão no centro dos debates sobre comportamentos extrativistas, devido ao seu uso desenfreado de textos, áudios e imagens protegidos por direitos autorais, para treinar seus modelos. Ao centralizarem o valor dentro de seus próprios serviços, elas reduzirão os fluxos de recursos para os artistas de quem dependem. Assim como nas redes sociais, os mecanismos estão alinhados para a extração de renda, cuja lógica é permitir que intermediários dominantes acumulam lucros às custas de outros. As plataformas que prevalecam hoje – como Amazon e Google – exploraram sua posição dominante usando seus algoritmos para extrair tarifas cada vez maiores (“rendas de atenção algorítmica”) para acesso aos usuários. Uma vez que Google e Amazon se tornaram um gigantesco esquema de jabaculês, a qualidade da informação deteriorou e as plataformas passaram a extrair valor do ecossistema de sites, produtores e desenvolvedores de aplicativos nos quais as se baseiam. Os sistemas de IA de hoje poderiam seguir um caminho semelhante: extração de valor, monetização disfarçada e deterioração da qualidade da informação.

Governar modelos de IA generativa para o Comum exigirá parcerias mutuamente benéficas, orientadas para objetivos compartilhados e a criação de valor público, e não apenas privado. Isso não será possível com Estados que agem apenas após os fatos consumados. Precisamos de Estados empreendedores, capazes de estabelecer estruturas pré-distributivas que compartilhem riscos e recompensas ex ante. Os formuladores de políticas devem se concentrar em entender como as plataformas, os algoritmos e a IA generativa criam e extraem valor, para que possam estabelecer as condições – entre elas, regras de design equitativas – para uma economia digital que remunere a criação de valor.

Lembre-se da História

A internet é um bom exemplo de uma tecnologia que foi projetada a partir de princípios de abertura e neutralidade. Considere o princípio do “ponto a ponto”, que garante que ela opere como uma rede neutra,k responsável pela entrega de dados. O conteúdo entregue de computador para computador pode ser privado, mas o código é gerenciado publicamente. E a infraestrutura física necessária para acessar a internet é privada, mas o desenho original assegurou que, colocados online, os recursos para a inovação na rede são livremente disponíveis.

Essa escolha de design, coordenada [nos EUA] pelo trabalho inicial da Agência de Projetos de Pesquisa Avançada de Defesa (entre outras organizações), tornou-se um princípio orientador para o desenvolvimento da internet, permitindo flexibilidade e inovação extraordinárias nos setores público e privado. Ao visualizar e moldar novos espaços de criação, o Estado pode estabelecer mercados e direcionar o crescimento, em vez de apenas incentivá-lo ou estabilizá-lo.

É difícil imaginar que empresas privadas, encarregadas de desenvolver a internet na ausência de envolvimento governamental, tivessem aderido a princípios igualmente inclusivos. Considere a história da tecnologia telefônica. O papel do Estado foi predominantemente regulatório. A inovação foi deixada, em grande medida, nas mãos de monopólios privados. Este tipo de centralização não apenas prejudicou o ritmo da inovação, mas também limitou os benefícios sociais mais amplos que poderiam ter surgido.

Por exemplo, em 1955, a American Telephone and Telegraph (AT&T) persuadiu a Comissão Federal de Comunicações a banir um dispositivo que reduziria o ruído nos receptores telefônicos, alegando direitos exclusivos para melhorias na rede. O mesmo tipo de controle monopolista poderia ter relegado a internet a ser apenas um instrumento de nicho para um grupo seleto de pesquisadores, em vez da tecnologia universalmente acessível e transformadora em que se converteu.

Da mesma forma, a transformação do GPS – de uma ferramenta militar para uma tecnologia universalmente benéfica – destaca a necessidade de governar a inovação para o bem comum.

Inicialmente projetado pelo Pentágono para coordenar ações militares, o acesso público aos sinais de GPS foi deliberadamente rebaixado, por motivos de segurança nacional. Mas, à medida que o uso civil ultrapassou o militar, o governo dos EUA, sob o presidente Bill Clinton, tornou o GPS mais responsivo aos usuários civis e comerciais em todo o mundo.

Essa mudança não apenas democratizou o acesso à tecnologia de geolocalização precisa, mas também estimulou uma onda de inovação em muitos setores, incluindo navegação, logística e serviços baseados em localização. Uma mudança de política que buscava maximizar o benefício público teve um impacto transformador e de longo alcance na inovação tecnológica. Mas esse exemplo também mostra que governar para o bem comum é uma escolha consciente que requer investimento contínuo, alta coordenação e capacidade de entrega.

Para aplicar essa escolha à inovação em IA, precisaremos de estruturas de governança inclusivas e orientadas para missões, com meios para investir conjuntamente com parceiros que reconheçam o potencial da inovação liderada pelo Estado. Para coordenar respostas de múltipos atores a objetivos ambiciosos, os formuladores de políticas devem estabelecer condições para financiamento público, de modo que os riscos e recompensas sejam compartilhados de forma mais equitativa. Isso significa objetivos claros, aos quais as empresas precisam se adequar; altos padrões de trabalho, sociais e ambientais; e compartilhamento de lucros com o público. As condicionalidades podem e devem exigir que as Big Tech sejam mais abertas e transparentes. Não devemos aceitar nada menos do que isso, se quisermos levar a sério a ideia de capitalismo de stakeholders.

Por fim, enfrentar os perigos da IA exige que os governos ampliem seu papel além da regulação. Sim, diferentes governos têm capacidades diferentes, e alguns são altamente dependentes da economia política global mais ampla da IA. A melhor estratégia para os Estados Unidos pode não ser a melhor para o Reino Unido, a UE ou qualquer outro país. Mas todos devem evitar a falácia de presumir que governar a IA para o Comum está em conflito com a criação de um setor de IA robusto e competitivo. Pelo contrário, a inovação floresce quando o acesso às oportunidades está aberto e as recompensas são amplamente compartilhadas.

Mariana Mazzucato, é uma economista italiana, professora da cátedra RM Phillips de Ciência e Tecnologia da Universidade de Sussex.

Avançam, em todo o mundo, ações judiciais contra Big Techs. Sociedades reagem à dependência que induzem, em prol do lucro máximo. Base de um plano para transformá-las é redesenhar os algoritmos, para que priorizem a invenção humana

Mariana Mazzucato e Ilan Strauss – OUTRAS PALAVRAS – 13/03/2024

A implantação de algoritmos para maximizar o engajamento do usuário é a forma como as grandes empresas de tecnologia maximizam o valor para os acionistas, e os lucros de curto prazo geralmente têm precedência sobre os objetivos de negócios de longo prazo. Agora que a inteligência artificial está preparada para impulsionar a economia das plataformas, são urgentemente necessárias novas regras e estruturas de governança para salvaguardar o público.

Num novo processo judicial nos Estados Unidos contra a Meta, 41 estados e o Distrito de Colúmbia sustentam que duas das redes sociais da empresa (Instagram e Facebook) não são apenas viciantes, mas também prejudiciais ao bem-estar dos menores. A Meta é acusada de implementar um “esquema para explorar jovens usuários com fins lucrativos”, o que inclui mostrar-lhes conteúdo prejudicial que os mantém grudados em suas telas. De acordo com uma pesquisa recente, os jovens estadunidenses de 17 anos passam 5,8 horas por dia nas redes sociais. Como tudo isso veio à tona? A resposta, em uma palavra, é “engajamento”.

A utilização de algoritmos concebidos para maximizar o “engajamento” dos usuários é a forma das Big Tech maximizarem o valor para os acionistas, cujo resultado são lucros a curto prazo muitas vezes superiores aos objetivos empresariais de longo prazo (isso sem falar da saúde coletiva).

Como explica o cientista de dados Greg Linden, algoritmos baseados em “más métricas” promovem “maus incentivos” e abrem caminho aos “maus atores”.

O Facebook começou como um serviço básico para conectar amigos e conhecidos na internet, mas com o tempo seu design evoluiu da satisfação das necessidades e preferências dos usuários para mantê-los dentro da plataforma e longe de outras pessoas. Para atingir esse objetivo, a empresa desconsiderou repetidamente as preferências explícitas dos consumidores em relação ao tipo de conteúdo que desejam visualizar, à privacidade e ao compartilhamento de seus dados.

A primazia dos lucros imediatos passa por induzir os usuários a clicar, mesmo que o resultado global desta estratégia seja dar prioridade a materiais sensacionais e de baixa qualidade, em vez de dar a devida recompensa a um universo mais vasto de criadores de conteúdos, usuários e anunciantes. Chamamos estes lucros de “rendas algorítmicas de atenção”, porque são gerados através da posse passiva (como a dos proprietários de terras) em vez de atividade produtiva destinada a satisfazer as necessidades dos consumidores.

Identificar o comportamento rentista na economia atual requer a compreensão de como as plataformas dominantes exploram o controle algorítmico que têm sobre os usuários. Um algoritmo que degrada a qualidade dos conteúdos que promove está abusando da confiança dos usuários e da posição dominante reforçada pelo efeito de rede. É assim que o Facebook, o Twitter e o Instagram podem seguir seu caminho e continuar enchendo suas páginas com anúncios e viciantes conteúdos “sugeridos”. Como explica o especialista em tecnologia Cory Doctorow de forma um tanto colorida, “a merdificação (enshittificação) das plataformas vem do canhão de um algoritmo” (que por sua vez pode depender de práticas ilegais de coleta e compartilhamento de dados).

O processo contra o Meta tem a ver, em última análise, com suas práticas algorítmicas, cuidadosamente projetadas para maximizar o “engajamento” dos usuários: mantê-los na plataforma por mais tempo e suscitar mais comentários, “curtidas” e republicações. Muitas vezes acontece que uma boa maneira de conseguir isso é exibir conteúdo prejudicial e que beira o ilegal, e transformar o tempo gasto na plataforma em uma atividade compulsiva, por meio de recursos como “rolagem infinita” e o envio incessante de notificações e alertas (técnicas que em muitos casos também são utilizadas com grande eficácia na indústria dos jogos de azar).

À medida que os avanços na inteligência artificial (IA) começam a potencializar as recomendações algorítmicas e a torná-las ainda mais viciantes, são urgentemente necessárias novas estruturas de governança orientadas para o “bem comum” (em vez de uma ideia estreita de “valor para os acionistas”) e alianças simbióticas entre empresas, governos e sociedade civil. Felizmente, está ao alcance das autoridades reformar estes mercados para os colocar ao serviço do bem comum.

Em primeiro lugar, em vez de se basearem exclusivamente na legislação antitruste e de defesa da concorrência, as autoridades devem adotar ferramentas tecnológicas que evitem que as plataformas encarcerem usuários e desenvolvedores. Uma forma de evitar a criação espaços fechados anticoncorrenciais é exigir a portabilidade e a interoperabilidade dos dados entre os serviços digitais, para que os usuários possam facilmente passar de uma plataforma para outra se aquela em que se encontram não corresponder às suas necessidades e preferências.

Em segundo lugar, é essencial uma reforma da governança corporativa, uma vez que o que levou as plataformas à exploração algorítmica dos usuários foi o princípio da maximização do valor para o acionista. Dados os custos sociais bem conhecidos deste modelo de negócio (a busca do maior número possível de cliques conduz muitas vezes à multiplicação de fraudes, desinformação e materiais que incentivam a polarização política), a reforma da governança exige uma reforma dos algoritmos.

Um primeiro passo para a criação de um modelo de base mais saudável é exigir que as plataformas divulguem (no seu relatório anual 10K [que fornece aos investidores uma análise abrangente da empresa] que devem apresentar à Comissão de Valores Mobiliários dos EUA) as métricas que os seus algoritmos visam otimizar, bem como o modo que isso monetiza os usuários. Num mundo onde os executivos da tecnologia vão a Davos todos os anos para falar sobre o “propósito” social das suas empresas, uma divulgação oficial de dados irá pressioná-los a cumprir o que dizem e ajudar os decisores políticos, reguladores e investidores a distinguir entre lucros merecidos e rendas indevidas.

Terceiro, os usuários precisam ter mais influência sobre como os algoritmos priorizam as informações que lhes são mostradas. Caso contrário, o desrespeito pelas preferências dos usuários continuará a causar danos, pois os algoritmos criam ciclos de retroalimentação nos quais induzem os usuários a clicar em determinados conteúdos e depois inferem erroneamente que essas são as suas preferências.

Em quarto lugar, a metodologia padrão da indústria de “teste A/B” deve dar lugar a avaliações de impacto mais abrangentes a longo prazo. O mau uso da ciência de dados leva ao imediatismo algorítmico. Por exemplo, uma teste A/B pode mostrar que o aumento do número de anúncios em exibição terá um efeito positivo a curto prazo sobre os lucros, sem causar uma deterioração óbvia na retenção de usuários; mas isto ignora o impacto na aquisição de novos usuários, para não mencionar quase todos os outros efeitos potencialmente prejudiciais a longo prazo.

A ciência de dados bem utilizada mostra que otimizar os sistemas de recomendação para não buscar recompensas imediatas (por exemplo, visando, em vez disso, a satisfação do cliente e a aquisição e retenção de usuários futuros) é a melhor maneira que as empresas têm para reforçar o crescimento e a lucratividade no longo prazo (supondo que eles possam parar de concentrar toda a sua atenção no próximo relatório de lucros trimestrais). Em 2020, uma equipe da Meta determinou que, em um horizonte de tempo mais longo (um ano), a redução do número de notificações intrusivas melhoraria a utilização do aplicativo e a satisfação dos usuários. Uma grande diferença foi encontrada entre os efeitos de longo prazo e os efeitos de curto prazo.

Em quinto lugar, a IA pública deve ser posta em ação para avaliar a qualidade dos resultados dos algoritmos, particularmente na área da publicidade. Face aos danos consideráveis causados pela flexibilização dos critérios de aceitação de anúncios por parte das plataformas, a autoridade britânica responsável pelo controle publicitário começará a utilizar ferramentas de IA para analisar anúncios e identificar aqueles que fazem “afirmações duvidosas”. Outros países deveriam seguir o exemplo. Igualmente importante, a avaliação da IA deve ser um componente regular da disposição das plataformas para permitir auditoria externa dos resultados dos algoritmos.

Criar um ambiente digital que recompense a criação de valor a partir da inovação e puna a extração de valor rentista (particularmente nos maiores mercados digitais) é o desafio econômico fundamental dos nossos tempos. Para preservar a saúde dos usuários das corporações de tecnologia e da totalidade de seu ecossistema, é necessário evitar que os algoritmos fiquem subordinados ao desejo dos acionistas de lucros imediatos. Se os diretores empresariais realmente acreditam no princípio do valor para as partes interessadas, devem aceitar que é necessária uma mudança radical na forma como o valor é criado, com base nos cinco princípios detalhados acima.

O julgamento iminente contra a Meta não pode desfazer os erros do passado. Mas à medida que nos preparamos para a próxima geração de produtos de IA, temos que instituir mecanismos para uma supervisão adequada dos algoritmos. A utilização de algoritmos baseados em IA influenciará não só o que consumimos, mas também a forma como produzimos e criamos; não apenas o que escolhemos, mas também o que pensamos. Não há espaço para erros aqui.