Biblioteca da Pilon #03 📚
Nexus: Uma breve história das redes de informação, da Idade da Pedra à inteligência artificial - Yuval Harari
👋 Esse é mais um post da Brilliant Basics, a sua newsletter sobre tópicos de produto sem filtros. Toda semana tem conteúdo novo para fomentar as mentes pensantes a criarem produtos melhores.
Quando a Carol Pilon participou do Papo na Arena, ela tinha uma lista tão, mas tão grande de livros pra indicar que a gente precisou criar a Biblioteca da Pilon.
De tempos em tempos, ela vai fazer uma resenha de algum livro, trazendo as relações com produto, carreira e liderança. Para ler o primeiro, só clicar no link abaixo:
Oie, pessoal. Hoje eu vim contar um pouco pra vocês sobre o meu aprendizado quanto ao livro Nexus: Uma breve história das redes de informação, da Idade da Pedra à inteligência artificial, do Yuval Harari, mesmo autor de best sellers como “Sapiens”, “Homo Deus”, entre outros. Vem comigo, que hoje o texto tá cabeçudo.
Dica: dá pra usar a ferramenta amada do Arthur, Speechify, e transformar num podcast para ouvir enquanto corre no parque ou está no trânsito.
TL;DR:
O autor traz a sua perspectiva quanto aos impactos que AI pode desempenhar na sociedade futura, sob um ponto de vista antropológico e histórico, utilizando-se de elementos narrativos que muitas vezes fogem do que nós, do meio de tecnologia, estamos acostumados.
Sua argumentação toda parte de uma tese já conhecida de Yuval em seus outros livros, em defesa de que o ser humano foi a espécie capaz de exercer poder sobre todas as outras no planeta devido a sua capacidade de colaboração e, para isso, constroi narrativas que unem os diversos agentes sociais em prol de objetivos comuns.
Mas até aí, o que isso tem a ver com AI? E se somos a espécie mais inteligente, por que com todo esse nível de evolução, ainda nos encontramos em um cenário de percepção de piora global, ambiental, violência, poluição, crises, conflitos internacionais e migratórios?
E aí entra o ponto chave de toda sua argumentação: não é apenas uma questão de informação e conhecimento, mas também, e prioritariamente, uma questão política e de interesses, bem como a relação entre AI com a democracia. O spoiler aqui é que, em geral, sua visão é preocupante e bem pegada ficção científica, onde inteligências artificiais não conscientes podem ser equivocadamente desenvolvidas, ameaçando o domínio dos humanos em nossa sociedade.
Visão ingênua de que “mais informação é mais sabedoria“
O primeiro contexto necessário tratado no livro é a necessidade de esclarecer que mais informação não significa mais sabedoria. Ou seja, como sociedade, acumulamos cada vez mais informação mas não temos necessariamente uma aplicação mais sábia desse imenso volume de dados.
Agora que temos drones, chats inteligentes, bancos de dados que se retroalimentam, o que fazer? O texto já se inicia trazendo senso de responsabilidade ao leitor e o perigo de se aplicar uma “visão naive” do uso da informação, principalmente na era da inteligência artificial. Conhecimento nas mãos erradas ou incompetentes, pode ser fatal, sejam elas humanas, ou não.
O poder da informação, nas mãos certas ou erradas
A informação constrói histórias, e elas que sim conectam e atribuem poder, sendo elas verídicas ou não. Ou seja, o problema está no meio do caminho. Há exemplos disso em diversas esferas, e aqui, não vou questionar a veracidade, ou não deles, mas apenas ilustrar algumas narrativas que, de fato, moveram a sociedade coletivamente, como as religiões, o paradoxo astrologia e astronomia, ou mesmo, sistemas políticos, em sua maioria, baseados em uma ficção, tais como a constituição americana ou os mandamentos de Maomé. Alguns admitem seu caráter fictício, e alguns não.
O fato é que, independente da sua veracidade, ou não, narrativas são instrumento para manutenção da ordem, não necessariamente da verdade. Não é novidade para ninguém a existência de governos, por exemplo, que limitam o acesso à informação, ou despriorizam a verdade, frente a narrativa, para manutenção da ordem.
A relação da tecnologia com a informação
Até chegar onde estamos hoje, a evolução tecnológica relacionada às redes de informação passou por diversas etapas, partindo da criação de documentos escritos há milênios atrás, que tornaram possível a organização de sociedades complexas, do ponto de vista comercial, político, financeiro e social.
Documentos em grande volume evoluíram para burocracias, que, apesar de serem a única forma de viabilizar a escala de muitos processos complexos, como casos jurídicos ou procedimentos hospitalares, podem também atrasar e dificultar o acesso à verdade em muitos dos casos, e distanciar os que criam as regras dos que as obedecem, tornando cada vez mais difícil o entendimento das estruturas de poder.
Depois da documentação e da burocracia, chegamos ao cenário que nos encontramos agora, com uma tecnologia inteligente, cujo motor de regras fica cada vez mais distante de nosso controle, assim como a tomada de decisão.
Se entendemos que redes de informação constroem narrativas, que detém o poder, como evitar que uma caixa preta dona disso tudo nos domine de forma onipresente? Quais são os mecanismos que garantem que isso não ganhe força própria e regulam o equilíbrio entre verdade e ordem?
Controle de informação e regimes políticos
Para resumir, vamos falar de dois conceitos: democracias e ditaduras.
Democracia utiliza-se da tecnologia de informação para potencializar os diferentes agentes da cadeia através de distribuição entre poderes diversos como legislativo, executivo, judiciário, mídia e poderes privados. Nesse contexto, quanto mais a tecnologia evolui e mune os diversos agentes, mais fluida é a troca de informação, e mais livre a sociedade é.
Por outro lado, ditaduras utilizam-se da tecnologia da informação como mecanismo de vigilância e monitoramento, e seu primeiro ataque é justamente a liberdade das instituições. Ou seja, poderes público e privados podem deter o controle da vigilância e da narrativa, de forma centralizada, para eliminar a independência de outros agentes como mídia livre, poder judiciário ou militar, e exercer controle sobre a sociedade. E é aí que mora o perigo.
Futuro e a relação com tecnologia
Isso leva a questão principal do texto e, talvez, do nosso século: Quão bem as democracias lidarão com as ameaças e oportunidades oriundas da revolução inteligente de informação?
Algoritmos são feitos para cumprir um objetivo. Isso, atualmente tem seus usos conhecidos positivos, como troca benéfica de serviços, segurança pública, saúde e serviços essenciais. Mas também se manifesta em casos bizarros, como divulgação de fake news por redes sociais. Neste último caso, o objetivo é claro: engajamento. Porém o caminho para chegar a isso fica turvo e abrange questões muito mais complexas. Não é à toa que anúncios como o recente de Zuckerberg, sobre rompimento de contrato com empresa de verificação de informação, ganham força.
Segundo o autor, a origem dessas problemáticas vem da confusão comum entre conceitos de inteligência e consciência.
“Intelligence is the ability to attain goals, such as maximizing user engagement on a social media platform. Consciousness is the ability to experience subjective feelings like pain, pleasure, love, and hate.”
E a complexidade está aí: uma vez que “entidades” como AI podem ser inteligentes, mas não conscientes, as implicações passam a assumir dimensões não presenciadas anteriormente. Isso se agrava à medida que o caráter humano sai do jogo da cadeia de informação. Quais as implicações de remover a consciência, mantendo a inteligência? Quão preparados estamos para isso?
E a relação dos órgãos públicos com isso?
Falando de preparo, o autor começa a encerrar o livro com o link da responsabilidade dos agentes diversos nisso tudo:
“The computer network is disrupting almost all power structures. Democracies fear the rise of new digital dictatorships. Dictatorships fear the emergence of agents they don’t know how to control.”
E a verdade, do ponto de vista do autor, é que apesar de haver muito desenvolvimento em tecnologia, ninguém de fato sabe as implicações que AI pode ter na sociedade, ao menos agora, tudo é especulação e futurismo. E isso não é porque somos estúpidos, mas porque de fato é um tema extremamente complexo e evolui numa velocidade praticamente impossível de acompanhar.
O exemplo disso são os órgãos regulatórios, visivelmente despreparados. Um use case claro é o da Bytedance, que coleta um volume absurdo de informações de usuários via Tiktok, para treinar seus modelos de reconhecimento de imagem, não paga nada por isso, e vende como tecnologia para outros interessados. E ainda numa escala universal, rompendo barreiras nacionais. É o conhecido caso do “Se você não paga pelo produto, o produto é você”, de Andrew Lewis.
Quem tem preparo para taxar ou regulamentar esse tipo de transação? Governos sabem taxar dinheiro, mas não sabem taxar informação.
E a nossa relação como “cidadão-tech” com isso?
A provocação aqui é: para exercer nosso papel social, primeiro precisamos entender o que são as novas tecnologias e do que são capazes. É o que sempre é comentado aqui na Arena: hoje em dia, AI é muito mais sobre o que somos capazes de fazer com ela. Óbvio que nem todos necessitam de um PhD em ciência de dados, mas o que não falta é informação disponível para conhecimento geral, o próprio podcast com Arthur e Aiquis, por exemplo.
Para que computadores tenham uma visão mais responsável do mundo, precisam ser ensinados a isso, tendo consciência do seu impacto e poder. E para isso acontecer, desenvolvedores, PMs, designers, precisam aceitar que não estão simplesmente desenvolvendo novas features, mas sim, redesenhando as lógicas políticas, sociais e culturais e dando vida a novos agentes independentes.
Por isso o problema aqui extravasa o limite da tecnologia e passa a ser um problema de natureza política. E, creio que a provocação pertinente a todos nós aqui, da área de tecnologia é que durante muitas décadas, foi possível se isolar do contexto político na bolha geek de tech, muito por conta da expansão próspera do segmento que nos blindou da realidade do mundo. Mas agora o jogo vem mudando e saber interpretar os efeitos que a tecnologia tem na democracia e, mais que tudo, na nossa liberdade, será chave, não só para a nossa prosperidade, mas também, para nossa sobrevivência.
É prudente entender que, inevitavelmente, poderes políticos ou iniciativa privada vão utilizar a tecnologia em favor da sua narrativa. E que aí cabe a nós trazermos uma visão holística dos fatos, não da ideologia. A provocação que vem daí é que talvez tenhamos que abandonar a visão muitas vezes ideológica - e ingênua - que aprendemos com as gerações anteriores, sobre a tendência de se aproximar do conteúdo que mais diz respeito aos seus valores, porque de fato, diferentemente do passado, o conteúdo informacional atual está submetido a moderação em escala (o que é basicamente impossível) e proporção massiva de falsas informações e interferência política.
Informação é poder, mas informação não é sabedoria. Hoje em dia, consumir informação é o princípio básico para viver de forma consciente. Consumir informação de qualidade é o desafio e a alavanca que vem na sequência.
Valeu demais, galera!!