Tenha gostado ou não do resultado, você haverá de concordar que as eleições aqui no Brasil em 2018 foram bastante inusitadas. O poder da televisão se mostrou muito menor do que já foi, enquanto vários Youtubers foram eleitos. A polarização foi enorme e muito se falou também da disseminação de notícias pelas redes sociais, parcela significativa das quais eram falsas, de forma muito mais rápida do que os antigos discursos em praça pública e dos boatos de boca em boca.
A Justiça Eleitoral procurou fazer sua parte para mostrara a lisura do processo e ajudar a dar transparência ao mesmo, tendo lançado diversos aplicativos para serem usados nas eleições [1]. Outros atores também contribuíram, conforme relatado no artigo “Como a Tecnologia pode nos ajudar a votar melhor” [2], citando 6 projetos que cruzam tecnologia com política, dentre os quais o Mudamos do ITS Rio, membro nato da CDIA.Rio. A Twist, outro membro nato da rede, colocou na praça o Eleicoes.Live [3], através do qual foi possível acompanhar os principais assuntos ligados aos candidatos da eleição presidencial, fossem eles Tweets ou notícias e as respectivas repercussões e relevância. Fechando os exemplos, não poderia deixar de mencionar o “Político que Eu Quero” [4], uma iniciativa da Assespro.
Muitos provavelmente não ficaram sabendo de nenhuma das iniciativas acima, demonstrando como pode ser difícil disseminar uma informação legítima ao mesmo tempo em que é preciso combater as fake news. Não custa lembrar que este é um problema global de difícil solução, pelo menos por enquanto, conforme explica o artigo “Even the Best AI for Spotting Fake News Is Still Terrible” [5], sobre uma pesquisa sendo conduzida por pesquisadores do MIT em parceria com outras instituições de ensino e pesquisa. Até por conta disto, num outro artigo intitulado “Is Content Validation the Next Growth Industry?” [6], o autor defende que a grande oportunidade do momento é a validação de conteúdos, com potencial para criar até um novo ramo de negócios. São mencionadas algumas iniciativas já em curso, inclusive para detectar deepfakes, termo adotado para designar vídeos onde o rosto de uma pessoa é sobreposto no corpo de um dos participantes da cena, fazendo parecer que o tal sujeito estava lá sem nunca ter estado. Alguns deepfakes são tão perfeitos que é preciso lançar mão de peritos para identificar a farsa.
Democracia x Tecnocracia
As notícias falsas foram muito discutidas aqui no Brasil, mas diversos formadores de opinião no exterior alertam que elas são apenas a ponta do iceberg. Shelly Palmer, um conhecido comentarista de Nova York, publicou um artigo onde especula sobre a transição da Democracia para uma Tecnocracia [7]. De forma simplista, ele descreve um cenário onde as grandes empresas criadoras de plataformas para publicação de conteúdo aperfeiçoam seus modelos de negócio e práticas corporativas de forma ética e responsável (ainda que coligados numa espécie de cartel), gerando um poder paralelo supereficiente e capaz de propiciar uma qualidade de vida para a população em geral como nenhum governo jamais conseguiu. Neste cenário os políticos ficam meio que reféns das opiniões/posições majoritárias identificadas nestas plataformas, manifestando a vontade presente da “população” de forma direta, prescindindo da opinião de quem foi eleito 1, 2 ou 3 anos antes com número provavelmente menor de votos. Ele mesmo reconhece, logo em seguida, o quão ingênuo é este cenário e, ainda que possível, quão facilmente ele poderia ser desfeito – por exemplo, se os CEOs destas grandes corporações começassem a brigar entre si.
Na mesma linha, dando mais enfase a um cenário pessimista, temos o artigo do Yoval Harari para a Atlantic, “Why Technology Favors Tyranny” [8], parte de uma coletânea que busca responder a pergunta: Porque a Democracia esta morrendo? Para quem não conhece o trabalho do Harari, vale mencionar que ele próprio reconhece usar uma estratégia de realçar cenários mais extremos (embora não impossíveis na visão dele) como forma de motivar as pessoas para tomar iniciativas que ajudem a evitá-los. Dito isto, ele descreve um futuro onde a democracia liberal e os preceitos econômicos para um mercado livre podem se tornar obsoletos em função da evolução tecnológica, em especial por conta dos avanços em inteligência artificial e biotecnologia, que estão ainda na sua infância.
Me pareceu particularmente interessante a análise que ele faz do processo decisório descentralizado, seja na economia ou na política, característica do liberalismo e que permitiu até o inicio deste século a prevalência dos estados democráticos em relação a outras formas de governos, principalmente por ter propiciado uma melhor qualidade de via para seus cidadãos. Na verdade esta prevalência pode ser comparada a uma maior eficiência dos regimes democráticos em processar dados, já que com a tecnologia existente até o século XX o processamento de informações de forma centralizada, característico das ditaduras, era limitado e mais suscetível a erros cometidos por suas lideranças.
Com a evolução tecnológica e o aumento significativo do poder computacional os governos centralizados poderão ganhar uma enorme vantagem ao processar os dados de seus cidadãos numa escala até então inexistente. A mesma tecnologia que esta fazendo com que empresas rompam a barreira do US$ 1 trilhão em seus valores de mercado poderá ser usada para melhor monitorar e controlar determinadas populações. Mesmo nos regimes que permanecerem democráticos, o aumento da eficiência dos algoritmos de IA irá provavelmente deslocar o poder de decisão dos indivíduos para sistemas computacionais interligados em rede.
Segundo Harari, este é um cenário preocupante e difícil de ser evitado, pelo menos na atual conjuntura, por parlamentos e partidos políticos em todo o mundo. Mas ele não se furta a mostrar saídas possíveis para evitar este futuro, que passa necessariamente por evitar a concentração demasiada de poder e riqueza nas mãos de uma pequena elite. Para tanto é preciso regular a propriedade sobre os dados. Infelizmente não existe ainda muita experiência sobre como fazer esta regulação, que é muito mais complexa do que regular a propriedade sobre terras e máquinas, as antigas fontes de poder e riqueza, e que são a base para a legislação atualmente vigente.
Num tom igualmente preocupado, mas talvez não tão pessimista, o ganhador do Nobel e ex-economista chefe do Banco Mundial, Joseph Stiglitz, concedeu uma entrevista sobre IA alertando para os perigos de estarmos nos movendo em direção a uma sociedade mais dividida [9]. Ao invés de focar na possível perda de empregos que a IA poderá gerar, ele lembra que poderemos ter no futuro uma jornada semanal de trabalho mais curta. É mais um, no entanto, a externar preocupação em relação a grandes multinacionais, defendendo a importância da regulação para evitar que nossos dados pessoais sejam usados contra nós mesmos.
Segundo Stiglitz é preciso ter uma estrutura regulatória definida publicamente, incluindo que dados as grandes empresas podem armazenar; que dados podem usar; se podem ou não cruzar diferentes bases de dados; obrigando-as ainda a explicar com transparência como e porque utilizam estes dados. São decisões que precisam ser tomadas e que não devem ser deixadas nas mãos das próprias empresas, até porque a população em geral talvez não tenha ainda consciência dos riscos envolvidos na manipulação indevida de dados. Ele vai além e explica que taxar os investimentos em AI não é suficiente, precisando levar em consideração a provável diminuição do poder de barganha dos trabalhadores em negociações com seus empregadores, além de todo o arcabouço legal relacionado com a propriedade intelectual, as leis de concorrência e de governança corporativa, passando ainda pela revisão do modelo de operação do sistema financeiro. Será uma agenda bem mais abrangente e desafiadora!
Por conta disto, recomendo uma das colunas do Ronaldo Lemos publicada em setembro, onde ele fala sobre o livro que quer mudar o mundo [10]. Só não recomendo o próprio livro porque ainda não o li, mas está na minha lista de leituras futuras e parece ter sido inspirado por uma viagem dos autores ao Rio de Janeiro. O título do livro é “Mercados Radicais: Desenraizar o Capitalismo e a Democracia por uma sociedade mais justa”.
Na linha das ideias que parecem fora de propósito hoje, supondo que será preciso frear o poder de coleta e processamento de grandes massas de dados por megaempresas, será igualmente necessário limitar a coleta e processamento de grandes massas de dados por aqueles que governem populações muito numerosas ?
Se para você estas discussões parecem ainda muito abstratas e fora da realidade, recomendo os seguintes dois textos: “Why the government must help shape the future of AI” [11] e “Evaluating the impact of artificial intelligence on human rights” [12]. O primeiro é um relatório do Brookings Institute defendendo que o governo deve se envolver diretamente na regulação da IA, mas que seja numa colaboração com a iniciativa privada. O relatório busca questionar até que ponto as empresas podem se autorregular; em quais circunstancias o governo deve intervir; e quando se envolver, quais princípios éticos devem ser considerados. A análise é feita para três situações distintas: sistemas de reconhecimento facial, veículos autônomos e armamentos letais autônomos. Já o segundo texto é também sobre um relatório que foi produzido pelo Berkman Klein Center para Internet & Sociedade da Universidade de Harvard. Nele são endereçados os pontos positivos e negativos do uso da IA em seis casos de uso.
Numa outra frente me chamou a atenção o artigo “How statisticians are trying to change the way we measure poverty” [13], que não toca na questão da IA, mas que demonstra claramente como o uso de dados e os contornos escolhidos para desenvolver análises pode afetar diretamente politicas públicas. No artigo são discutidos os parâmetros a serem considerados para definir se uma família pode ou não ser considerada pobre no Reino Unido.
Dados x Informação x Conhecimento
Não custa lembrar que a base para a IA e para a transformação digital são os dados, que isolados e fora de contexto não servem para nada. Mas sem eles nada pode ser realmente construído, razão pela qual devem ser reconhecidos os esforços que o Brasil já fez na direção dos dados abertos, e que podem ser verificados no portal www.dados.gov.br.
Se você for lá dar uma conferida talvez não encontre nada muito relevante, se perguntando inclusive para que servem os 6.081 conjuntos de dados lá disponíveis. Colocando de um outro modo, de que serve um livro para um analfabeto? Para um dado se tornar informação é preciso saber ler o dado.
Uma outra iniciativa do governo brasileiro é o www.portaltransparencia.gov.br, onde o cidadão pode encontrar informações sobre como o dinheiro público é utilizado, além de se informar sobre assuntos relacionados à gestão pública do país. Mas se as informações estão todas mesmo lá, como pode ter gente de diferentes partidos políticos discutindo se existe ou não deficit na previdência pública?
A informação de que seu saldo bancário é positivo não é suficiente para indicar sua saúde financeira, principalmente se na próxima semana estiver vencendo uma conta de valor maior do que o seu saldo. Assim, é preciso ter um conjunto de informações para realmente ter conhecimento sobre um assunto qualquer. Por isto é que se deve evitar tomar decisões com base em informações parciais, principalmente quando as circunstancias permitem recolher informações complementares para buscar sempre evitar o erro. Algo bem diferente é, tendo um conjunto amplo de informações disponíveis, deliberadamente selecionar apenas aquelas que interessam para justificar um ponto de vista. Não é por outro motivo que se espera que a justiça seja sempre imparcial e feita com base em provas materiais.
Brasil x Mundo
Apesar das preocupações já mencionadas com o uso de diferentes tecnologias, é claro que a IA tem seu lado positivo, inclusive para o governo, como demonstra a reportagem “Alice, Mônica e Sofia ajudam a aprimorar as auditorias” [14], sobre alguns dos sistemas já em uso para apoiar os auditores dos órgãos de controle do governo federal. Entretanto, é preciso garantir que o governo cuide bem das informações que armazena. Aqui no Rio de Janeiro muitos eleitores foram surpreendidos pelo uso da identificação biométrica na urna, já o TRE do estado resolveu cruzar a base de digitais do Detran-RJ e assim evitar a necessidade de recadastramento destes mesmos dados diretamente pela justiça eleitoral.
Veja que o governo cada vez aumenta mais o cerco sobre as empresas e cidadãos, conforme evidencia o artigo “Empresários e contadores, evitem as multas do eSocial” [15]. Ainda que o governo enalteça a iniciativa dizendo que os trabalhadores serão beneficiados, a quantidade de informações acumuladas sobre um individuo qualquer é cada vez maior. O site www.mapadainformacao.com.br busca inclusive mostrar como é feito o tratamento destas informações pelo setor público, que sabidamente precisa aperfeiçoar diferentes aspectos da coleta e cruzamento destas informações.
Estou te ajudando a confirmar sua impressão de que nem vale mais a pena se importar com isto porque a privacidade é algo que já não existe mais nos dias de hoje? Pois o meu conselho vai justamente na direção contrária! Se quiser saber detalhes de uma conferida no artigo “Stop Saying Privacy Is Dead” [16].
Voltando a questão da tecnologia versus democracia, o artigo “Towards a Data Democracy” [17] fala sobre o Projeto de Transferência de Dados, ou “Data Transfer Project – DTP”, uma iniciativa da Google, Facebook, Microsoft e Twitter para facilitar que uma pessoa qualquer usando as plataformas de conteúdo destas empresas possa facilmente transferir suas informações de um lado para o outro. Uma outra iniciativa chamada “Open Data Initiative” e bancada pela Microsoft, SAP e Adobe vai na mesma direção, dando mais controle para seus usuários obre seus próprios dados, ao mesmo tempo em que facilita a troca de informações entre estas empresas. Seria já o inicio de uma cartelização indicada nos cenários propostos por Palmer, Harari e Stiglitz? Do ponto de vista das empresas, imagino que elas estejam se antecipando e tentando conter possíveis tentativas futuras de regulação que ultrapassem suas respectivas zonas de conforto.
Uma outra proposta, aparentemente mais neutra e feita pelo criador da web Tim Berners-Lee, quer devolver controle sobre dados aos usuários [18]. Criada a partir da web existente, a nova plataforma open-source promete dar aos usuários a escolhe sobre onde os seus dados são armazenados, quem pode acessá-lo, e quais apps você usa. A questão aqui é saber se uma proposta como esta, por mais legitima que seja, conseguirá realmente conquistar não apenas corações e mentes, mas principalmente os grandes interesses corporativos.
É exatamente por conta disto que me causou surpresa ver o Tim Cook da Apple criticar uso de dados pessoais como ‘armas’ por empresas de tecnologia [19]. Foi num discurso recente feito enquanto ele participava de uma conferência internacional sobre proteção de dados e privacidade digital no Parlamento Europeu, na Bélgica.
“Para que a inteligência artificial seja realmente inteligente, ela tem que respeitar os valores humanos, incluindo privacidade. Se erramos nisso, os perigos são grandes. Nós podemos atingir, ao mesmo tempo, uma boa inteligência artificial e ótimos padrões de privacidade. E essa não é somente uma possibilidade, é uma responsabilidade.” disse ele, elogiando fortemente o parlamento europeu pela aprovação da Lei Geral de Proteção de Dados e outros países seguindo este caminho (como é o caso do Brasil).
Por trás disto está uma preocupação legitima dele e da empresa, ou já é o principio de um desentendimento conforme previsto por Palmer no seu artigo [7]? Existe mercado suficiente tanto para o modelo de negócios da Apple, que se baseia na venda de sofisticados dispositivos digitais, como para o modelo de negócios das empresas por ele criticadas, que se sustentam através de venda de publicidade para públicos direcionados? Ou ainda que haja espaço para ambos, estará a Apple querendo abocanhar uma fatia ainda maior do que ela já tem do mercado?
Cabe aqui destacar que o Brasil está numa luta contra a proposta dos EUA de não taxar produtos digitais [20]. Segundo o artigo, somos ainda a única voz contrária na OMC à pretensão dos EUA de proibir a cobrança de tarifas ou outras taxas na importação de produtos transmitidos eletronicamente, além de liberdade na localização de servidores e de não abrir o código fonte de softwares. É um assunto delicado, mas que deve ser analisado à luz de evidências como aquelas trazidas pelo artigo “The missing profits of nations” [21], mostrando que cerca de 40% do lucro de multinacionais (de todos os setores) foram artificialmente transferidos para paraísos fiscais em 2015. Mais do que isto, de acordo com as informações analisadas, as empresas estrangeiras são sistematicamente menos lucrativas do que as empresas locais em países “comuns”, e sistematicamente mais lucrativas do que as empresas locais nos paraísos fiscais. Esta discussão esta acontecendo também na OCDE e vários países já se preparam para taxar os negócios digitais.
Quero deixar claro que não concordo com a tributação excessiva de empresas ou grandes fortunas, especialmente no Brasil onde a carga tributária já é bem elevada. Também não tenho nada contra empresas estrangeiras atuando aqui no país, desde que o campo da competição esteja nivelado. Competir com grandes empresas nunca foi fácil, especialmente quando uma empresa local de menor porte recolhe quase 40% da sua receita em impostos variados, enfrentando gigantes que, no caso dos EUA, recolhem pouco mais de 20% para desenvolver os produtos e serviços que vem aqui oferecer. Se estas empresas gigantes de tecnologia estão sob escrutínio público em seus próprios países, então é preciso atenção redobrada dos nossos legisladores para garantir uma competição justa.
Mas isto é assunto que rende pelo menos um outro artigo completo, e este aqui já está até maior do que deveria ser, muito embora a discussão sobre dados/tecnologia e democracia seja bastante complexa e possa ser analisada com muito mais profundidade. De qualquer modo, espero ter conseguido mostrar que não dá para o Brasil querer discutir isto sozinho, sem considerar suas relações internacionais. O país tem avançado na sua agenda de dados abertos mas ainda existe muito trabalho pela frente. A criação de autoridade de dados é uma delas, e pode estar em xeque diante do novo Congresso [22].
Que o executivo e legislativo, renovados após as eleições, tenham a serenidade e sensibilidade necessárias para dar continuidade aos debates, convocando a sociedade civil organizada e a iniciativa privada para construir um futuro mais próspero e justo para todos os brasileiros.
Os links para todas as referências feitas aqui estão disponíveis mais abaixo. Logo em seguida apresentamos outras sugestões de leitura organizadas em diferentes seções. Se você gostou deste texto deverá encontrar mais coisa interessante em “Ética e Legislação”. Para quem não é tão ligado em políticas públicas e quer saber mais é de tecnologia mesmo, a seção para você é “Modelos, técnicas e ferramentas”, sendo que os iniciantes talvez se sintam mais confortáveis com os links que aparecem em “Primeiros Passos”.