Na edição anterior da newsletter falei sobre como algoritmos são racistas tendo como base o sistemático apagamento de pessoas não-brancas. O processo que torna os datasets tendenciosos nesse sentido se dá principalmente por privilegiar fenótipos no dataset de treinamento, ou seja, enquanto para algumas características o treinamento é feito de forma exaustiva atingindo margens confiáveis, por outro lado, com imagens de pessoas com outras características, o treinamento é insuficiente. E para concluir a desigualdade no treinamento, o resultado quando é medido apenas pelo conjunto, termina de apagar essas diferenças no treinamento, dando um número ou percentual que representa o todo como se a qualidade do resultado fosse a mesma para todos os dados de entrada. Uma dessas piadas críticas com amplo fundo de verdade diz “se você tem um dataset formado 90% por pessoas brancas e 10% de pessoas não-brancas, um acerto de 90% não garante que acertou alguém não-branco”.

Nessa primeira parte de avaliações e considerações sobre algoritmos tratarei apenas de analisar as respostas do DeepFace, daqui a algumas semanas publicarei uma análise sobre o algoritmo em relação ao seu funcionamento, o que vai exigir mais explicações técnicas acerca de métodos como o softmax e a convolução e discutir um pouco acerca de métricas de treinamento.

Mas antes de começar, preciso dizer algo que precisava ser dito antes: um algoritmo identificar corretamente uma etnia, um sentimento que está sendo expresso, o gênero, etc. nada disso é importante por si mesmo já que na perspectiva do algoritmo, não importa o que está sendo classificado, o trabalho é o mesmo de lidar com padrões em dados. Mas ter datasets com essas características e outras mais anotadas tem sua relevância para avaliar algoritmos que lidam com imagens de pessoas. É assim que funcionam os testes em algoritmos “caixa-preta”, com dados que nos permitam avaliar se a qualidade da resposta é diferente dependendo de fenótipos, iluminação, resolução da imagem, adereços, cabelo, expressão facial, posição da câmera, posição do rosto, etc. É dessa forma que podemos criar um “mapa” que indica se o algoritmo está adequado ou não ao uso que se propõe. É justamente uma simulação de testes assim que pretendo fazer aqui.

Explicando termos e alguns detalhes

Este tem sido um ano complicado: passei várias semanas num hospital acompanhando minha mãe que teve de amputar 3 dedos no pé devido a uma infecção que necrosou [um dos grandes problemas do diabetes é isso de não ter sensibilidade nos pés, automaticamente todos os calçados ficam confortáveis e quando menos se espera eles já fizeram um estrago enorme]. Depois me ocupei com trabalho e mais recentemente foi minha vez de ficar doente, depois de tanta coisa acontecendo ao longo desses meses o que mais quero é voltar a rotina de publicações dessa newsletter que a este ponto, meio que se transformou num porto seguro para organizar as ideias.

O tema de hoje é um que estou passando na frente por alguns motivos:

1. Algumas conversas que tive ao longo do último mês me fizeram ver o quanto se foca tanto no algoritmo e quase nada nos dados que os alimentam
2. O mais correto seria que o assunto de hoje viesse depois de uma edição dessa newsletter discutindo espaços públicos e privados na perspectiva das redes sociais e estruturas que usam tecnologias da informação, mas estamos chegando perto do 1º turno das eleições e falar de datasets para aprendizado de máquina tangencia questões próprias de pesquisas eleitorais (obviamente explicarei mais à frente), daí que não quero perder este momento.

Espero que gostem do assunto de hoje :-)

Essas semanas dariam assunto para anos, por isso eu resolvi mudar o assunto da newsletter de hoje, alguns dias depois que eu já tinha escrito parte do que agora servirá para a edição da semana que vem (o assunto seria/será sobre consumo de mídia, lives infinitas, precarização, a falta de perspectiva sobre o próprio futuro e o neoliberalismo com seu quase onipresente discurso meritocrático). Resolvi falar sobre tecnologia e forças armadas porque me parecia óbvio no momento que todos apontam para uma guerra mas não se esmiúça a trajetória e nem as escolhas políticas em “tempos de paz”.

Espero que gostem do conteúdo de hoje, e se quiser contribuir com este projeto de divulgação crítica de ciência e tecnologia, manda um pix 😉

ah, antes de continuar, um último aviso: semana passada comecei a escrever notas sobre anúncios de pesquisas publicadas por empresas e outras instituições que de modo geral servem de referência em deep learning, por enquanto estas foram as notas publicadas:

Finalmente chegamos na parte final desta tetralogia. E olhando para trás, mesmo com textos tão longos, a sensação que tenho é que apenas arranhamos a superfície. O título que escolhi para esta última parte, “o abismo também contempla”, na verdade é uma referência Rorschach de Watchmen e não a Nietszche, mas explico melhor minha escolha ao final do texto.

Antes de prosseguir, eu gostaria de pedir que, se puder, contribua via PIX com este trabalho para que seja possível expandir para outras mídias. Tenho feito tentativas com formatos de áudio (incluindo podcast) e vídeo mas ainda não está com o formato refinado o suficiente para que as mensagens sejam efetivas, e numa época que tudo independente pela internet é tão profissional, a qualidade da produção realmente importa.

O abismo também contempla

Sim, o assunto de hoje é tenso, como acho que todos os assuntos que tratei aqui foram até agora. Mas este é diferente, falar de censura exige explicações prévias, me obriga a delinear e tornar mais estrito e exato possível sobre o que estou falando e para ser sincero, sinto um enorme receio de ser mal-interpretado ou que neste texto existam aberturas para esticar ao que não se encaixa aqui. Por isso mesmo peço já deculpas se em algumas partes eu me prender muito a definições.

Outra preocupação que tenho é quanto ao público, se tornou lugar-comum em falas públicas e especialmente em redes sociais associar tudo o que é censura ou ditadura ou qualquer forma de “cerceamento da liberdade” a pessoas e ideologias de esquerda, mas de forma tão abrangente que mesmo medidas sanitárias básicas nos últimos meses vimos ser chamadas de ditadura. Aqui obviamente vou no sentido contrário, apontanto as diferenças entre moderação e coersão, entre a necessária crítica e responsabilização sobre o que faz e se fala e a censura. Então escrevo aqui ciente de que as chances de sites de busca indicarem o site do projeto para ancaps e reaças são mais altas que o comum, considerando que o tema central aqui é tecnologia, uma área já bem saturada de ideologia neoliberal.

E só mais uma coisa: vou manter uma linguagem mais reconhecível como comunista só para reforçar a posição do que desenvolvo aqui, retornarei a isso mais à frente, mas adianto um pouco do quanto a linguagem indica uma posição, e se plataformas direcionam as pessoas a manter certa linguagem e comportamento, esse direcionamento em si guarda também posicionamentos políticos da plataforma. Às vezes é realmente necessário carregar a linguagem para algo além do simples sentido das palavras quando se busca reforçar uma posição.

Definindo Censura

Este começo de ano está sendo mais difícil do que imaginei, por isso começo pedindo desculpas porque esta edição era para ter sido publicada semana passada mas não consegui finaliza-la a tempo. Devo dizer que até para o conteúdo aqui presente isso foi realmente bom, com a cabeça mais fria e mais tempo, foi possível enxergar melhor detalhes que de outra forma passariam despercebidos, como é o caso de minha intenção inicial que era tentar deixar tudo com o mínimo de tecnicidades sobre a implementação de algoritmos justamente para que não se tornasse um texto técnico, mantendo a linha crítica/analítica como um ensaio, mas tem momentos que isso é impossível, então deixei aqui o mínimo possível que não prejudicasse o entendimento, sendo que a explicação mais técnica sobre como funciona o aprendizado de máquina, incluindo códigos e tudo o mais, estão aqui.

E para quem quiser contribuir com este projeto de discussão crítica sobre tecnologias, faz um pix :-)

O problema do aprendizado

Falar de aprendizado de máquina é completamente diferente de falar de aprendizado humano, para começar basta apenas dizer que nós não somos máquinas por mais que o nosso atual modelo de produção tente fazer parecer que somos. Apesar de ser algo tão lógico que parece ser uma piada, este fato é fundamental para acabar com as analogias comuns sobre assunto e que existem desde o nascimento do Perceptron, quando o NY Times alimentava a hype sobre essa coisa que teria a capacidade de ser autoconsciente, enxergar, escrever, aprender sozinha, andar, etc. Devo dizer que apesar da inerente comicidade de tudo isso ainda bate em mim uma sensação de desconforto, como se fosse uma realidade paralela e o que eu aprendi sobre inteligência artificial e aprendizado de máquina (sim, são coisas diferentes) fosse sobre algo completamente diferente do que falam nos sites especializados em notícias sobre tecnologia e isso tem seu lado preocupante, afinal se trata da formação de uma crença quase religiosa e um tanto quanto dogmática a partir de empresas e "gurus" do vale do silício que influenciam diretamente até políticas públicas, principalmente as voltadas para segurança nas ruas, e na forma como lidamos com a onipresente tecnologia da informação que embranquece as fotos feitas no celular e realça os comentários cheios de ódio no twitter, atraindo nossa atenção para o que menos nos interessa e mais interessa à plataforma.

Eu realmente queria desejar um tranquilo e feliz ano novo, mas se fizesse isso seria só de prache, afinal este é um ano eleitoral e sabemos bem a quantidade de coisas que estão à nossa frente, seja com a variante Omicron, seja continuando o embalo de epidemias com a gripe, sabe-se lá quantos escândalos por todos os lados vão surgir dentro e fora do Brasil. Esse ano tem de tudo para ser recheado de acontecimentos, então seria bem mais sincero desejar calma, solidez nas escolhas e ações e que 2023 finalmente seja um ano tranquilo depois de um ano que tudo indica ser de transição [espero de verdade que não ocorra algo inesperado como ocorre com tanta frequência na história do Brasil]. É isso, força a todos!

Admito meio frustrado que ainda não iniciei os planos de expansão deste projeto de discussão sobre tecnologia, é como se o isolamento social estivesse me desacostumado de explicar as coisas verbalmente, espero que ao longo dessas semanas eu consiga superar essas barreiras e iniciar os experimentos mais próximos do ambiente de produção de vídeos e talvez como podcast (mas nada tão longo como 1 hora ou mais, pelo menos, ainda não).

Sou realmente muito grato a todo o apoio que recebo para a continuidade desse projeto, e falo isso num sentido amplo, incluindo todas as pessoas que conversam comigo sobre estes temas, todos que contribuem de forma mais técnica ao me ajudar com minha imperícia e desatenção com tudo ligado a web (sempre foi meu ponto fraco quando se trata de engenharia de software). embora dinheiro seja aquela coisa... não é bom, eu não gosto nem da idéia (se eu pudesse, viveria numa comuna), mas por estar inserido numa sociedade capitalista, é necessário e nem há escolhas, por isso toda doação financeira ao geleia de menta é muito bem vinda, especialmente para a expansão e maior autonomia deste e de projetos futuros [[ 😉 PIX 👈]].

Queria começar agradecendo a todos que de tantas formas distintas têm me ajudado a dar corpo e sentido a este projeto, ter amigos que apoiam e que vêem a importância de discutir tecnologia com os pés fincados na realidade faz toda a diferença.

Sei que prometi novidades para esta edição mas alguns problemas pessoais acabaram me impossibilitando de dar alguns passos no desenvolvimento do projeto, mas não estou aqui para falar com algum ressentimento sobre isso no clima da onipresente música da Simone no final de ano ao questionar o que é que eu fiz e ainda lembrar de Hiroshima de Nagasaki. Como grande parte do site está pronto, tenho pensado em aumentar a frequência da newsletter de quinzenal para semanal, mas ainda não estou certo disso, como teste, excepcionalmente na próxima semana vou publicar mais uma edição e será sobre a disputa territorial das big techs envolta da web semântica. Por enquanto, espero que aproveitem a continuação da série sobre os problemas envolta de algoritmos inteligentes, e quem quiser e puder contribuir finaceiramente com o projeto, faz um pix:

obs.: sempre esqueço de dizer isso, por enquanto a chave é meu email pessoal: lincoln000@protonmail.com

Como tenho feito das últimas vezes, primeiro alguns pequenos avisos:

Tenho preparado muitas novidades ainda para este mês, certamente o primeiro passo será comprar um domínio e isso eu devo resolver já durante esta semana, mas para que o projeto cresça, espero que em breve eu precise me preocupar com a quantidade de downloads de vídeos e aúdios na última metade do mês, mas contarei melhor sobre isso na próxima edição da newsletter 😉. Por isso reitero o pedido de contribuições via PIX, há um longo caminho pela frente e sem o apoio dos amigos/leitores é realmente muito difícil fazer este projeto de discutir tecnologia a sério e de forma crítica se desenvolver tanto quanto possível.

E por falar em amigos, eu gostaria muito de agradecer à Dan, ao F.S. Lawliet e à Giseli tantas horas de conversas e links trocados sobre alternativas e problemas do ecossistema atual da internet e redes sociais. Dificilmente eu teria escrito tanto sem passar tanto tempo conversando, realmente, Obrigado ❤️

Primeiro preciso fazer alguns avisos:

1. Cometi uma conta no twitter para começar a sistematizar a divulgação destas coisas que escrevo (espero que o twitter não me considere um bot e bloqueie minha conta de novo, da última vez minha conta durou 2 dias)
2. Resolvi levar a sério isso de produzir conteúdo, tenho pensado também em vídeos mas ainda não encontrei um formato que me agradasse, e levar a sério passa também pelo lado financeiro da coisa, por enquanto aceito doações via PIX[pode usar o código qr abaixo] para ter condições de ampliar este projeto. Colocarei no site e ao final de cada edição da newsletter um agradecimento às pessoas que doaram, se não quiser seu nome na lista, só me mandar uma mensagem :-).

obs. inicial: Como foi definido via votação que a newsletter será(/já é) quinzenal, resolvi fazer um texto bem maior, espero que se divirtam :-)

Hegemonia Pelo Design

Não faz muito tempo que ouvi falar de Marshall McLuhan e de sua célebre frase "o meio é a mensagem", essa frase tão curta e que guarda em si pensamentos tão amplos me fez pensar muito sobre a questão de design e sobre a forma como interagimos, principalmente nas redes sociais que concentram tanto os acessos quanto nossa atenção. Eu já tinha sentido de alguma forma a mensagem transmitida pelo próprio meio: a urgência dos assuntos do momento ou das postagens de outras pessoas, figuras públicas com conteúdos planejados por uma assessoria voltada para redes sociais, empresas fazendo campanhas publicitárias, etc. Há inegavelmente algo de urgência e imersão no próprio conceito de feed de notícias que é potencializado pelos algoritmos, mas quanto mais eu penso sobre o assunto, mais essa urgência e efemeridade me parece ser só a camada mais visível da coisa. Ainda não sei teorizar a extensão do impacto dessa imersão mas acho que falar sobre hegemonia pode ser um bom começo.

Hegemonia pela cultura

Como este email dá início à newsletter, acho melhor explicar um pouco da ideia por trás desse projeto pessoal: eu estou muito cansado das discussões em tecnologia serem centradas em empresas, que se fale da economia intermediada por serviços online apenas falando de faturamento de empresas gigantes, de igual forma estou demasiadamente cansado da passividade decorrente disso tudo. Há algumas iniciativas que vão na contramão do discurso puramente tecnocráta. Por menor que seja o alcance desta newsletter, mesmo com tão pouco, busco tanto dar visibilidade quanto engrossar o coro.

Sobre o tema de hoje vou fugir radicalmente do lugar-comum onde praticamente todos sempre chegam: não vou listar plugins, ferramentas, serviços nem nada do tipo, existem muitos sites feitos para isso como o PrivacyTools. Não nego a utilidade de medidas imediatas, mas elas são só isso, medidas imediatas e não soluções de longo prazo. A impressão que tenho sempre que vejo falarem para as pessoas se protegerem da vigilância é que é algo entre responsabilizar pessoas comuns ou então dizer qual é o papel delas esse jogo de gato e rato promovido por essas políticas empresariais que colocam a coleta do maior número de informações de usuários no centro de suas atividades econômicas.

É inteiramente compreensível o caminho imediato ser a busca por se proteger, e as escolhas de navegadores como o Firefox ou o Brave em investir em privacidade são realmente boas apesar de claramente ser uma estratégia para surfar na popularidade do tema. Mas é bem pouco comum haver discussões sobre soluções de médio ou longo prazo. E se hoje já usamos tantos plugins com foco em privacidade, navegadores com tantos recursos de privacidade (não estou falando do Chrome), a grande popularização das VPNs, discursos sobre a necessidade de criptografia e tudo o mais, para o futuro só podemos imaginar uma situação ainda pior, especialmente com o uso de reconhecimento facial em câmeras de segurança pelas forças policiais (esse é um assunto tão tenso que deixarei para uma edição futura dessa newsletter). O fato é que já existem óculos, cortes de cabelo, maquiagem, roupas, máscaras e coisas que não sei explicar o que são, que servem justamente para burlar esses algoritmos mas a longo prazo, para ter algum tipo de privacidade, precisaríamos andar todos aparelhados assim igual nossos navegadores são carregados de plugins? Algum dia teríamos de andar com algo semelhante a uma burca altamente tecnológica só para não sermos rastreados por algoritmos?

É realmente interessante como parece haver até mesmo um gosto pela estética em alguns casos, e de certa forma há de fato uma sensação de estarmos por um caminho sem escolhas e portanto sinto muitas vezes como se essa distopia fosse abraçada (especialmente por designers). Mas, parafraseando Paulo Freire, se a tecnologia é uma criação humana, ela vai se destinar ao que as pessoas querem que se destine, obviamente "as pessoas" no caso da tecnologia envolve quase que exclusivamente quem tem domínio técnico e/ou recursos financeiros para ter os meios de implementar em produção o que quiser. Eu só gostaria de ressaltar que como em tudo nas sociedades humanas, não há consensos, não há passividade de fato ainda que as ações que busquem favorecer as pessoas comuns em detrimento dos abusos empresariais e governamentais não sejam tão divulgadas, afinal nem tem como comparar a publicidade de grupos muitas vezes formados por voluntários com o aparalhamento realmente oneroso de um bom departamento de marketing com cifras inimagináveis para gastar em propaganda que diz que quanto menos pricvacidade você tiver, melhor, afinal as big techs "sempre estão certas" (sinto muita falta de programas como Família Dinossauro na TV aberta).