Os algoritmos conseguem mesmo adivinhar o que pensamos?
Padrões característicos da atividade cerebral podem ser armazenados como dados precisos sobre as pessoas; confira como a neurotecnologia atua
Um dos filmes mais influentes às vésperas do “bug do milênio”, mostra como um sistema artificial de inteligência manipula a mente das pessoas e cria a ilusão de um mundo real enquanto usa os cérebros e os corpos dos indivíduos para produzir energia.
Em Matrix (1999), Thomas Anderson (Keanu Reeves) é atormentado pela desconfiança de que tomaram sua consciência e luta contra uma estrutura que o designa à subserviência psíquica e intelectual, diante de uma tecnologia que certamente se tornou um dos maiores medos para a virada dos anos 2000.
É + que streaming. É arte, cultura e história.
Bem, de fato ainda não existe — como na ficção — uma supermáquina que entra na cabeça de uma pessoa e entrega uma lista completa de ideias e conceitos. No entanto, uma “ameaça” à privacidade do já é amplamente discutida.
Humanos e IAs: estamos preparados para esse relacionamento? CONFIRA
Para Nita Farahany, professora da Universidade Duke (EUA) que se especializou em pesquisar as consequências das novas tecnologias e suas implicações éticas, essa ameaça já é presente hoje e deve ser levada a sério. Mais abaixo, confira o que diz seu estudo ainda nesta matéria.
A iraniana-americana lançou neste ano o livro The Battle for your Brain: Defending the Right to Think Freely in the Age of Neurotechnology ("A Batalha pelo seu Cérebro: Defendendo o Direito de Pensar Livremente na Era da Neurotecnologia", em tradução livre, sem edição brasileira).
Como os algoritmos sabem o que pensamos?
Farahany explica que as defesas da nossa privacidade de pensamento começaram a ser derrubadas sem a necessidade de examinar diretamente o cérebro. Isso foi possível com a vasta quantidade de dados pessoais compartilhada em redes sociais e outros apps, analisada por algoritmos e depois monetizada.
Hoje, as companhias de tecnologia detêm informações importantes sobre nós: quem são nossos amigos, qual conteúdo gera emoção (e, importante, que tipo de emoção), as preferências políticas, em quais produtos clicamos, por onde circulamos ao longo do dia e algumas das transações financeiras.
"Tudo isso está sendo usado por empresas para criar perfis muito precisos sobre quem somos e assim entender nossas preferências e nossos desejos", diz Farahany em entrevista à BBC News Brasil.
Entenda abaixo qual é a relação entre os dados coletados por algoritmos e reações corporais.
A fronteira entre os algoritmos e o monitoramento do corpo
Outra fronteira do nosso funcionamento interno começa a ser explorada com a popularização de smartwatches (relógios inteligentes), que reúnem dados sobre batimento cardíaco, níveis de estresse, qualidade do sono e muito mais.
Isso demonstra que o avanço da neurotecnologia, com equipamentos em contato direto com a cabeça, leva tudo isso a um novo patamar, com mais dados e mais precisão.
Inteligência artificial: SAIBA os alertas sobre ChatGPT
A estudiosa também explica que sensores cerebrais são justamente parecidos com sensores de frequência cardíaca encontrados nos smartwatches ou em anéis que medem a temperatura do corpo quando captam a atividade elétrica no cérebro.
"E toda vez que você pensa, ou toda vez que sente algo, os neurônios disparam em seu cérebro, emitindo pequenas descargas elétricas. Padrões característicos podem ser usados para tirar conclusões", afirma.
"Por exemplo, se você vê uma propaganda e sente alegria ou estresse ou raiva, tédio, envolvimento... todas essas reações podem ser captadas por meio da atividade elétrica em seu cérebro e decodificadas com a inteligência artificial mais avançada", ela explica. Ou seja, esses sinais cerebrais transmitem o que sentimos, observamos, imaginamos ou pensamos.
Então meu cérebro não é somente meu?
Tal situação leva a própria filosofia a questionar o conceito de livre arbítrio, ou seja, o poder de um indivíduo de optar por suas ações. Quanto a tal questionamento, Farahany afirma que as pessoas precisam compreender e aceitar que o cérebro "não é inteiramente delas".
"Imagine que você se proponha no começo da semana a não passar mais de uma hora por dia nas redes sociais. Aí você descobre no final que você gastou quatro horas por dia. O que aconteceu?", pondera a professora de Direito e Filosofia na Duke em entrevista para a BBC News.
"Se existem algoritmos projetados para te capturar quando você quer se desconectar, se existem notificações quando você fica muito tempo fora do celular, se você quer assistir a só um episódio da série e o próximo começa automaticamente, você usou seu livre arbítrio? São ferramentas e técnicas projetadas para prejudicar aquilo com que você se comprometeu."
Abaixo, confira como o governo armazena os dados coletados por algoritmos.
Para onde vão todos os dados apurados por algoritmos?
A grande preocupação em relação à privacidade individual está em governos na posse de uma gama cada vez mais ampla de dados pessoais.
A professora iraniana-americana relata que o Departamento de Defesa dos EUA financiou uma empresa que desenvolveu um sistema biométrico que combina dados de ondas cerebrais, estados cognitivos, reconhecimento facial, análise das pupilas dos olhos e mudanças na quantidade de suor produzido.
Já na China, uma reportagem de 2018 do jornal South China Morning Post contava que trabalhadores de diversos ramos e integrantes de forças militares do país já usavam monitores de ondas cerebrais para detectar picos emocionais como depressão, ansiedade ou raiva.
Além do uso para melhorar performances e assim o resultado financeiro de empresas, a reportagem dizia que outro objetivo era "manter a estabilidade social" chinesa. Farahany afirma que, na maioria dos países, as leis sobre privacidade não contemplam explicitamente o direito à privacidade mental.
Leia mais
“Liberdade de pensamento” e os algoritmos
A estudiosa diz que "liberdade de pensamento" é hoje aplicada e entendida como sendo estritamente a respeito de liberdade de religião e de crença.
"Acho que precisamos expandir esse entendimento para haver uma proteção contra a interferência, a manipulação e a punição contra o pensamento."
O problema é que a tecnologia se desenvolve sempre mais rápido que o debate e a aprovação de uma legislação, e empresas e governos se aproveitam dos vazios de legalidade.
"Trata-se realmente de tentar descobrir o quanto antes, e também conforme a tecnologia evolui, quais são seus benefícios e riscos. E depois esclarecer o que está em jogo e desenvolver um regime regulatório que aborde isso. Nem sempre é fácil de fazer", reconhece Farahany.