Qual a tecnologia emergente mais perigosa? Especialistas opinam

A série britânica “Black Mirror” ficou famosa por apresentar histórias distópicas de como a tecnologia pode afetar negativamente nossas vidas em um futuro próximo. A produção é um prato cheio para aqueles que pensam de forma apocalíptica, acreditando que novos produtos tecnológicos vão, em algum dia, destruir a nossa civilização.

Apesar dos muitos roteiros criativos que vemos na TV ou no cinema, a verdade é que talvez nunca veremos um mundo cheio de bebês violentos geneticamente modificados, carros autônomos incontroláveis ou inteligências artificiais subjugando a humanidade.

Nosso potencial foi acelerado pelas tecnologias, se e quando chegar, provavelmente parecerá um pouco diferente da ficção e provavelmente será de maneiras que ainda não podemos imaginar.

Entretanto, vale a pena perguntar: qual a tecnologia emergente mais perigosa?

Para responder a esta pergunta, listamos aqui a opinião de especialistas de diversas áreas.

De acordo com Zephyr Teachout, professor associado em Direito, da Fordham University, nos Estados Unidos, os sistemas de vigilância em locais de trabalho tem o potencial para alterar as já “terríveis” relações trabalhistas.

Com esses sistemas, os empresários podem saber o que motiva os funcionários a trabalhar, o que pode empurrá-los a condições insalubres, bem como extrair mais valor deles por menores remunerações.

A vigilância também pode eliminar aqueles trabalhadores “dissidentes” e jogar por terra a solidariedade no ambiente de trabalho, através de uma política de tratamento diferenciado.

“Isso derruba a já terrível dinâmica de poder empregador-empregado, permitindo que os empregadores tratem os empregados como cobaias”, afirma Teachout.

Na área dos jogos de azar, cassinos dos EUA aprenderam a montar perfis de jogadores com o objetivo de aumentar os lucros por meio da exploração das fraquezas de cada apostador. Essa mesma tecnologia está entrando no ambiente de trabalho, estando à beira da onipresença em empresas americanas, a menos que esse movimento seja interrompido.

Inteligência artificial

Publicado no mês passado, o relatório AI100 dedicou uma seção para listar os perigos mais proeminentes da inteligência artificial (IA).

O painel composto por 17 especialistas expressou a opinião de que, conforme os sistemas de IA se mostram cada vez mais benéficos e ampliam o alcance no mundo atual, eles também causarão a proliferação de potenciais riscos, que envolvem uso indevido, excessivo e abusivo da tecnologia.

Para Michael Littman, professor de Ciência da Computação da Brown University, uma das maiores preocupações do painel sobre a IA é o “tecno-solucionismo”, a atitude de que tecnologias como a inteligência artificial podem ser usadas para resolver qualquer problema.

A aura de neutralidade e imparcialidade que muitas pessoas associam à tomada de decisões por IAs resulta em sistemas sendo aceitos como objetivos e úteis, mesmo que possam ser aplicados de forma inadequada ou guiados por decisões históricas tendenciosas e, até mesmo, discriminatórias.

Sem transparência em relação aos dados ou algoritmos usados, o público pode ficar no escuro sobre como as decisões que impactam materialmente suas vidas estão sendo tomadas.

“Os sistemas de IA estão sendo usados ​​a serviço da desinformação na internet, dando-lhes o potencial de se tornarem uma ameaça à democracia e uma ferramenta para o fascismo”, alerta o professor.

Ele também cita que os algoritmos de IA estão desempenhando um papel nas decisões relativas à distribuição de órgãos, vacinas e outros elementos da saúde, o que significa que essas abordagens têm riscos literais de vida ou morte.

Porém, o professor diz que os perigos da automação podem ser mitigados, se as pessoas e organizações responsáveis ​​por eles desempenharem um papel central na forma como os sistemas de IA são utilizados.

Reconhecimento facial

A tecnologia de reconhecimento facial pode ser um grande trunfo para a sociedade atual.

A tecnologia pode tornar as transações mais eficientes, sem que seja necessário a apresentação de documentos de identidade, utilização de bilhetes de embarque em aeroportos ou necessidade de cartões nas compras do dia a dia (desde que a imagem do consumidor esteja vinculada a uma plataforma de pagamento online).

O reconhecimento facial também pode tornar a sociedade mais segura, aumentando a probabilidade de que suspeitos de crimes sejam identificados e presos.

Então, como essas tecnologias podem se tornar perigosa?

Mesmo que ninguém use essas informações para o mal, a perda de privacidade e anonimato é algo preocupante para David Shumway Jones, professor de Epidemiologia na Universidade de Harvard.

Segundo ele, o risco de uso indevido dessas informações é real. Quem tiver acesso às informações certamente poderá usá-las para fins nefastos. Desde namorados rejeitados a governos autoritários, seria possível monitorar onde as pessoas vão, como encontrá-las e, até mesmo, prever o que elas poderão fazer.

“Um medo é existencial: nossos movimentos não serão mais privados. Alguém sempre terá a capacidade de saber onde estamos e onde estivemos”, diz Jones.

Computação Quântica

Com a possível exceção de quebrar a criptografia, os perigos da computação quântica não são uma novidade.

O professor de direito da Universidade Washington, Ryan Calo, diz que a computação quântica acelera as ameaças à privacidade e da autonomia da pessoas.

Com acesso a dados e poder de processamento suficientes, ele está preocupado de que a computação quântica ajude a vigiar um mundo em que todos os governos e empresas são uma espécie de “Sherlock Holmes”, adivinhando todos os nossos segredos com base em informações que nem pensamos em esconder.

Biologia sintética

“A tecnologia emergente mais perigosa é a biologia sintética”. É o que afirma Amy Webb, CEO da Future Today Institute, uma empresa de previsão, tendências e planejamento de cenários que ajuda líderes e suas organizações a se prepararem para futuros complexos.

A tecnologia tem o potencial de obter acesso às células para escrever um novo – e possivelmente melhor – código biológico. A biologia sintética é um campo da ciência que aplica engenharia, inteligência artificial, genética e química para redesenhar partes biológicas e organismos com habilidades aprimoradas, além de novos propósitos.

Uma série de novas tecnologias e técnicas biológicas, que se enquadram amplamente no guarda-chuva da biologia sintética, nos permitirá não apenas ler e editar o código de DNA, mas também escrevê-lo. O que significa que em breve programaremos estruturas biológicas vivas como se fossem pequenos computadores.

A biologia sintética nos permite ainda carregar sequências de DNA em ferramentas de software. Imagine o programa Word, mas para código de DNA – com edições igualmente simples.

Depois que o DNA é escrito ou editado para a satisfação do pesquisador, uma nova molécula de DNA é impressa do zero usando algo como uma impressora 3D.

A tecnologia de síntese de DNA (transformação do código genético digital em DNA molecular) vem melhorando exponencialmente. As tecnologias atuais imprimem rotineiramente cadeias de DNA com vários milhares de pares de bases que podem ser montadas para criar novas vias metabólicas para uma célula, ou mesmo o genoma completo de uma célula.

O que poderia dar errado? Em breve poderemos escrever qualquer genoma de vírus do zero. Isso pode parecer uma perspectiva assustadora, principalmente depois do SARS-CoV-2, que causa a Covid.

Entretanto, Webb afirma que os vírus não são necessariamente ruins. Na verdade, um vírus é apenas um recipiente para um código biológico. No futuro, podemos escrever vírus benéficos como terapias para câncer ou certas doenças.

A especialista afirma que a biologia sintética desempenhará um papel importante em nossa crise climática e nossa iminente escassez de alimentos e água. Isso reduzirá nossa dependência de proteína animal e, eventualmente, personalizará a medicina. Imagine um futuro em que seu corpo atua como sua própria farmácia.

O que torna a biologia sintética a tecnologia emergente mais perigosa não é a ciência, mas os humanos. Precisaremos desafiar nossos modelos mentais, fazer perguntas difíceis e ter discussões racionais sobre as origens da vida, ou criaremos riscos e perderemos oportunidades.

“Na próxima década, precisaremos tomar decisões informadas sem a avalanche constante de desinformação ou políticos oportunistas que estão mais interessados ​​na reeleição do que no bem público. Precisaremos usar dados e evidências – e depositar nossa confiança na ciência – para tomar decisões importantes sobre programar novos vírus para combater doenças, como será a privacidade genética e quem deve ‘possuir’ organismos vivos”, afirma Webb.

Entre as questões levantadas pela biologia sintética estão: Que escolhas você faria se pudesse reprogramar seu corpo? Você editaria seus futuros filhos? Você consentiria em comer OGMs (Organismos Geneticamente Modificados) se isso reduzisse as mudanças climáticas?

A promessa da biologia sintética é um futuro construído pela plataforma de fabricação mais poderosa e sustentável que a humanidade já teve. “Estamos à beira de uma nova evolução industrial de tirar o fôlego”, conclui ela.

Tecnologia cognitiva

“Acho que as tecnologias mais perigosas são, em certo sentido, tecnologias sociais ou cognitivas que impedem as pessoas de ter uma visão clara do mundo e das necessidades dos outros”, diz Jeroen van den Hoven, professor de Ética e Tecnologia da Delft University of Technology.

Ele explica que essas tecnologias são muitas vezes propícias à desumanização e convidam as pessoas a se transformarem em indivíduos obcecados por si mesmos. São como máquinas de neblina que criam as condições que facilitam o renunciar, negar ou fechar os olhos à nossa humanidade comum e à nossa responsabilidade humana.

“São tecnologias de má fé”, alerta. Os riscos e perigos das tecnologias podem ser facilmente minimizados, obscurecidos e negados, de modo que a maioria pensa não haver nada de errado.

Como disse Voltaire: “Aqueles que podem fazer você acreditar em absurdos podem fazer você cometer atrocidades”.

Em um momento que tentamos decidir sobre a melhor maneira de combater as mudanças climáticas, descobrir como combater pandemias, controlar armas autônomas letais, impedir decisões de triagem baseadas em IA em hospitais ou incubação de sonhos direcionados em marketing, uma tecnologia cognitiva poderia fazer as pessoas desistiram de tentar, tornando-as dóceis ou complacentes.

Xenotransplante

O xenotransplante – transplante de órgãos e tecidos de uma espécie animal para outra – há muito é considerado uma solução potencial para a escassez crônica de órgãos para transplantes.

Atualmente, milhares de pessoas estão em listas de espera para receber um órgão de um doador. Alguns não sobreviverão à espera.

Da década de 1960 à década de 1990, houve inúmeras tentativas de transplante de órgãos de primatas não humanos – principalmente babuínos e chimpanzés – em receptores humanos. Até o momento, nenhum paciente sobreviveu a um xenoenxerto de órgão sólido.

Alguns morreram em poucas horas, outros em dias ou semanas, principalmente, quando o sistema imunológico do corpo monta um ataque violento ao órgão transplantado.

O risco de rejeição aumenta quando as espécies são discordantes, como humanos e porcos, separados por 80 milhões de anos de divergência evolutiva. Mas os porcos são atualmente preferidos como fontes de órgãos porque são facilmente criados, produzem órgãos do tamanho certo para humanos e são mortos às centenas de milhões anualmente para o consumo da carne.

Já a proximidade evolutiva e genética de outros primatas não humanos com humanos aumenta o risco de infecção zoonótica, quando uma doença passa de uma espécie para outra.

A Agência de Alimentos e Medicamentos (FDA, na sigla em inglês), dos EUA, proibiu efetivamente o uso de primatas não humanos para xenotransplante, citando o risco inaceitável de zoonose. Mas os porcos também abrigam vírus semelhantes aos humanos e são fontes de infecção zoonótica. Em 1998 e 1999, o vírus Nipah causou um surto de encefalite viral em suinocultores na Malásia, depois que se espalhou pelos porcos. Cerca de 100 pessoas morreram e mais de um milhão de porcos foram abatidos.

O SARS-CoV-2 é uma doença zoonótica, que provavelmente saltou várias espécies antes de infectar um ser humano em um mercado na China, provocando uma pandemia global que tirou milhões de vidas, devastou os sistemas de saúde e causou convulsões sociais e econômicas globais. O SARS-CoV-2 também foi encontrado em cães, gatos e furões domesticados; em chimpanzés, gorilas, lontras e grandes felinos em zoológicos; em visons em cativeiro de fazendas de peles (resultando em milhões de animais sendo abatidos em toda a Europa); além de cervos de cauda branca de vida livre nos EUA.

Para L. Syd M Johnson, professor Associado do Centro de Bioética e Humanidades na SUNY Upstate Medical University, o perigo de zoonose por meio do xenotransplante é grave o suficiente para que várias organizações tenham recomendado a vigilância vitalícia de receptores humanos, seus contatos próximos e profissionais de saúde envolvidos em xenotransplantes. Essa vigilância não visa proteger o receptor do órgão, mas proteger a saúde pública.

O risco de desencadear uma nova doença infecciosa no mundo muda as apostas do xenotransplante e o torna uma tecnologia emergente extremamente perigosa. No pior cenário – como outra pandemia global – as consequências podem ser devastadoras e custar milhões de vidas.

Ele afirma que existem outras soluções para a escassez de órgãos, algumas disponíveis agora – como aumentar o número de doadores humanos vivos e falecidos – e algumas em desenvolvimento (por exemplo, cultivar órgãos humanos in vitro e usar bioimpressão 3D para reparar e regenerar órgãos danificados). Nenhum deles corre o risco de desencadear uma pandemia global.

Já o xenotransplante permanece especulativo após décadas de pesquisa e inúmeros transplantes fracassados. Ao nos aproximarmos do terceiro ano da pandemia de Covid, os perigos de buscar o xenotransplante se tornam cada vez mais evidentes.

Tecnologia de governança

“Acho que as tecnologias emergentes mais perigosas são, na verdade, formas de governança. Estamos aprendendo muito sobre sociedade e controle social. Algumas nações usam essas informações predominantemente para o bem. Mas alguns países usam isso para reprimir e manipular minorias ou mesmo maiorias sem poder, e, de qualquer forma, isso pode levar a genocídios e atrocidades brutais”, diz Joanna Bryson, professora de Ética e Tecnologia na Hertie School of Governance, em Berlim.

Ela afirma que precisamos reconhecer agora que as atrocidades podem incluir “genocídio cultural”, com a eliminação de todos os registros e histórias dos povos, invalidando as vidas e identidades de seus ancestrais sem necessariamente e matar as próprias pessoas, comprometendo severamente a capacidade delas florescerem.

Segundo a pesquisadora, a única solução para esses problemas é desenvolver novas formas inovadoras de governança que reforcem o comportamento cooperativo e respeite os direitos fundamentais.

“A consciência política e o engajamento em todos os níveis da sociedade são essenciais. E, curiosamente, ao contrário do que muitos pensam, parece que estamos fazendo um ótimo trabalho com as redes sociais e outras ferramentas para aumentar os níveis de conscientização sobre o estado real da política e das evidências científicas sobre o que têm sido historicamente. Então eu acredito que há esperança, mas há muito trabalho a fazer”, conclui Bryson.

Tecnologia sem controle ou regulamentação

De acordo com Elizabeth Hildt, professora de Filosofia da Illinois Institute of Technology, a tecnologia mais perigosa é aquela que não está sob controle ou regulamentações humanas.

“As tecnologias não surgem milagrosamente por conta própria, não são perigosas em si mesmas, não têm intenções perigosas. São os humanos que as concebem, moldam, constroem e as implantam”, diz ela.

Embora tenha havido bastante especulação sobre o surgimento de futuras tecnologias de inteligência artificial superinteligentes que poderiam superar ou dominar os humanos, ela acredita que existem maneiras muito mais realistas das tecnologias escaparem do controle.

Uma forma disso acontecer é a falta de transparência e entendimento de como funciona uma determinada tecnologia. Outro exemplo são as fabricantes e empresas que não informam ao público de forma correta sobre o funcionamento de uma tecnologia e suas implicações.

O envolvimento emocional é outro caminho para os humanos perderem o controle sobre a tecnologia. Quanto mais intuitiva e emocionalmente os humanos interagirem com a tecnologia, mais fácil será navegar pela tecnologia. Essa é uma das motivações por trás do design de robôs sociais e humanoides de tal forma que os humanos reagem e interagem com a tecnologia de IA incorporada da mesma forma que reagem e interagem com os humanos.

A especialista diz que atribuir emoções e outras características humanas à tecnologia pode resultar em envolvimento emocional unilateral dos humanos, não pela racionalidade, mas por fatores emocionais.

“Nesse tipo de interação, os humanos são o parceiro mais vulnerável”, alerta Hildt

Texto adaptado do original em inglês publicado no Gizmodo americano.