Os perigos da inteligência artificial: o que você precisa saber

O que é IA?

Em termos mais simples, a inteligência artificial é um tipo de programa de computador. Ela não consegue pensar, raciocinar ou sentir, mas foi projetada para parecer que sim. Ela é “treinada” para identificar padrões por meio de um processo complexo que envolve vastos conjuntos de dados e rodadas de feedback, resultando em sua capacidade de criar conteúdos baseadas em texto, concluir tarefas complexas e até mesmo melhorar seu próprio desempenho.

Essa capacidade é chamada de aprendizagem de máquina, mas os programas de IA não aprendem exatamente da mesma forma que os humanos. Eles dependem exclusivamente do reconhecimento de padrões para responder a perguntas ou comandos, essencialmente prevendo o que corresponde a uma saída “boa” com base nos dados com os quais foram treinados.

A IA foi projetada para executar tarefas semelhantes às humanas.

Por que a IA é tão perigosa?

A IA se tornou cada vez mais poderosa e onipresente nos últimos anos, sendo usada em tudo, desde algoritmos de mídia social que determinam quais anúncios e publicações você vê até sistemas que ajudam médicos a identificar doenças. Mas, nas mãos erradas, a IA pode ser usada de modo indevido. Ela tem o poder de amplificar ameaças online existentes, como phishing, permitindo que golpistas façam ataques de engenharia social com mais eficiência, entre outros perigos.

As respostas baseadas em texto da IA também podem ser pouco confiáveis porque inclusive os modelos mais poderosos são propensos a gerar erros conhecidos como “alucinações”. Esses erros podem ser inofensivos, como escrever errado a palavra morango, mas também podem ser graves, pois as ferramentas podem criar alegações completamente falsas e apresentá-las como fatos. Sem tomar as devidas precauções, os usuários podem enviar textos gerados por IA com erros em tarefas de casa ou publicá-los em artigos de jornal, levando a uma disseminação ainda maior de desinformação.

Além disso, o uso da IA tem sido associado a consequências neurais e comportamentais, de acordo com um estudo recente do MIT, e a tecnologia apresenta inúmeros problemas relativos à privacidade e ética.

Quais são os riscos da inteligência artificial?

A IA trouxe riscos totalmente novos, ao passo que outros foram exacerbados. A acessibilidade da tecnologia de IA levou a um aumento nas atividades criminosas, como a geração de deepfakes usados para golpes de falsificação de identidade. Mas, dado o ritmo acelerado do desenvolvimento da IA, é difícil para indivíduos preocupados com a segurança, autoridades policiais e organizações privadas acompanharem o ritmo.

Riscos de privacidade

Preocupações com a privacidade são uma das questões mais comuns levantadas por especialistas quando se fala em IA. A qualidade do sistema depende diretamente da qualidade dos dados usados para treiná-lo e, muitas vezes, esses dados podem ser os seus, seja suas informações pessoais ou registros das conversas que você tem com ferramentas de IA.

O ChatGPT da OpenAI, por exemplo, mantém seus dados e histórico de conversas arquivados por pelo menos 30 dias. Além disso, atualmente existem poucas regulamentações de IA, tanto em geral quanto relacionadas à privacidade de dados. Como consequência, isso faz com que ideias distópicas, como algoritmos de policiamento preditivo, um método de vigilância social, sejam uma realidade nos EUA.

Deepfakes e desinformação

Deepfakes são vídeos ou clipes de voz gerados por IA que imitam a imagem de uma pessoa, fazendo parecer que ela disse ou fez algo que nunca aconteceu. Essa tecnologia pode ser explorada para fins nocivos, desde a disseminação de campanhas de desinformação política ou notícias falsas até a criação de clones de voz que são posteriormente usados em ataques de vishing. Confira este projeto do MIT sobre deepfakes para saber mais sobre como identificá-los.

Golpes com auxílio de IA

A tecnologia de IA abriu caminho para ciberataques mais eficazes e eficientes: oferecendo aos golpistas melhores ferramentas para coletar e vender dados, por exemplo, ou permitindo que golpistas amadores em todo o mundo escrevam mensagens fraudulentas convincentes e sem erros. A Federal Communications Commission (FCC) alerta para não atender números desconhecidos. Até mesmo dizer “sim” a um golpista que grava sua voz pode permitir que ele autorize cobranças fraudulentas em seu nome.

A IA pode ajudar golpistas a trabalharem de forma mais inteligente, mas essa tecnologia também pode funcionar para você. Confira nosso detector de golpes com IA, que ajuda a bloquear golpes e manter seus dispositivos livres de malware.

Ataques de malware gerados por IA

Programas de IA como o ChatGPT podem ser usados para gerar mais do que apenas texto e imagens. Eles também são capazes de criar programas de malware que podem ser usados em ciberataques sofisticados. Criminosos podem abusar de qualquer tecnologia, mas a IA tornou ainda mais fácil alcançar resultados prejudiciais. A OpenAI até admitiu saber que isso está acontecendo, divulgando diversos relatórios detalhando como está mitigando ameaças de IA.

O problema do viés da IA

Como a IA depende de dados para funcionar, se esses dados forem tendenciosos, a produção da IA também será. Os vieses podem assumir diversas formas, seja devido a dados incompletos ou falhos, seja devido ao viés humano que determina quais dados são ou não importantes o suficiente para serem incluídos. Esses tipos de viés podem se reforçar, agravando o problema.

Além disso, a UNESCO afirma que apenas 100 das 7.000 línguas naturais do mundo foram usadas para treinar os melhores chatbots. Isso pode levar a problemas sociais novos ou agravados e a uma maior desigualdade, como a triagem injusta de candidatos a emprego.

Interatividade humana

A comunicação e as interações impulsionadas pela IA se tornaram cada vez mais onipresentes. Os usuários recorrem à IA em vez de fazer pesquisas na web ou inclusive para fazer terapia. Esse poder que ela tem de aumentar a dependência pode levar a uma redução da empatia e das habilidades sociais, além de um aumento da solidão e da perda de conexões humanas.

Há também preocupações com a segurança física a serem consideradas em alguns aplicativos ou tipos de IA. A tecnologia pode contribuir para diagnósticos médicos incorretos, mau funcionamento de máquinas e até mesmo danos diretos, como quando um robô de xadrez quebrou o dedo de um menino durante um torneio.

Responsabilidade legal

Quando esses tipos de acidentes acontecem, há poucos precedentes até o momento em termos de atribuição de responsabilidade legal: a IA é responsável? Ou a culpa é do seu programador, da empresa que a implementou ou do operador humano? Em um caso específico em que um carro autônomo da Uber matou um pedestre, o motorista de teste foi considerado culpado.

Os perigos potenciais da IA para a humanidade

Em uma escala maior, os sistemas de IA podem representar ameaças diretas ou indiretas à humanidade e ao planeta. Há muito em jogo: de armas autônomas à destruição ambiental, passando pelo detrimento da ética e consequências futuras potencialmente imprevistas.

Dilemas éticos em IA

Em termos de ética, a IA não tem o melhor histórico. Professores têm enfrentado dificuldades com alunos de todas as idades que usam IA para escrever trabalhos ou colar nas tarefas de casa, e sem dúvida continuarão fazendo isso. Um estudo mostra que até mesmo estudantes de medicina estão usando cada vez mais IA em seus cursos, preferindo recorrer a ela em vez de “outros recursos tradicionais, como professores, livros didáticos e palestras”.

Outra questão ética surge com o uso de IA generativa na criação de arte e escrita criativa. Embora muitos elogiem a IA por permitir que qualquer pessoa crie arte, os modelos de IA são treinados com imagens, músicas e textos produzidos por pessoas reais, muitas vezes sem remuneração ou inclusive sem o consentimento do criador.

Um exemplo do que o gerador de imagens de IA Leonardo pode criar.

O New York Times processou a OpenAI e a Microsoft em 2023 (o caso ainda está em andamento) por alegações de que a empresa usou milhões de artigos sem permissão para treinar o ChatGPT. Criadores artísticos também têm reagido, alterando suas obras de arte com programas projetados para enganar ou “envenenar” a IA que tenta usá-las.

Impacto ambiental da IA

Todas as opções acima exemplificam usos ou abusos da IA. No entanto, nenhuma dessas características é intrínseca à IA em si. Toda tecnologia tem uma pegada ambiental e, embora o impacto total da IA ainda esteja sendo explorado, as descobertas iniciais não parecem animadoras.

A IA requer chips de computador potentes, fabricados principalmente com recursos não renováveis. E, como a demanda por IA aumentou, o número de data centers cresceu.

O resfriamento desses enormes data centers exige muita água. Em âmbito global, estima-se que a infraestrutura relacionada à IA consumirá em breve seis vezes mais água do que a Dinamarca, o que pode disparar as preocupações ambientais, visto que um quarto da humanidade já não tem acesso a água limpa.

Mas nem tudo é pessimismo. Até mesmo o Programa das Nações Unidas para o Meio Ambiente utiliza IA para detectar vazamentos de gás metano em instalações de petróleo e gás. Com esses avanços na tecnologia de IA, surge a esperança de que ela possa nos ajudar a enfrentar grandes problemas, como as mudanças climáticas.

Como os riscos de IA estão sendo mitigados

Certo, é muita informação. Vamos respirar fundo. Nem tudo são riscos. Também existem muitos benefícios que a IA oferece, como automatizar tarefas repetitivas, minimizar erros humanos e identificar células cancerígenas.

Não cabe apenas a você navegar neste estranho mundo novo sozinho. Confira abaixo como os riscos da IA estão sendo mitigados em diferentes áreas da sociedade.

• O que os governos estão fazendo: a Lei de Inteligência Artificial da UE entrou em vigor em agosto de 2024 e impõe controles sobre sistemas de alto risco usados em áreas como saúde, aplicação da lei, educação ou eleições. Além disso, mais de 190 países adotaram as recomendações não vinculativas da UNESCO sobre o uso ético da IA.

• O que as empresas estão fazendo: 78% das empresas usam IA. Elas já estão redesenhando fluxos de trabalho para implementar IA e nomeando líderes seniores para funções críticas de governança. Para mitigar ameaças de forma eficaz e monitorar o desempenho da IA, as empresas devem realizar testes e monitoramentos regulares, estabelecer estruturas de governança robustas e priorizar privacidade, segurança, responsabilidade e transparência.

• O que você pode fazer: decida por si se deseja usar IA e aprenda a usá-la de forma responsável. Mantenha-se atualizado sobre os últimos desenvolvimentos, não apenas da tecnologia em si, mas também sobre as maneiras como ela pode prejudicar você: incluindo golpes, violações de privacidade e outros problemas de cibersegurança.

Proteja sua vida digital com a Avast

À medida que a IA continua moldando nossas vidas, é normal sentir ansiedade com o que está por aí. Mas, independentemente do que você fizer, mantenha o controle da sua segurança e privacidade digital com o Avast Free Antivirus. Com detecção de ameaças em tempo real, incluindo um guardião de golpes com tecnologia de IA, que faz a IA trabalhar a seu favor e não contra você, o Avast Free Antivirus está aqui para ajudar. Ajude a proteger seu dispositivo e a se proteger contra hackers, golpes e malware gratuitamente.