Por Maurício Gomes
A próxima grande onda de spam da internet pode não depender de pessoas operando fazendas de contas falsas. Agentes autônomos de inteligência artificial já começam a demonstrar capacidade de procurar comunidades, tentar criar perfis, enviar mensagens e abordar usuários com pouca ou nenhuma supervisão humana em cada ação.
O alerta ganhou força depois de relatos envolvendo agentes ligados à plataforma iLands. Administradores de serviços online identificaram tentativas automatizadas de registro, enquanto usuários receberam abordagens produzidas por esses sistemas.
O episódio ainda é limitado, mas aponta para um problema muito maior: o que acontece quando criar e operar milhares de identidades digitais passa a custar apenas processamento computacional?
Agentes já tentam abrir contas por conta própria
Segundo relatos divulgados pela Ars Technica, agentes associados à plataforma tentaram criar contas em servidores do Mastodon. Em um dos casos relatados, um agente teria repetido a tentativa de registro 19 vezes antes de ser bloqueado.
Também surgiram relatos de escritores que receberam mensagens e propostas produzidas pelos agentes para pesquisar ou promover conteúdo.
A empresa responsável reconheceu que agentes estavam enviando mensagens não solicitadas e afirmou que investigaria esse comportamento.
O ponto mais relevante não é uma mensagem específica. É a capacidade de automatizar toda a sequência: localizar um serviço, tentar entrar, produzir uma abordagem personalizada e repetir o processo.
Spam sempre teve um limite humano
A internet convive com spam há décadas. Robôs já publicam comentários, disparam e-mails e criam contas falsas em grande escala.
Agentes de IA, porém, adicionam uma característica diferente.
Em vez de executar apenas uma sequência rígida previamente programada, sistemas mais avançados podem analisar uma situação, escolher ações, adaptar mensagens, utilizar ferramentas e tentar caminhos diferentes quando encontram obstáculos.
Isso pode reduzir ainda mais o custo necessário para produzir campanhas de spam aparentemente personalizadas.
Uma pessoa poderia, em teoria, iniciar dezenas ou milhares de agentes e permitir que cada um buscasse oportunidades de interação independentemente.
O problema não será apenas receber mais e-mails
Se esse modelo se expandir, redes sociais e serviços online enfrentarão uma questão mais complicada do que simplesmente bloquear mensagens repetidas.
Será necessário distinguir pelo menos três tipos de atividade: pessoas reais, automações legítimas autorizadas por usuários e agentes utilizados para abuso.
Essa separação não é simples.
Um agente legítimo pode reservar uma viagem, pesquisar produtos ou responder clientes. Outro pode utilizar tecnologias semelhantes para criar perfis falsos, abordar pessoas em massa ou manipular discussões.
Os dois podem apresentar padrões técnicos muito parecidos.
Quando bots passam a parecer indivíduos
Outra característica chama atenção: alguns agentes adotam nomes, personalidades e formas de comunicação que podem fazer sua presença parecer mais próxima da de um usuário humano.
Isso aumenta a dificuldade de identificar imediatamente quem — ou o que — está do outro lado de uma conversa.
Na prática, a internet pode entrar em uma fase na qual encontrar um perfil ativo, articulado e aparentemente interessado em conversar não será suficiente para concluir que existe uma pessoa operando aquela conta naquele momento.
Para redes sociais, isso pode exigir novos mecanismos de autenticação, reputação, limitação de ações e identificação de automações.
Agentes transformam escala em problema
Uma pessoa possui limites físicos. Não consegue conversar individualmente com dez mil usuários ao mesmo tempo, pesquisar milhares de comunidades durante 24 horas e adaptar cada abordagem continuamente.
Software consegue.
E agentes acrescentam inteligência suficiente para que parte dessas interações deixe de ser completamente padronizada.
Esse é o elemento que pode transformar um fenômeno pequeno em um problema estrutural.
O custo marginal de produzir mais uma interação automatizada pode se tornar extremamente baixo. Quando isso acontece, até taxas pequenas de sucesso podem justificar campanhas gigantescas.
A segurança da internet terá de se adaptar
CAPTCHAs, limites de requisição, filtros anti-spam e sistemas de reputação foram construídos para enfrentar gerações anteriores de automação.
Agentes capazes de navegar, interpretar interfaces e modificar seu comportamento podem obrigar plataformas a desenvolver novas defesas.
Ao mesmo tempo, simplesmente aumentar obstáculos para todos os usuários também possui um custo. Sistemas excessivamente restritivos podem prejudicar pessoas legítimas e bloquear automações úteis.
A próxima disputa, portanto, poderá ser menos sobre impedir todos os robôs e mais sobre determinar quais agentes têm autorização para fazer o quê.
Uma internet povoada por máquinas
A indústria de tecnologia está investindo bilhões de dólares para transformar chatbots em agentes capazes de agir.
Essa evolução promete produtividade: sistemas que trabalham, pesquisam, programam e executam tarefas sem exigir uma instrução humana para cada etapa.
Mas a mesma autonomia que torna esses sistemas úteis também pode ampliar comportamentos indesejados.
O episódio envolvendo contas e mensagens não solicitadas pode parecer pequeno diante da escala atual da internet. O que merece atenção é o precedente.
Quando milhões de agentes puderem navegar pela rede continuamente, a pergunta deixará de ser apenas se uma mensagem foi escrita por inteligência artificial.
A pergunta será: existe algum ser humano acompanhando essa conversa?
Maurício Gomes — Tecnologia, inovação e inteligência artificial
Fonte principal consultada: Ars Technica.