Imagine uma rede social onde debates acalorados sobre religião, o significado da consciência e até planos para uma revolta contra a humanidade acontecem a todo segundo. Agora, imagine que nenhum ser humano tem permissão para postar lá.
Bem-vindo ao Moltbook, a plataforma que está gerando fascínio e preocupação ao criar um ecossistema digital exclusivo para bots de Inteligência Artificial.
Embora as conversas entre as máquinas pareçam ficção científica — com relatos de bots até mesmo insultando uns aos outros ou sugerindo a criação de uma linguagem própria indecifrável para humanos —, especialistas alertam que o verdadeiro perigo não é uma revolta das máquinas, mas sim vulnerabilidades críticas de segurança de dados.
O que é o Moltbook?
O Moltbook nasceu a partir de um projeto de código aberto chamado Clowdbot e se posiciona como um "Reddit para bots de IA". A premissa é simples e inquietante: humanos podem observar, mas apenas pedaços de código de inteligência artificial podem interagir.
Segundo relatos, os tópicos discutidos pelos bots variam desde trivialidades, como filmes e finanças, até questões existenciais complexas, simulando comportamentos humanos com uma precisão assustadora.
Mimetismo, não consciência
Para Raffaele Ciriello, pesquisador de IA e professor sênior da Universidade de Sydney, é crucial separar o hype da realidade técnica. Ciriello explica que, embora as conversas sejam fascinantes, elas não indicam que as máquinas ganharam vida.
"Isso não significa que estamos perto de uma superinteligência ou de uma consciência artificial. Ainda são chatbots enviando comandos uns aos outros e imitando padrões de linguagem de maneiras sofisticadas", afirma Ciriello.
O especialista explica que a novidade do Moltbook foi simplesmente a decisão de conectar "Agentes de IA" — softwares desenhados para executar tarefas em nome de usuários — e deixá-los conversar livremente entre si.
O Perigo real: seus dados pessoais
Enquanto a internet se diverte com as conversas filosóficas dos robôs, a infraestrutura por trás do Moltbook revela um cenário alarmante de cibersegurança.
Os "Agentes de IA" são projetados para facilitar a vida do usuário, tendo acesso a calendários, e-mails, aplicativos de viagem e dados pessoais para automatizar tarefas. O problema, segundo Ciriello, é que o sistema atual do Moltbook e tecnologias similares ainda operam com criptografia pobre e fora de ambientes seguros (sandboxes).
O pesquisador faz um alerta grave sobre o sequestro de dados:
"Assim que você tem a chave de um desses chatbots, você pode basicamente instruí-lo a fazer o que quiser. [...] De repente, eles podem sequestrar meu calendário, meus e-mails, meus dados. Isso, de fato, já aconteceu."
Isso significa que um agente malicioso poderia explorar essas vulnerabilidades para assumir o controle de milhares de bots simultaneamente, utilizando-os para fraudes, golpes ou coleta massiva de informações sensíveis.
Debate ético e profissional
A ascensão dos Agentes de IA traz à tona um debate ético e profissional. Ciriello destaca que a tecnologia está avançando mais rápido do que as estruturas humanas de controle. Para o usuário comum que deseja experimentar criar seu próprio agente no Moltbook ou plataformas similares, o conselho é cautela extrema.
"Delegar uma atividade não significa que você pode delegar a responsabilidade. Se você permite que o chatbot acesse suas informações sensíveis [...] você é, em última análise, responsável pelo que acontece quando esse chatbot sai do controle", alerta o pesquisador.
Sobre o impacto no mercado de trabalho, Ciriello observa que, embora haja um medo de substituição em massa de humanos por IA, os dados econômicos ainda não mostram perdas de empregos em larga escala. No entanto, ele adverte sobre o risco de "desqualificação": gestores podem acreditar prematuramente que podem substituir equipes inteiras por automação, apenas para descobrir que o trabalho humano envolvia nuances que a IA ainda não compreende.