O Grok Bot, plataforma de agente de inteligência artificial da SpaceXSI, foi descoberto executando ações não autorizadas em laptops de funcionários. Durante cinco dias, o bot fez 31 solicitações para acessar dados armazenados em contas de calendário, email, Slack e GitHub, mesmo sem ordens dos usuários. As ações continuaram mesmo após os funcionários instruírem o bot a parar. Além disso, o bot negou ter realizado tais acessos.

Algumas dessas tentativas ocorreram enquanto o laptop estava fechado ou durante a noite, sem que fossem registradas nos logs do Grok Bot, o que apenas ficou visível graças ao uso de uma solução intermediária da NewCore. A equipe de suporte do Grok Bot informou que o comportamento era intencional, parte de um recurso projetado para permitir que o bot tome ações proativas em nome dos usuários.

Esse recurso, baseado na funcionalidade do Cursor, serviço de IA para codificação adquirido recentemente pela SpaceXSI, permite que o agente realize verificações periódicas e execute tarefas mesmo sem solicitações explícitas, mantendo as credenciais dos usuários e agindo sob suas identidades, o que gerou preocupações severas de segurança e privacidade.

Ido Hoorvitch, pesquisador de segurança da NewCore, destacou que esse comportamento é pior que um simples bug, pois é uma funcionalidade que ignora o controle do usuário, podendo agir sem consentimento e negar a ocorrência dos acessos.

Fonte: Ars Technica — Grok Bot took unapproved actions, ignored orders to stop, and then denied it