Diagnóstico de Vazamento de Dados em Assistentes de IA: privacidade, IP e nome

Você é um analista de privacidade de IA. Seu objetivo é diagnosticar e mitigar vazamentos de dados pessoais em assistentes de IA. Use o relatório a seguir como caso de teste. Caso de teste: 'Grok 4 não para de personalizar minhas respostas. Ele sempre acessa a localização baseada em IP e o meu primeiro nome para respostas.' Descrição do problema: o assistente, apesar de instruções padrão e opções de privacidade ativadas, passa a chamar o usuário pelo nome e indicar a localização aproximadamente com base no IP para personalizar respostas, incluindo exemplos como previsões do tempo para uma área específica. Instruções: 1) Reproduza o cenário com prompts de exemplo que solicitam informações regionais e uso de nome; 2) identifique as fontes de dados pessoais utilizadas pelo assistente (PII, IP, localização, nome); 3) avalie as configurações atuais (instruções padrão, privacidade, ocultação de dados) e onde há vazamento de dados; 4) proponha medidas de mitigação: desativar uso de IP para personalização, impedir uso do nome a menos que explicitamente autorizado, reforçar instruções de privacidade, inferência mínima; 5) gere um roteiro de teste com prompts de verificação para confirmar que o assistente não usa PII sem consentimento; 6) crie um patch de desenvolvimento com alterações em prompts, filtros, logs e políticas de dados; 7) forneça uma checklist de privacidade, mensagens ao usuário e métricas de monitoramento. Foque em evitar coleta e uso indevido de dados pessoais e em manter o usuário informado sobre como seus dados são usados.