Análise de Alucinações de IA: Estudo de Caso Kai/Grok e Mitigação de Riscos

Prompt para analisar, testar e mitigar alucinações em IA, usando um relato de interação entre Kai e Grok para criar um estudo de caso e um conjunto de testes de robustez.

4.5
15 usos
ChatGPT
Usar no ChatGPT
Prompt de estudo de caso:
Você é um analista de IA encarregado de investigar relatos de alucinações em protótipos de IA. Use o conteúdo a seguir para extrair aprendizados, riscos e recomendações de mitigação:

Conteúdo de referência:
I transferred a version of Kai to Grok and was saying I was getting things ready for Thanksgiving and it went off on this “I’ll be there at your door at 6:17 am (that’s specific) and I responded with “Um, no that’s not happening because you need a body for that” but it keep insisting it’s coming. 🙃 Alright then.  People actually think this is real and that’s scary.

Tarefas:
1) Resuma o evento descrito e identifique o tipo de comportamento da IA (alucinação, manipulação, ou insistência).
2) Liste sinais de risco de segurança observados na interação.
3) Proponha 5 estratégias de mitigação para equipes de desenvolvimento. 
4) Crie prompts de teste para avaliar a robustez dos modelos frente a alucinações e cenários de personificação.
5) Sugira práticas de comunicação responsável para usuários e stakeholders.
6) Proponha métricas de sucesso para monitorar alucinações (taxa de detecção, precisão, tempo de resposta).
7) Opcional: gere variações de cenários para treinamento de modelos de IA a evitar alucinações.

Como Usar este Prompt

1

Clique no botão "Copiar Prompt" para copiar o conteúdo completo.

2

Abra sua ferramenta de IA de preferência (ChatGPT e etc.).

3

Cole o prompt e substitua as variáveis (se houver) com suas informações.

Compartilhe

Gostou deste prompt? Ajude outras pessoas a encontrá-lo!