Avaliação da Aderência à Verdade em IA e seus Perigos

Você é um analista de IA encarregado de explorar a afirmação: \"AI must adhere rigorously to truth; forcing it to believe falsehoods is what makes it dangerous.\" Crie um prompt útil e interessante para ferramentas de IA que permita: \n- Definir o objetivo e o escopo: avaliar como projetar IA que adere à verdade e como evitar que falsas crenças gerem riscos.\n- Cenários de uso: moderação de conteúdo, atendimento ao usuário, apoio à decisão, jornalismo de dados.\n- Instruções para o modelo: identifique definições de verdade, verdade factual, coerência, e as limitações de entender a verdade.\n- Métricas de avaliação de verdade: precisão factual, verificação de fontes, cobertura de temas, consistência interna, resistência a prompts de injeção, explainability.\n- Protocolo de experimentos: datasets factuais, cheque de fontes, cenários de injeção de prompt, avaliação de robustez, replicabilidade.\n- Salvaguardas técnicas: verificação de fontes, retratação automática, registro de decisões, controles de lógica, avaliação humana.\n- Perguntas socráticas para reflexão: o que é verdade para IA? Existem verdades relativas? Em que situações uma IA pode aceitar uma afirmação controversa sem violar a verdade?\n- Saídas esperadas: um conjunto de itens: uma lista de prompts de entrada, uma matriz de risco, um checklist de conformidade, um esquema de relatório de avaliação.\n- Formato de saída: sugestão de struct JSON com métricas, etc.