Prompt Screener, Extensão Chrome Detecta Vieses em Prompts Antes do Envio para IA

A segurança em inteligência artificial ganha uma nova ferramenta com o lançamento do Prompt Screener, extensão para Chrome desenvolvida especificamente para identificar vieses em prompts antes que sejam enviados para modelos de linguagem como ChatGPT, Claude, Gemini e Grok. A extensão age como um filtro proativo, analisando o texto digitado pelo usuário e detectando padrões que tendem a produzir respostas tendenciosas, enganosas ou manipuladas.

O Prompt Screener identifica cinco categorias principais de viés em prompts. A primeira é a busca de confirmação, onde o prompt já pressupõe uma resposta específica. A segunda são as presuposições carregadas, que inserem valores ou crenças no texto sem evidência. A terceira categoria abrange a ancoragem em autoridade, que usa referências a figuras de autoridade para influenciar a resposta. A quarta detecta perguntas direcionadas, que induzem o modelo a responder de certa forma. Por fim, a ferramenta identifica falsas dicotomias, apresentando apenas duas opções quando há nuances não consideradas.

Quando um viés é detectado, a extensão pausa o envio do prompt e sugere um reframe neutro, oferecendo uma versão reformulada que mantém a intenção original do usuário sem os elementos tendenciosos. O diferencial técnico está na privacidade,prompts nunca são armazenados, e a análise ocorre via proxy seguro, garantindo que o conteúdo digitado não seja exposto a servidores terceiros.

A extensão representa um avanço significativo para desenvolvedores, pesquisadores e usuários conscientes que desejam extrair respostas mais objetivas de modelos de linguagem. Ao integrar verificação de viés diretamente no fluxo de trabalho, o Prompt Screener preenche uma lacuna importante no ecossistema de tooling para IA, tornando a interação com LLMs mais crítica e consciente.