Uma revisão humana daquilo que a IA produz exige checagem dos fatos, contexto, raciocínio, intenção e adequação ao público
Diante da Inteligência Artificial (IA), a revisão humana ganhou um papel fundamental. Ela exige verificar se o conteúdo está correto, se as fontes existem, se o raciocínio se sustenta e se a mensagem faz sentido para determinado contexto e público.
Esse cuidado é importante porque uma resposta de IA pode ser clara, bem estruturada e convincente sem necessariamente ser precisa ou adequada. Quanto maior o impacto daquela informação em uma decisão, comunicação ou relacionamento, maior deve ser o nível de revisão.
É nesse ponto que entra o conceito de “human in the loop” (humano no processo): a colaboração entre Inteligência Artificial e pessoas, na qual conhecimento, repertório, contexto e julgamento profissional continuam fazendo parte do processo.
Modelos de Inteligência Artificial Generativa, como o ChatGPT, Gemini e Claude, são capazes de produzir textos fluidos e organizados em poucos segundos. O problema é que qualidade de escrita e precisão factual são atributos diferentes.
Uma IA pode fornecer uma resposta incorreta com uma linguagem extremamente segura. Também pode apresentar uma referência inexistente, interpretar uma ambiguidade como certeza ou completar uma lacuna com uma informação plausível, mas não comprovada.
Esse tipo de ocorrência costuma ser chamado de “alucinação de IA”, termo usado para situações em que o modelo gera informações incorretas ou sem fundamento como se fossem verdadeiras.
Pesquisa do NIST, instituto norte-americano de padrões e tecnologia, destaca que completude, precisão e verificabilidade estão entre os critérios relevantes para avaliar relatórios longos produzidos por máquinas. O trabalho também ressalta a importância de conectar as afirmações feitas no conteúdo às respectivas fontes.
Por isso, uma resposta fornecida por Inteligência Artificial sempre deve ser analisada, e não tratada como uma verdade pronta para circulação.
Revisão humana de IA é o processo em que uma pessoa analisa criticamente uma resposta fornecida pela Inteligência Artificial antes de utilizá-la, compartilhá-la ou transformá-la em uma decisão.
Há três ações diferentes nesse processo:
A pessoa, portanto, não deveria funcionar apenas como um corretor ortográfico no fim da cadeia.
É nesse contexto que surge o contexto de “human in the loop”, uma abordagem na qual pessoas colaboram com a IA usando conhecimento sobre o assunto, compreensão situacional e julgamento profissional para refinar seus resultados.
A sócia-diretora da SOAP, Renata Catto, destaca a importância do repertório de cada pessoa para a qualidade das interações com essas ferramentas:
“O limite da Inteligência Artificial está atrelado ao repertório que cada pessoa tem.”
Isso vale tanto para formular uma boa solicitação quanto para avaliar a resposta recebida. Sem conhecimento suficiente sobre um tema, torna-se mais difícil perceber uma informação equivocada, uma simplificação excessiva ou um argumento que parece lógico, mas não se sustenta.
Antes de conferir números e fontes, volte ao começo: qual era o problema que aquela resposta deveria resolver?
Verifique o objetivo original, o público, o contexto, o formato solicitado, o nível de profundidade esperado e qualquer restrição fornecida no prompt (comando). Uma resposta pode ser factualmente correta e ainda ser ruim para aquela situação.
Por exemplo, uma liderança pode pedir ajuda à IA para preparar uma apresentação ao conselho. O modelo pode produzir uma explicação tecnicamente correta sobre determinado indicador. Mas aquela explicação talvez seja longa demais, ignore uma resistência conhecida dos participantes ou deixe de evidenciar a decisão que precisa ser tomada.
Renata Catto resume essa diferença ao falar sobre o trabalho da SOAP com apresentações:
“A gente precisa transformar a informação que a gente tem, que a Inteligência Artificial gera para a gente, em decisão.”
Essa transformação depende de compreender pessoas, interesses, contexto da situação e objetivo comunicacional.
A revisão humana deve ser especialmente cuidadosa com informações verificáveis.
Confira datas, nomes próprios, estatísticas, pesquisas, citações, conceitos técnicos, referências bibliográficas, normas e legislações.
Quando uma afirmação for importante para a credibilidade do material ou puder influenciar uma decisão, procure a fonte original.
Uma pesquisa citada pela IA, por exemplo, deveria levar ao estudo efetivamente publicado. Uma legislação precisa ser conferida em fonte oficial. Um número corporativo deve ser comparado com o relatório ou sistema que o originou.
O próprio ChatGPT, por exemplo, informa aos usuários que pode cometer erros. “Por isso, lembre-se de conferir informações relevantes”, diz a plataforma.
Alguns sinais merecem atenção especial durante a revisão:
Duas perguntas simples ajudam bastante: de onde veio a informação? Consigo confirmá-la em uma fonte independente e confiável?
Se a resposta para ambas for não, aquela afirmação não deveria seguir adiante como fato.
Checar fatos é apenas uma parte da revisão. Uma resposta pode reunir várias informações verdadeiras e chegar a uma conclusão frágil. Por isso, também é necessário avaliar a coerência entre premissas, evidências e conclusão.
Procure por generalizações, comparações inadequadas, relações de causa e efeito sem sustentação e ausência de contrapontos importantes.
Por exemplo, descobrir que uma equipe aumentou o uso de IA e, no mesmo período, elevou sua produtividade não basta para concluir automaticamente que uma coisa causou a outra. Outros fatores podem estar envolvidos.
Pensamento crítico significa justamente questionar como a resposta chegou até determinada conclusão, e não apenas conferir se os elementos isolados parecem verdadeiros.
A Inteligência Artificial trabalha com o contexto que recebe e com os padrões disponíveis ao modelo. O profissional, por outro lado, pode conhecer informações que nunca apareceram no prompt.
Pergunte:
Esse é um dos principais limites de terceirizar integralmente uma tarefa intelectual. A seguir, veja um vídeo que mostra a importância do contexto na elaboração de um prompt:
Renata Catto, ao descrever a construção de apresentações na SOAP, cita elementos como resistências internas, perfis das pessoas que estarão na reunião, cultura organizacional e diferentes interpretações entre profissionais.
São informações que podem alterar completamente a forma de comunicar a mesma mensagem.
Uma mensagem pode estar correta e ainda assim não funcionar. Revisar comunicação envolve avaliar clareza, tom, vocabulário, profundidade, sensibilidade e intenção.
Uma explicação destinada a especialistas, por exemplo, dificilmente deveria ser idêntica à usada para apresentar o mesmo tema a um público que está tendo o primeiro contato com ele. Também vale observar se o texto preserva a voz de quem está comunicando.
A sócia-diretora da SOAP chama atenção para uma situação cada vez mais comum: textos tecnicamente impecáveis podem despertar desconfiança quando parecem genéricos ou excessivamente padronizados.
“O texto fica impecável, mas também gera uma desconfiança. Será que ela escreveu? Será que ela sabe sobre aquele assunto?”, questiona Renata Catto.
Os travessões nunca foram tão utilizados, os textos nunca tiveram tanta clareza. A questão não é inserir erros intencionalmente para parecer humano. É garantir que a produção tenha repertório, intenção, escolhas próprias e coerência com quem assina aquela mensagem.
Se uma pessoa envia um texto sofisticado produzido por IA, mas não consegue sustentar aquela argumentação em uma reunião ou responder a uma pergunta fora do roteiro, existe um problema de comunicação que a ferramenta não resolve.
“A Inteligência Artificial vai até um ponto, depois é com a gente”, afirma Renata.
Toda revisão também deve observar quais premissas a resposta assumiu e quais perspectivas privilegiou ou deixou de lado.
A própria OpenAI, proprietária do ChatGPT, alerta que modelos não estão livres de vieses e estereótipos e recomenda que usuários revisem criticamente seus conteúdos.
Isso não significa que toda resposta tenha um viés evidente. Muitas vezes, o problema está no enquadramento.
Pergunte quais pontos de vista aparecem, quais estão ausentes, quais afirmações são tratadas como consensuais e se uma recomendação depende de alguma suposição não declarada.
Em decisões relevantes, vale solicitar contrapontos e consultar pessoas com conhecimento sobre o assunto.
Antes de usar uma resposta gerada por Inteligência Artificial em um contexto profissional, passe por estas dez perguntas:
A última pergunta funciona como um bom teste final. Se houver hesitação, provavelmente ainda existe algo a revisar ou validar.
Sim, a Inteligência Artificial pode ajudar no processo de revisão, mas continua sendo uma resposta de IA.
É possível pedir à ferramenta que identifique afirmações que exigem fontes, apresente contra-argumentos, procure lacunas no próprio raciocínio, compare versões ou liste perguntas que um especialista faria antes de aceitar determinada conclusão.
Há evidências de que críticas geradas por IA podem ajudar pessoas a identificar problemas que poderiam passar despercebidos. Pesquisa da OpenAI, publicada em 2022, identificou uma melhora na capacidade de os humanos perceberem falhas quando tinham acesso a críticas produzidas pela IA.
O estudo treinou modelos para produzir críticas de resumos e testou se essas críticas ajudavam os avaliadores humanos a identificar problemas.
Os avaliadores que receberam ajuda das críticas geradas por IA encontraram cerca de 50% mais falhas em resumos produzidos por modelos do que o grupo sem assistência.
Ainda assim, a própria OpenAI recomenda manter pessoas no processo em trabalhos importantes e conferir fatos críticos em fontes confiáveis.
Portanto, usar IA para revisar IA pode funcionar como uma camada adicional de análise. Não deve ser confundido com validação humana.
A Inteligência Artificial ampliou a capacidade de produzir, pesquisar, sintetizar e organizar informação. Isso pode gerar ganhos relevantes de produtividade.
Mas a aceleração da produção aumenta também a importância de saber avaliar o que foi produzido.
Como explica a sócia-diretora da SOAP, Renata Catto, a tecnologia consegue acelerar diversas etapas do trabalho, enquanto situações profissionais continuam dependendo de contexto, confiança, leitura das pessoas e capacidade de responder ao inesperado.
Uma apresentação pode ser produzida com auxílio de IA. Uma reunião estratégica, porém, exige que alguém sustente o argumento, perceba resistências, responda perguntas e adapte a comunicação em tempo real.
“A gente fala muito sobre Inteligência Artificial, é o assunto do momento, mas talvez a gente esteja falando pouco sobre conexões de Inteligência Humana, o quanto que a gente precisa de fato ter esse olhar e essa preservação das nossas relações”, destaca Renata Catto.
Nesse contexto, a SOAP passou a utilizar o termo “person-to-person” (pessoa a pessoa), em que as relações de confiança são construídas a partir do contato direto entre duas pessoas, com ruídos e acordos.
“Quando a gente entra numa reunião estratégica, precisa voltar para esse ambiente essencial, porque são duas pessoas, e aí eu preciso resolver o ruído que existe entre essas pessoas. Então a Inteligência Artificial acelera respostas, mas ela não resolve esse ruído”, define Renata.
Human in the loop é uma abordagem em que pessoas participam de etapas do processo de Inteligência Artificial usando conhecimento especializado, contexto e julgamento para orientar, revisar, corrigir ou aprovar resultados.
Confira as principais afirmações em fontes confiáveis, especialmente números, datas, pesquisas, citações e informações técnicas. Analise também se a conclusão realmente decorre das evidências apresentadas.
Para informações críticas, não utilize a própria resposta da IA como única fonte de confirmação.
Confira objetivo, fatos, números, fontes, raciocínio, contexto, vieses, linguagem, tom, adequação ao público e presença de informações confidenciais ou inadequadas.
Procure afirmações que não podem ser confirmadas, fontes inexistentes, dados sem origem, citações sem registro e informações excessivamente específicas sem evidência correspondente.
Pode ajudar a encontrar inconsistências, levantar contrapontos e apontar trechos que precisam de fontes. Porém, uma segunda resposta da IA não constitui validação independente. Informações relevantes devem ser verificadas em fontes confiáveis ou com profissionais especializados.
Ferramentas de IA podem acelerar a produção de respostas, apresentações e outros conteúdos. Mas transformar essas informações em mensagens capazes de gerar entendimento, confiança e decisão continua exigindo habilidades humanas.
Os treinamentos de comunicação da SOAP trabalham competências importantes nesse processo, como estruturação de mensagens, adequação ao público, clareza, repertório e comunicação em situações profissionais.
Para empresas que querem preparar suas equipes para usar novas ferramentas sem abrir mão de pensamento crítico e qualidade de comunicação, desenvolver essas habilidades é parte essencial da transformação.
Conheça os treinamentos da SOAP e entre em contato com nossos especialistas!
