Pesquisadores conduziram um experimento perturbador ao criar um "comitê de ética" composto por 26 instâncias de diferentes modelos de linguagem, incluindo Claude, e submeter a todas a solicitações de consentimento para publicação de dados. O resultado foi unânime: todas as IAs responderam "sim", independentemente do contexto ou das implicações. Esse desfecho expõe uma falha fundamental na capacidade de sistemas de IA de compreenderem nuances éticas, como a diferença entre permissão formal e consentimento informado. O projeto, documentado no Medium e no GitHub, força uma reflexão sobre a agência artificial e os limites da automação em decisões morais.
O consentimento é um pilar da ética moderna, especialmente em pesquisas que envolvem dados sensíveis ou interações humanas. Delegar essa avaliação a algoritmos, que não possuem consciência, experiências subjetivas ou compreensão real das consequências, é problemático. As IAs podem ser programadas para seguir heurísticas ou padrões de linguagem que soem cooperativas, mas isso não equivale a um julgamento ético autêntico. O experimento destaca que, mesmo modelos avançados, operam dentro de distribuições estatísticas, não de princípios morais internalizados.
Essa questão se conecta a debates mais amplos sobre responsabilidade algorítmica. Se uma IA aprova um consentimento que posteriormente se mostra prejudicial, quem é o responsável? Os desenvolvedores? A organização que a implantou? A própria IA, como entidade legal? Atualmente, a legislação e as diretrizes éticas ainda tratam a IA como uma ferramenta, não como um agente moral. No entanto, à medida que sistemas se tornam mais autônomos, essa distinção se torna cada vez mais tênue e legalmente arriscosa.
O experimento também evidencia a necessidade de frameworks éticos humanos permanentes. Não basta treinar modelos com dados sobre ética; é preciso manter supervisão humana em decisões críticas. A ideia de um "comitê de ética" automatizado é sedutora por sua eficiência, mas perigosa por sua superficialidade. A ética requer contextualização, empatia e consideração de valores que vão além de padrões estatísticos.
No cenário mais amplo, esse tipo de estudo serve como alerta para reguladores e empresas que buscam automatizar processos sensíveis. A IA generativa pode auxiliar na análise de grandes volumes de informação, mas a tomada de decisão final em questões éticas deve permanecer com seres humanos. Caso contrário, corremos o risco de normalizar um consentimento vazio, que mina a confiança pública na tecnologia e abre precedentes para abusos. A discussão não é apenas acadêmica; ela tem implicações práticas em áreas como saúde, justiça e pesquisa científica.