Autores:

Ao longo da história, o desenvolvimento de novas tecnologias ampliou as possibilidades humanas e transformou a maneira como as sociedades se organizam. Ao mesmo tempo, cada avanço trouxe novos dilemas éticos, especialmente quando os benefícios da inovação passaram a conviver com riscos e impactos sobre pessoas e instituições.

A prensa tipográfica de Gutenberg, por exemplo, impulsionou a circulação de informações e a produção de conhecimento em larga escala, mas também facilitou a disseminação de ideias falsas e discursos de manipulação. A Revolução Industrial aumentou a produtividade e transformou os processos produtivos, mas também modificou profundamente as relações de trabalho. Mais recentemente, a internet ampliou o acesso à informação e conectou pessoas e mercados, ao mesmo tempo que abriu novas possibilidades para a vigilância, a manipulação e a desinformação.

A inteligência artificial (IA) faz parte dessa trajetória de transformações, mas apresenta desafios próprios. Sua capacidade de analisar grandes volumes de dados, produzir conteúdos e apoiar decisões em diferentes áreas, como saúde, crédito, recrutamento e segurança, amplia significativamente as possibilidades de atuação das organizações. Com o avanço dos agentes de IA, esses sistemas também passam a executar tarefas e processos com diferentes níveis de autonomia.

Nesse cenário, a questão não é apenas o que a tecnologia é capaz de fazer, mas como deve ser utilizada, quais limites precisam ser estabelecidos e quem responde pelas consequências de suas aplicações. São questões que envolvem não apenas aspectos tecnológicos, mas também princípios éticos, direitos humanos, integridade e responsabilidade empresarial.

1. IA: uma transformação que exige novas formas de governança

A inteligência artificial já integra diferentes atividades empresariais, contribuindo para automatizar processos, analisar informações, identificar padrões e apoiar a tomada de decisões. Essas aplicações podem gerar ganhos de produtividade, eficiência e inovação. Entretanto, também exigem atenção quanto à qualidade das informações utilizadas, aos critérios adotados pelos sistemas e às consequências de seus resultados.

Uma das questões centrais está relacionada à confiança nas respostas e recomendações produzidas pela IA. Os sistemas podem apresentar informações incorretas, reproduzir vieses presentes nos dados utilizados ou gerar resultados aparentemente consistentes, mas sem fundamentação adequada. Quando essas respostas são incorporadas aos processos empresariais sem verificação, podem comprometer a qualidade das decisões e produzir impactos sobre pessoas, direitos e interesses da organização.

Esse risco pode ser intensificado pela familiaridade dos usuários com as ferramentas. Quanto mais personalizada e integrada à rotina de trabalho se torna a interação com a IA, maior pode ser a tendência de confiar em seus resultados sem submetê-los à devida análise crítica. A possibilidade de respostas incorretas ou imprecisas reforça a necessidade de validação das informações, especialmente quando utilizadas em decisões relevantes.

Por essa razão, a integridade precisa estar incorporada à governança da inteligência artificial desde sua concepção e ao longo de todo o ciclo de vida dos sistemas. Não basta avaliar se determinada ferramenta funciona tecnicamente. É necessário compreender sua finalidade, identificar os riscos envolvidos, estabelecer critérios de utilização e definir responsabilidades.

Essa governança pode ser compreendida de forma ainda mais ampla quando a IA é integrada à estratégia e à gestão de sustentabilidade/ASG da organização. Nessa perspectiva, não se avaliam apenas os riscos técnicos dos sistemas, mas também seus efeitos sobre compromissos ambientais, sociais e de integridade, assim como a forma pela qual esses compromissos condicionam escolhas sobre desenvolvimento, contratação e uso da IA.

Referenciais internacionais oferecem orientações importantes para essa construção. Os Princípios de IA da Organização para a Cooperação e Desenvolvimento Econômico (OCDE), a Recomendação sobre a Ética da Inteligência Artificial da UNESCO, o AI Risk Management Framework, do National Institute of Standards and Technology (NIST), e a norma ISO/IEC 42001 apresentam diretrizes para o desenvolvimento e a utilização responsável da tecnologia nas organizações.

Embora tenham naturezas e escopos diferentes, esses referenciais convergem em aspectos fundamentais:

Esses princípios precisam se traduzir em práticas concretas. O conceito de human in the loop, por exemplo, só é efetivo quando a pessoa responsável possui conhecimento, informações, tempo e autoridade para intervir. Caso contrário, a participação humana pode se tornar meramente formal, sem capacidade real de reduzir riscos ou assegurar a responsabilização.

Também é importante reconhecer que não existe uma estrutura única de governança adequada a todas as organizações. Os controles devem ser proporcionais à dimensão da empresa, à finalidade de utilização da tecnologia e aos riscos e impactos envolvidos. Uma pequena empresa pode precisar de diretrizes mais simples, enquanto organizações que utilizam sistemas em processos críticos podem demandar avaliações de impacto, responsabilidades formais e mecanismos mais robustos de acompanhamento.

No Brasil, essa discussão também envolve o desenvolvimento de um marco regulatório específico. O Projeto de Lei nº 2.338/2023, aprovado pelo Senado Federal em dezembro de 2024 e encaminhado à Câmara dos Deputados em março de 2025, propõe estabelecer regras para o desenvolvimento, o fomento e o uso ético e responsável da inteligência artificial. Na consulta à tramitação legislativa em novembro de 2026, o projeto ainda aguardava parecer do relator na Comissão Especial da Câmara, não tendo se convertido em lei.

Enquanto não houver uma legislação geral específica em vigor, normas já existentes, como a Lei Geral de Proteção de Dados Pessoais (LGPD), o Marco Civil da Internet e o Código de Defesa do Consumidor, continuam relevantes, conforme a natureza da aplicação e das relações envolvidas. A governança empresarial precisa considerar esse conjunto de obrigações, além das orientações e boas práticas internacionais.

O desafio, portanto, não é escolher entre inovação e responsabilidade, mas estabelecer condições para que ambas caminhem juntas. Mais do que perguntar o que a IA pode fazer pelo negócio, as empresas precisam definir como desejam utilizá-la, quais limites devem estabelecer e como garantir que as pessoas continuem participando das decisões que realmente importam.

Isso exige olhar cada projeto de uso e aplicação da IA na organização considerando a interdependência IA-ASG em duas direções: como a IA afeta resultados e compromissos ASG e como esses compromissos, por sua vez, orientam os limites e requisitos para o uso da IA.

2. Os riscos e desafios globais que a IA coloca para as empresas

A expansão da inteligência artificial apresenta desafios que ultrapassam fronteiras geográficas e setores econômicos. Sistemas desenvolvidos em um país podem ser utilizados em diferentes jurisdições, enquanto modelos e conteúdos digitais podem produzir efeitos em grande escala, dificultando a identificação das causas, dos responsáveis e das medidas necessárias para corrigir eventuais danos.

Embora nem todos os sistemas apresentem o mesmo nível de risco, as organizações precisam avaliar suas aplicações considerando a finalidade, o contexto de utilização, as pessoas potencialmente afetadas e as consequências de eventuais falhas.

Entre os principais desafios globais para as empresas, destacam-se:

2.1. Vieses e discriminação algorítmica

Um dos principais desafios da inteligência artificial está relacionado à possibilidade de reproduzir ou ampliar desigualdades presentes nos dados, nos processos organizacionais ou nas decisões humanas que orientaram o desenvolvimento de determinado sistema.

Algoritmos treinados com dados históricos podem incorporar padrões discriminatórios, mesmo quando não utilizam explicitamente características pessoais sensíveis. Isso acontece porque determinadas variáveis, aparentemente neutras, podem funcionar como indicadores indiretos de condições socioeconômicas, gênero, idade ou outras características relevantes para a avaliação de possíveis impactos discriminatórios.

No ambiente empresarial, esse risco pode surgir em sistemas de recrutamento e seleção, avaliação de desempenho, concessão de crédito, análise de clientes e definição de prioridades comerciais.

Um sistema de seleção automatizada, por exemplo, pode atribuir pontuações inferiores a candidatos cujos perfis se afastem dos padrões historicamente predominantes em determinada organização. Caso seus resultados sejam aceitos sem análise crítica, a automação poderá conferir aparência de objetividade a decisões potencialmente injustas.

A prevenção exige avaliar a qualidade e a representatividade dos dados, testar os resultados, identificar disparidades relevantes e estabelecer procedimentos para revisão e correção de decisões. Também é necessário acompanhar periodicamente o desempenho dos sistemas, pois mudanças no contexto de utilização podem alterar seus resultados.

A eficiência operacional não deve prevalecer automaticamente sobre a equidade, a dignidade e os direitos das pessoas. A governança precisa assegurar que os ganhos proporcionados pela tecnologia sejam compatíveis com decisões justas e responsáveis.

2.2. Desinformação e manipulação

A inteligência artificial generativa tornou mais acessível a produção de conteúdos sintéticos, incluindo textos, imagens, áudios e vídeos capazes de simular pessoas, acontecimentos ou declarações. Embora essas tecnologias tenham aplicações legítimas, também podem ser utilizadas para disseminar informações falsas, produzir fraudes, manipular públicos e comprometer a autenticidade das comunicações.

Para as empresas, esses riscos podem se materializar em fraudes envolvendo a identidade de dirigentes, mensagens falsas atribuídas à organização, documentos fabricados, campanhas de desinformação e conteúdos capazes de afetar a confiança de clientes, colaboradores, investidores e parceiros comerciais.

Outro desafio está relacionado à produção de informações aparentemente consistentes, mas incorretas ou sem fundamentação verificável. Quando esses conteúdos são incorporados a relatórios, pareceres, apresentações ou decisões sem validação, podem comprometer a qualidade dos processos internos e gerar consequências operacionais, jurídicas e reputacionais.

A resposta organizacional deve combinar procedimentos de verificação, controles de acesso, validação de fontes, protocolos de comunicação e capacitação dos colaboradores para identificar conteúdos suspeitos.

Também é importante estabelecer critérios para a utilização de conteúdos gerados por IA em comunicações institucionais, especialmente quando possam influenciar decisões relevantes ou afetar a imagem e a credibilidade da organização.

2.3. Impactos sobre os direitos humanos e as relações de trabalho

A adoção da inteligência artificial pode modificar funções profissionais, redistribuir atividades, ampliar mecanismos de monitoramento e influenciar decisões sobre contratação, promoção, remuneração e desligamento.

Essas transformações podem contribuir para o aumento da produtividade e para a criação de novas oportunidades, mas também podem gerar insegurança profissional, assimetrias de informação e formas excessivas de vigilância.

O uso de ferramentas automatizadas para monitorar produtividade, analisar comportamentos ou classificar empregados, por exemplo, exige atenção à proporcionalidade, à finalidade do tratamento de dados, à transparência e à possibilidade de contestação dos resultados.

Além disso, a transformação dos processos de trabalho demanda atenção à capacitação profissional e à preparação dos colaboradores para novas atividades e responsabilidades. A introdução de tecnologias não deve desconsiderar as pessoas diretamente afetadas pelas mudanças organizacionais.

A responsabilidade empresarial envolve, portanto, não apenas prevenir danos, mas também administrar a transição tecnológica de maneira compatível com a dignidade humana e com as obrigações legais aplicáveis.

2.4. Riscos reputacionais e perda de confiança

A confiança constitui um ativo importante para a sustentabilidade das organizações. Ela é construída por meio da coerência entre compromissos institucionais, decisões, comportamentos e resultados.

A utilização inadequada da inteligência artificial pode comprometer essa confiança quando produz decisões discriminatórias, expõe informações confidenciais, dissemina conteúdos incorretos ou gera impactos negativos sem mecanismos adequados de correção.

Além dos danos diretamente causados por falhas tecnológicas, a ausência de transparência e de responsabilização pode ampliar a percepção negativa sobre a organização. Clientes, colaboradores, investidores, fornecedores e demais partes interessadas esperam que as empresas sejam capazes de explicar suas escolhas e responder pelos impactos de suas atividades.

Por essa razão, a gestão dos riscos associados à IA deve contemplar não apenas falhas técnicas e incidentes de segurança, mas também seus efeitos sobre os diferentes públicos interessados.

Mais do que administrar crises depois que elas ocorrem, as empresas precisam desenvolver estruturas que permitam antecipar riscos, detectar desvios e demonstrar que a tecnologia está sendo utilizada de maneira responsável.

3. IA, confiança e responsabilidade empresarial

Os desafios apresentados demonstram que a incorporação da inteligência artificial aos processos organizacionais exige mais do que a adoção de ferramentas tecnológicas ou a implementação de controles operacionais. Exige uma reflexão sobre a maneira como as decisões são tomadas, as responsabilidades são atribuídas e a confiança é construída nas relações com colaboradores, clientes, parceiros e sociedade.

A eficiência tecnológica, isoladamente, não assegura decisões adequadas, justas ou alinhadas aos valores institucionais. Nesse contexto, a governança assume papel fundamental ao estabelecer diretrizes, responsabilidades e mecanismos de acompanhamento capazes de conciliar inovação, ética e sustentabilidade empresarial.

Sob a perspectiva de Governança, Riscos e Compliance (GRC), a responsabilidade pelo uso da inteligência artificial precisa estar incorporada à estratégia e à cultura organizacional. Isso significa garantir que a tecnologia contribua para a geração de valor sem comprometer a integridade, os direitos das pessoas e a confiança das partes interessadas.

Uma abordagem de governança integrada IA-ASG aprofunda ainda mais essa responsabilidade ao conectar tecnologia, estratégia, sustentabilidade, direitos humanos e integridade. A empresa passa a examinar simultaneamente os impactos que suas aplicações de IA geram nas dimensões ambiental, social e de governança (IA → ASG) e os condicionantes ASG que devem orientar o desenho, a contratação e a operação desses sistemas (ASG → IA).

Para transformar esses compromissos em práticas efetivas, três frentes de atuação merecem atenção especial.

3.1. Supervisão humana nas decisões apoiadas por IA

A supervisão humana constitui um elemento essencial para assegurar a utilização responsável da inteligência artificial, especialmente em processos que possam produzir impactos significativos sobre pessoas, direitos e interesses legítimos.

Embora os sistemas de IA possam oferecer análises, recomendações e respostas em grande escala, sua utilização não elimina a necessidade de avaliação crítica, contextualização e julgamento humano. A confiança excessiva nos resultados automatizados pode levar à aceitação de informações sem a devida verificação, comprometendo a qualidade e a legitimidade das decisões.

Por essa razão, as organizações precisam definir quais decisões podem ser automatizadas, quais exigem validação humana e em quais circunstâncias deve existir a possibilidade de revisão ou intervenção. Esses mecanismos devem considerar a natureza da atividade, a criticidade do processo e os impactos potenciais decorrentes de falhas.

A supervisão não pode representar apenas uma formalidade. Os profissionais responsáveis devem possuir conhecimento adequado, acesso às informações necessárias e autonomia para questionar resultados, corrigir inconsistências e interromper processos quando identificarem riscos relevantes.

Nesse cenário, a alta administração desempenha papel fundamental ao estabelecer responsabilidades e assegurar que a utilização da IA esteja integrada às estruturas de governança e gestão de riscos.

A tecnologia pode ampliar a capacidade de análise e apoiar a tomada de decisões, mas não substitui a responsabilidade institucional por suas consequências.

3.2. Políticas internas claras e orientação aos colaboradores

A utilização crescente de ferramentas de inteligência artificial no ambiente corporativo torna indispensável a definição de políticas internas claras, acessíveis e compatíveis com a realidade de cada organização.

Essas políticas devem orientar os colaboradores quanto às finalidades permitidas, aos limites de utilização e aos procedimentos necessários para assegurar que os resultados produzidos pela IA sejam empregados de maneira ética, segura e responsável.

Entre os aspectos relevantes estão a definição das ferramentas autorizadas, a proteção de informações confidenciais e dados pessoais, a verificação dos conteúdos gerados, a identificação de situações que demandem validação adicional e os procedimentos de comunicação de erros ou incidentes.

Entretanto, a existência de normas, por si só, não garante sua efetividade. É necessário promover ações contínuas de comunicação, orientação e capacitação, permitindo que os profissionais compreendam tanto as oportunidades quanto as limitações da tecnologia e as vulnerabilidades existentes.

A liderança exerce papel determinante nesse processo. A coerência entre as diretrizes institucionais e o comportamento dos gestores contribui para fortalecer uma cultura de responsabilidade, na qual a inovação esteja associada à integridade e ao respeito aos valores organizacionais.

A atuação integrada das áreas de tecnologia, sustentabilidade/ASG, compliance, gestão de riscos, jurídico, privacidade, segurança da informação, recursos humanos e auditoria interna também favorece a aplicação consistente dessas orientações, evitando abordagens fragmentadas e decisões desconectadas da estratégia empresarial.

Assim, a governança da inteligência artificial não deve se limitar à elaboração de políticas, mas buscar sua efetiva incorporação às práticas cotidianas e à cultura organizacional.

3.3. Prestação de contas e transparência

A confiança na utilização empresarial da inteligência artificial depende da capacidade das organizações de demonstrar como a tecnologia é empregada, quais responsabilidades estão estabelecidas e de que maneira seus resultados são acompanhados e avaliados.

Nesse sentido, a transparência e a prestação de contas constituem fundamentos da governança responsável da IA.

A transparência pressupõe disponibilizar informações adequadas sobre as finalidades de utilização dos sistemas, seus limites e os critérios relevantes para decisões que possam afetar pessoas ou produzir impactos significativos. Isso não significa necessariamente divulgar todos os elementos técnicos envolvidos, mas assegurar um nível de clareza compatível com os riscos e com os direitos das partes interessadas.

A prestação de contas exige, por sua vez, que a organização seja capaz de demonstrar as medidas adotadas para prevenir, identificar e corrigir eventuais falhas, bem como as responsabilidades atribuídas ao longo dos processos.

Mecanismos de documentação, rastreabilidade, monitoramento e avaliação periódica contribuem para fortalecer esse compromisso, permitindo verificar a efetividade dos controles e promover melhorias contínuas.

É importante, ainda, que existam canais e procedimentos adequados para o questionamento de resultados, a comunicação de situações de risco e a revisão de decisões, quando cabível.

Essas práticas reforçam a importância de uma atuação preventiva e integrada da governança, aproximando a alta administração das decisões operacionais e contribuindo para a proteção da integridade e da reputação empresarial.

A responsabilidade pela inteligência artificial não deve estar concentrada exclusivamente nas áreas técnicas. Trata-se de um compromisso institucional, compartilhado entre diferentes funções organizacionais e que exige direcionamento e acompanhamento da liderança.

Nesse contexto, o papel de Governança, Riscos e Compliance ultrapassa a verificação de conformidade e assume uma dimensão estratégica, contribuindo para que a inovação tecnológica seja acompanhada de decisões responsáveis, controles proporcionais e geração de valor sustentável.

Considerações finais

A inteligência artificial continuará evoluindo e novas formas de utilização surgirão, transformando a maneira como as organizações produzem, trabalham, tomam decisões e se relacionam com seus públicos. Diante dessa realidade, não será suficiente estabelecer regras uma única vez. As empresas precisarão acompanhar seus usos, revisar práticas e aprender continuamente com os resultados.

Os desafios globais da IA demonstram que inovação e responsabilidade não podem ser tratadas como agendas independentes. Vieses algorítmicos, desinformação, impactos sobre os direitos humanos e riscos reputacionais exigem respostas que ultrapassem a dimensão tecnológica e estejam integradas à governança corporativa.

Uma abordagem integrada de  governança IA-ASG ajuda a transformar essa constatação em prática, ao exigir que as organizações avaliem tanto os impactos da IA sobre pessoas, meio ambiente e governança quanto os requisitos ASG que devem orientar suas decisões tecnológicas.

Mais do que adotar ferramentas ou estabelecer compromissos públicos, as organizações precisam demonstrar que possuem condições de orientar, supervisionar e responder pelo uso da tecnologia.

A inteligência artificial pode ampliar a capacidade humana de analisar informações e tomar decisões. No entanto, a responsabilidade por definir seus limites, avaliar seus impactos e assegurar que sua utilização esteja alinhada à integridade e aos direitos das pessoas continua sendo das organizações e de seus responsáveis.

Inovar com responsabilidade significa, acima de tudo, garantir que a tecnologia esteja a serviço de decisões legítimas, transparentes e capazes de gerar valor sustentável para as empresas e para a sociedade.

Bibliografia

BRASIL. Lei nº 12.965, de 23 de abril de 2014. Estabelece princípios, garantias, direitos e deveres para o uso da Internet no Brasil. Marco Civil da Internet. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm.

BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm.

BRASIL. CÂMARA DOS DEPUTADOS. Projeto de Lei nº 2.338/2023. Dispõe sobre o desenvolvimento, o fomento e o uso ético e responsável da inteligência artificial. Disponível em: https://www.camara.leg.br/proposicoesWeb/fichadetramitacao/?idProposicao=2487262.

BRASIL. TRIBUNAL DE CONTAS DA UNIÃO (TCU). Guia de Uso de Inteligência Artificial Generativa no Tribunal de Contas da União. 2024. Disponível em: https://portal.tcu.gov.br/publicacoes-institucionais/cartilha-manual-ou-tutorial/guia-de-uso-de-inteligencia-artificial-generativa-no-tribunal-de-contas-da-uniao-tcu.

INSTITUTO ETHOS. Grupo de Trabalho de Integridade do Instituto Ethos debate regras de governança e ética para uso corporativo de inteligência artificial. Disponível em: https://www.ethos.org.br/grupo-de-trabalho-de-integridade-do-instituto-ethos-debate-regras-de-governanca-e-etica-para-uso-corporativo-de-inteligencia-artificial/.

INSTITUTO ETHOS. Inteligência artificial sob controle: como a regulação pode impulsionar a inovação. Disponível em: https://www.ethos.org.br/inteligencia-artificial-sob-controle-como-a-regulacao-pode-impulsionar-a-inovacao/.

INTERNATIONAL ORGANIZATION FOR STANDARDIZATION (ISO). ISO/IEC 42001:2023 – Information technology — Artificial intelligence — Management system. 2023. Disponível em: https://www.iso.org/standard/42001.html.

IBM. O que é uma rede neural? Disponível em: https://www.ibm.com/br-pt/think/topics/neural-networks.

NATIONAL INSTITUTE OF STANDARDS AND TECHNOLOGY (NIST). Artificial Intelligence Risk Management Framework (AI RMF 1.0). 2023. Disponível em: https://www.nist.gov/itl/ai-risk-management-framework.

ORGANISATION FOR ECONOMIC CO-OPERATION AND DEVELOPMENT (OECD). OECD AI Principles. Disponível em: https://www.oecd.org/en/topics/ai-principles.html.

ORGANIZAÇÃO DAS NAÇÕES UNIDAS PARA A EDUCAÇÃO, A CIÊNCIA E A CULTURA (UNESCO). Recomendação sobre a Ética da Inteligência Artificial. 2021. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000381137_por.