Recentemente, os produtos de IA generativa têm chamado muita atenção, inclusive nos setores sem fins lucrativos e de impacto social. Essas tecnologias oferecem o potencial de otimizar operações, reduzir tarefas administrativas e ampliar o impacto para comunidades atendidas. No entanto, seus efeitos a longo prazo permanecem incertos. Na condição de fornecedor de tecnologia que apoia organizações sociais, acreditamos ser essencial abordar a IA de forma responsável, garantindo um desenvolvimento ético, uma implementação robusta e o bem-estar dos usuários finais e beneficiários.
Summary:
- Abordagem Responsável: Navegar pela IA requer atenção a considerações éticas, sociais e regulatórias, incluindo vieses, privacidade e políticas de vigilância.
- Nove Princípios Práticos: O artigo apresenta nove princípios para guiar organizações sociais na adoção ética e eficaz da IA: ética, transparência, equidade, privacidade, impacto ambiental, robustez, responsabilidade, supervisão humana e valor social.
- Foco no Beneficiário: Qualquer solução de IA deve priorizar as necessidades das comunidades atendidas, não apenas a inovação tecnológica.
- Contexto Regulatório: Marcos como os Princípios de IA da OCDE, a estrutura da UE e o PL 2338/2023 no Brasil orientam a governança responsável da IA.
- Convite à Ação: A Vera Solutions convida organizações a adotar a IA de forma crítica e responsável, com passos práticos e perguntas de reflexão para cada princípio.
O Contexto da IA Responsável
Navegar pelo potencial da IA significa lidar com um cenário complexo de considerações éticas, sociais e regulatórias. Antes de discutir como as organizações sociais podem guiar e avaliar suas iniciativas de IA, é importante reconhecer desafios como vieses, preocupações com privacidade e políticas comerciais ou de vigilância. Reconhecer esses fatores fornece um contexto importante para construir soluções de IA responsáveis que realmente sirvam ao bem público, respeitando as normas locais e os valores da comunidade.
Os fornecedores de tecnologia frequentemente destacam os benefícios da IA. Entre os marcos regulatórios mais influentes estão os Princípios de IA da OCDE e a estrutura de políticas da União Europeia, baseada em direitos humanos, que enfatiza a transparência e a responsabilidade. No Brasil, a discussão é liderada pelo Projeto de Lei 2338/2023, que busca criar um marco legal para a IA centrado no respeito aos direitos humanos. Em algumas regiões, contudo, as políticas nacionais podem priorizar metas comerciais ou de vigilância em detrimento dos direitos humanos, ressaltando a necessidade de defesa contínua e de um diálogo global sobre a IA responsável.
Este artigo não é um guia exaustivo nem um manual completo de melhores práticas. Em vez disso, ele oferece nossas reflexões e as principais lições de meses avaliando soluções de IA especificamente para o contexto de organizações sem fins lucrativos. Nosso objetivo é equipar os líderes de tecnologia de ONGs com passos práticos, perguntas e recursos para adotar a IA de forma responsável.
“Ao avaliar um caso de uso para uma ferramenta de IA, precisamos considerar o custo de oportunidade de implementar essa solução. Não podemos ser movidos pelo desejo de digitalizar por digitalizar; em vez disso, precisamos manter o foco nas pessoas que estamos tentando ajudar e, onde houver valor na IA, cabe a nós, tecnólogos, provar esse valor.”
– Bilal Mateen, Diretor de IA – PATH
Os Nove Princípios de IA Responsável
1. Ética e Valores Comunitários
Ética não é um conceito universal, especialmente no setor de impacto social. Qualquer estrutura ética para IA deve ser contextual, refletindo as normas sociais, perspectivas culturais e princípios éticos das comunidades atendidas. Ao envolver as partes interessadas — beneficiários, equipe, líderes locais e parceiros — é fundamental que as organizações garantam que suas soluções de IA honrem esses valores.
Reflita:
- Você tem envolvido os beneficiários que atende na formulação de suas políticas e práticas de IA?
- Sua abordagem de IA sustenta e respeita as normas sociais e os preceitos éticos locais?
- Como essas normas podem variar entre diferentes regiões ou grupos de beneficiários?
2. Transparência e Explicabilidade
Ser transparente sobre como a IA é usada e torná-la compreensível para as partes interessadas são dois pilares essenciais da IA ética e responsável. Em um contexto de impacto social, essa clareza é especialmente importante, pois a confiança forma a base dos relacionamentos com doadores, beneficiários e parceiros.
Reflita:
- Você tem comunicado de forma clara onde e como a IA é empregada em seus programas ou ferramentas?
- As decisões que a IA toma podem ser explicadas em termos que a equipe, os beneficiários ou os doadores consigam entender?
Na Vera, quando a IA é usada para fazer recomendações sobre candidaturas a grants, a explicabilidade ajuda as partes interessadas a entender por que uma proposta específica é bem avaliada ou sinalizada para revisão.
3. Equidade e Mitigação de Viés
No setor de impacto social, vieses não intencionais na IA podem ter consequências reais para comunidades marginalizadas. O viés surge quando os dados usados para treinar a IA refletem desigualdades históricas ou sistêmicas.
Reflita:
- O modelo de IA foi avaliado quanto à equidade, especialmente em relação às comunidades que você atende?
- Existem processos em vigor para reduzir o viés potencial em seus dados ou algoritmos?
Por exemplo, uma ONG pode usar IA para analisar pedidos de assistência habitacional. Se os dados subjacentes vierem de uma região historicamente mal atendida, o modelo poderia inadvertidamente ignorar certos candidatos. Ferramentas como Error Analysis e Fairlearn podem ajudar a minimizar esses danos não intencionais.
4. Privacidade e Proteção de Dados
Lidar com dados sensíveis é uma preocupação central para muitas ONGs, pois elas frequentemente trabalham com informações pessoais de voluntários, doadores ou beneficiários. Manter a privacidade vai além do compliance básico; demonstra respeito pelas pessoas cujos dados estão sendo usados.
Reflita:
- Você está coletando apenas os dados que realmente precisa para cumprir sua missão?
- Dados sensíveis são anonimizados ou criptografados quando apropriado?
- Você está seguindo as regulamentações de privacidade relevantes como a LGPD?
5. Impacto Ambiental
Embora as ONGs geralmente operem com recursos mais enxutos, os modelos de IA ainda podem consumir uma quantidade substancial de energia. Com a sustentabilidade ambiental sendo uma alta prioridade, é prudente refletir sobre como a adoção da IA pode afetar sua pegada de carbono.
Reflita:
- Sua equipe considerou o consumo de energia ao selecionar ou implementar soluções de IA?
- Existem opções para usar modelos menores e mais eficientes, caso atendam às suas necessidades?
- Seu provedor de infraestrutura está comprometido em reduzir a própria pegada ambiental?
A colaboração da Salesforce com Hugging Face, Cohere e a Universidade Carnegie Mellon em um AI Energy Score oferece uma maneira de avaliar quais modelos podem ser mais eficientes.
6. Robustez e Segurança
As organizações de impacto social frequentemente operam com restrições de recursos e, por isso, a necessidade de uma tecnologia robusta e segura se torna ainda mais evidente. As soluções de IA devem ser resilientes a erros e ameaças externas, desde violações de dados até o uso indevido de modelos preditivos.
Reflita:
- Existe um plano claro para monitorar como a IA se comporta em condições reais?
- Você está preparado para lidar com falhas de sistema ou uso indevido, especialmente de maneiras que possam prejudicar os beneficiários?
De acordo com a OCDE, garantir a rastreabilidade e a gestão de riscos em sistemas de IA pode ajudar as ONGs a lidar com possíveis problemas de forma mais eficaz.
7. Responsabilidade e Governança
A responsabilidade garante que as soluções de IA estejam alinhadas com a missão e os valores de uma organização ao longo de todo o seu ciclo de vida. Isso envolve estabelecer linhas claras de responsabilidade e estruturas de governança para manter a supervisão e enfrentar desafios.
Reflita:
- Quem é responsável pelo uso ético e eficaz da IA em sua organização?
- Existe um protocolo ou uma equipe dedicada a revisar as decisões geradas pela IA e lidar com possíveis erros?
A norma ISO/IEC 42001 oferece às ONGs uma estrutura de avaliação de risco para a governança de IA.
8. Supervisão e Controle Humano
As ferramentas de IA devem servir para aprimorar, e não substituir, a expertise e a compaixão humanas — marcas registradas do setor sem fins lucrativos. Seja com assistentes sociais na linha de frente usando análises de previsão, profissionais de saúde usando ferramentas de apoio à decisão alimentadas por IA, ou equipes de desenvolvimento analisando o engajamento de doadores, o julgamento humano é indispensável.
Reflita:
- Existe um processo claro para a equipe revisar, anular ou questionar os resultados gerados pela IA?
- A equipe e os voluntários são adequadamente treinados para interpretar as recomendações da IA?
9. Valor Social e de Negócio
Na Vera, nos esforçamos para que qualquer inovação relacionada à IA realmente gere valor para organizações sociais. Nossas principais lições para ONGs que buscam aproveitar a IA de forma responsável incluem:
- Não adote a IA apenas por ser a nova tendência. Identifique onde a IA pode genuinamente aliviar a carga de trabalho da equipe, acelerar processos importantes ou impulsionar a execução de projetos.
- A qualidade dos dados é fundamental. A IA depende da integridade dos dados de entrada, então certifique-se de que seus dados sejam precisos, representativos e bem organizados.
- Comece pequeno e teste. Projetos-piloto e Provas de Conceito podem revelar desafios imprevistos antes de um lançamento em larga escala.
Adoraríamos colaborar com organizações dedicadas a maximizar o impacto social da IA. Se você tem interesse em soluções de IA responsáveis e sustentáveis, entre em contato conosco pelo email info@verasolutions.org.