Eixo 1- Legislação, regulação e uso ético

Objetivo do Eixo:  Contribuir para a elaboração de princípios éticos para o desenvolvimento e uso de IA responsáveis.

Ações Estratégicas:

• Estimular a produção de IA ética financiando projetos de pesquisa que visem aplicar soluções éticas, principalmente nos campos de equidade/não-discriminação (fairness), responsabilidade/prestação de contas (accountability) e transparência (transparency), conhecidas como a matriz FAT.
• Estimular parcerias com corporações que estejam pesquisando soluções comerciais dessas tecnologias de IA ética.
• Estabelecer como requisito técnico em licitações que os proponentes ofereçam soluções compatíveis com a promoção de uma IA ética (por exemplo, estabelecer que soluções de tecnologia de reconhecimento facial adquiridas por órgãos públicos possuam um percentual de falso positivo abaixo de determinado limiar).
• Estabelecer, de maneira multissetorial, espaços para a discussão e definição de princípios éticos a serem observados na pesquisa, no desenvolvimento e no uso da IA.
• Mapear barreiras legais e regulatórias ao desenvolvimento de IA no Brasil e identificar aspectos da legislação brasileira que possam requerer atualização, de modo a promover maior segurança jurídica para o ecossistema digital.
• Estimular ações de transparência e de divulgação responsável quanto ao uso de sistemas de IA, e promover a observância, por tais sistemas, de direitos humanos, de valores democráticos e da diversidade.
• Desenvolver técnicas para identificar e tratar o risco de viés algorítmico.
• Elaborar política de controle de qualidade de dados para o treinamento de sistemas de IA.
• Criar parâmetros sobre a intervenção humana em contextos de IA em que o resultado de uma decisão automatizada implica um alto risco de dano para o indivíduo.
• Incentivar a exploração e o desenvolvimento de mecanismos de revisão apropriados em diferentes contextos de utilização de IA por organizações privadas e por órgãos públicos.
• Criar e implementar melhores práticas ou códigos de conduta com relação à coleta, implantação e uso de dados, incentivando as organizações a melhorar sua rastreabilidade, resguardando os direitos legais.
• Promover abordagens inovadoras para a supervisão regulatória (por exemplo, sandboxes e hubs regulatórios).

Iniciativas Priorizadas:

• Desenvolvimento de um Framework - Recomendações para uma IA ética, com mitigação de riscos e vieses.
• Desenvolvimento um repositório dinâmico de legislação e revisão de modelo regulatório/sandboxes para acompanhamento ativo de dos Projetos de Lei em andamento, com submissão tempestiva de posicionamento plurissetorial.
• Propor diretrizes e políticas com as melhores práticas para o desenvolvimento da IA ética.

Informações: