Avaliação de impacto algorítmico

Segundo Paloma Mendes Saldanha, em matéria intitulada "Governança, accountabilitye avaliação de impacto algorítmico", publicada no site Conjur (04/06/2024): "Ao falarmos de sistemas baseados em inteligências artificiais, essa ferramenta passa a ser chamada de "Avaliação de impacto algorítmico", que serve para:1. Descrever o sistema baseado em inteligência artificial; 2. Identificar os seus riscos; e, 3. Identificar mecanismos para mitigação dos riscos encontrados." (Grifo nosso)

A Avaliação de impacto algorítmico (AIA), vislumbra a observância dos aspectos sociais, éticos, de transparência, e de responsabilidades, perante a utilização dos sistemas de inteligência artificial.

O Projeto de Lei (PL) nº 2338/2023, que tramita no Senado Federal, prevê o instituto, em seu artigo 22: "A avaliação de impacto algorítmico de sistemas de inteligência artificial é obrigação dos agentes de inteligência artificial, sempre que o sistema for considerado como de alto risco pela avaliação preliminar." Os sistemas de "alto risco", encontram-se alinhados no art. 17; sendo vedados pelo art. 14, aqueles considerados de "risco excessivo".

Assim, tal como dispõe a matéria intitulada "Avaliação de impacto algorítmico: o que é e como está regulada no PL 2.338/23 do Brasil", presente no site Migalhas (19/10/2023): "O objetivo da AIA é, portanto, prover transparência sobre o funcionamento e finalidades do sistema algorítmico, documentar os impactos e medidas de prevenção de danos, e identificar seus responsáveis, viabilizando posterior fiscalização pela autoridade competente e, desejavelmente, pela própria sociedade." (Grifos nossos)

A responsabilidade civil esculpida no art. 27 do PL 2338/2023, determina que: "O fornecedor ou operador de sistema de inteligência artificial que cause dano patrimonial, moral, individual ou coletivo é obrigado a repará-lo integralmente, independentemente do grau de autonomia do sistema."

Há previsão de responsabilidade objetiva, presumida e inversão do ônus da prova, nos parágrafos. 1º e 2º do art. 27:"§ 1º Quando se tratar de sistema de inteligência artificial de alto risco ou de risco excessivo, o fornecedor ou operador respondem objetivamente pelos danos causados, na medida de sua participação no dano. § 2º Quando não se tratar de sistema de inteligência artificial de alto risco, a culpa do agente causador do dano será presumida, aplicando-se a inversão do ônus da prova em favor da vítima." (Grifos nossos)

O instituto da Avaliação de Impacto Algorítmico (AIA), as responsabilidades advindas da utilização da inteligência artificial e da robótica, são questões importantes a serem enfrentadas por todos. Até porque, já vivemos integrados aos novos seres autônomos: os humanoides.