Um grupo de especialistas solicita ao governo britânico a criação urgente de um sistema abrangente de notificação de incidentes relacionados à inteligência artificial (IA). A medida visa mitigar os riscos decorrentes do rápido avanço e disseminação dessa tecnologia em diversos setores da sociedade.
Principais Destaques
- Necessidade de um mecanismo eficaz de relato de incidentes envolvendo IA. O think tank Centro de Resiliência de Longo Prazo (CLTR) alerta para uma lacuna crítica nos planos regulatórios da IA no Reino Unido, sem um sistema adequado de notificação de incidentes.
- Histórico de falhas inesperadas com sistemas de IA. Desde 2014, mais de 10.000 incidentes de segurança foram registrados em sistemas de IA implantados, com o potencial de aumentar sua frequência e impacto à medida que a tecnologia se torna mais integrada à sociedade.
- Paralelos com setores críticos de segurança. O CLTR traça paralelos com indústrias de alto risco, como aviação e medicina, onde regimes de notificação de incidentes são essenciais para uma regulamentação eficaz.
Lacuna preocupante na regulamentação da IA
De acordo com o think tank, a atual regulamentação da IA no Reino Unido carece de uma estrutura eficaz para relatar incidentes. Essa deficiência deixa o Departamento de Ciência, Inovação e Tecnologia (DSIT) sem visibilidade sobre incidentes críticos, incluindo:
- Violações de privacidade e vazamento de dados
- Discriminação algorítmica
- Incidentes de segurança cibernética
- Danos físicos causados por sistemas autônomos
O CLTR alerta que, sem um sistema adequado de notificação de incidentes, o DSIT pode acabar tomando conhecimento de novos danos por meio da imprensa, em vez de canais oficiais estabelecidos.
Recomendações para o governo britânico
Para enfrentar essa lacuna, o think tank recomenda três medidas imediatas para o governo do Reino Unido:
- Estabelecer um processo obrigatório de notificação de incidentes de IA. Essa medida permitiria que o governo coletasse informações cruciais sobre falhas e danos causados por sistemas de IA.
- Designar uma equipe dedicada a analisar e responder aos relatórios de incidentes. Essa equipe seria responsável por avaliar os riscos, identificar padrões e propor medidas corretivas.
- Desenvolver uma infraestrutura técnica para coletar e processar os relatórios de incidentes. Isso incluiria a criação de um portal online seguro e mecanismos de triagem e análise de dados.
Conclusão
À medida que a IA continua a se desenvolver e permear diversos aspectos da sociedade, a implementação de um robusto sistema de notificação de incidentes pode se revelar crucial para mitigar riscos e garantir o desenvolvimento e implantação seguros dessas tecnologias. O governo britânico tem a oportunidade de liderar o caminho, estabelecendo padrões e práticas que possam ser adotados globalmente.
