Mikolaj Barczentewicz, professor associado de Direito na Universidade de Surrey, em Inglaterra e investigador sénior do ICLE, explica ao Observador que o AI Act pode enquadrar as questões de avaliação e de divulgação de incidentes. Mas sublinha que a aplicação “depende também do facto de os modelos de IA em questão não terem sido excluídos ao abrigo de uma isenção para fins de investigação”. Pegando no exemplo da Hugging Face, diz que “a maioria da atividade comunicada foi feita por um modelo interno não identificado, que provavelmente poderia cumprir os critérios de exclusão da investigação”.
Mas esclarece que o AI Act “não impõe responsabilidade por incidentes ou por danos decorrentes de incidentes”, mas sim as obrigações de segurança. “Pode-se argumentar que, mesmo os processos mais avançados, não reduzem o risco de incidentes a zero. Um incidente pode ser indício de incumprimento, mas podem ocorrer incidentes mesmo quando os responsáveis e quem implementa a IA faz o seu melhor para cumprir a lei da IA da UE.”
O professor associado de direito da Universidade de Surrey considera que estes incidentes “representam definitivamente um novo desafio para as organizações da União Europeia”. Assim, afirma que é crucial que a Europa “invista em defesa” no que toca às ameaças informáticas, notando que para tal “é preciso educação e acesso aos melhores sistemas de IA disponíveis”.
“Isto significa que é fundamental que a Europa mantenha o acesso às IA americanas de ponta, uma vez que nos oferecem a melhor oportunidade de reforçar as nossas defesas tanto quanto possível”, explica. “Dito isto, devemos preparar-nos para ataques cibernéticos de grande envergadura na Europa, possivelmente muito em breve”, avisa.