Assessing the Reliability ofExplainable AI for Deep Neural Networks

Assessing the Reliability ofExplainable AI for Deep Neural Networks

Com certeza! Aqui estão as informações formatadas em Markdown, prontas para você copiar e colar no seu portal:


Convidado: Prof. Marco Zulich (TU Delft, Holanda) Data: 08 de julho de 2026 Horário: 11:00 Local: IC/UFF – Sala 215


Sobre o Evento

O Instituto de Computação da UFF receberá o Prof. Marco Zulich, da Faculty of Technology, Policy, and Management da TU Delft, para uma palestra presencial sobre a confiabilidade em sistemas de Inteligência Artificial Explicável (XAI).

Resumo (Abstract)

Explainable AI (XAI) é frequentemente apresentada como uma tecnologia para aumentar a transparência em redes neurais artificiais (ANNs). No entanto, a natureza da XAI é muitas vezes aproximada, dada a sua característica centrada no ser humano: as explicações precisam ser simples o suficiente para serem compreendidas pelas partes interessadas, dependendo do seu nível de especialização.

A compressão da lógica preditiva de modelos complexos, como ANNs, pode tornar as explicações fundamentalmente não confiáveis. Por exemplo, elas podem carecer de alinhamento com a dinâmica preditiva do modelo ou serem altamente sensíveis a perturbações.

Este seminário abordará o estado da arte em feature attribution, descreverá o principal framework para avaliação dessas atribuições e explorará os desafios na avaliação de XAI, considerando as necessidades dos diferentes stakeholders em sistemas de IA.

Sobre o Palestrante

Marco Zulich é Professor Assistente em Sistemas de IA Confiáveis na TU Delft (Holanda). Sua principal área de pesquisa é a Inteligência Artificial Explicável, com foco específico na avaliação de explicações. Ele também atua em áreas como Quantificação de Incerteza e Sustentabilidade em IA.

  • Formação Acadêmica: PhD em Engenharia da Informação pela Universidade de Trieste, Itália (2023).
  • Experiência Anterior: Lecturer no Departamento de IA da Universidade de Groningen (Holanda) por três anos.

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Are you human? Please solve:Captcha