Apresentação da ação

Enquadramento

A crescente utilização da Inteligência Artificial em contextos educativos tem vindo a transformar a forma como a informação é produzida, analisada e utilizada na tomada de decisão. Embora estas tecnologias ofereçam novas oportunidades para apoiar a aprendizagem e a personalização dos percursos educativos, levantam igualmente desafios relacionados com ética, transparência, supervisão humana e discriminação algorítmica.

Esta ação de formação convida-o/a a explorar criticamente estas questões através de um percurso que combina reflexão conceptual, análise de situações-problema e aplicação prática em contexto simulado.

Objetivo Geral

Desenvolver conhecimentos e competências que permitam compreender criticamente os desafios éticos, sociais e educativos associados à utilização de sistemas de Inteligência Artificial, promovendo a capacidade de analisar, interpretar e avaliar situações de transparência, discriminação algorítmica e tomada de decisão automatizada, bem como aplicar esses conhecimentos em contextos simulados de auditoria algorítmica desenvolvidos em ambientes virtuais de aprendizagem.

Características da Ação

Estrutura da Formação

O percurso formativo culmina na realização de uma auditoria algorítmica ao sistema Athena, um sistema educativo inteligente utilizado como estudo de caso ao longo da ação.

Contrato de aprendizagem

O documento seguinte apresenta informação detalhada sobre a organização da ação, as atividades propostas e os critérios de avaliação.

Clique na ligação disponível abaixo para consultar o documento completo.

Contrato.

Inteligência Artificial, Sociedade e Ética

Este módulo introduz os principais conceitos relacionados com a Inteligência Artificial e analisa os seus impactos sociais e educativos. Serão exploradas questões relacionadas com ética digital, responsabilidade, supervisão humana e utilização da IA em contextos de aprendizagem.

Atividade Principal

Observatório da IA na Educação

Conteúdos Principais

• Transformação digital e sociedade
  
• Inteligência Artificial: conceitos fundamentais
  
• Impactos sociais da IA
  
• Ética digital
  
• Responsabilidade e supervisão humana
  
• O papel da IA nos contextos educativos
  

Competências a Desenvolver

• Compreender criticamente a transformação digital
  
• Identificar desafios éticos associados à IA
  
• Refletir sobre os impactos sociais e educativos das tecnologias emergentes
  

Cointeligência e Interação Humano IA

Este módulo aborda as relações entre seres humanos e sistemas inteligentes, explorando o conceito de cointeligência e o papel da IA como apoio à aprendizagem, à tomada de decisão e à construção colaborativa do conhecimento.

Atividade Principal

Dentro do Sistema Athena

Conteúdos Principais

• Ecologia cognitiva
  
• Cointeligência
  
• IA como colega, tutora e simuladora
  
• Interação humano-IA
  
• Pensamento crítico em ambientes digitais
  
• Construção colaborativa do conhecimento
  

Competências a Desenvolver

• Compreender processos de colaboração humano-IA
  
• Utilizar a IA de forma crítica e reflexiva
  
• Desenvolver competências de colaboração humano-IA
  

Discriminação Algorítmica, Transparência e Fairness Testing

Este módulo centra-se na análise crítica dos sistemas algorítmicos e dos desafios associados à transparência, explicabilidade e discriminação algorítmica. Serão explorados conceitos fundamentais para a avaliação ética de sistemas de Inteligência Artificial.

Atividade Principal

Auditoria Algorítmica

Conteúdos Principais

• Sistemas algorítmicos e tomada de decisão automatizada
  
• Discriminação direta e indireta
  
• Enviesamentos algorítmicos
  
• Proxies e variáveis sensíveis
  
• Fairness testing
  
• Transparência e explicabilidade
  
• Auditoria algorítmica
  

Competências a Desenvolver

• Identificar situações de discriminação algorítmica
  
• Interpretar resultados de fairness testing
  
• Avaliar criticamente a transparência de sistemas de IA
  

Laboratório Virtual de Auditoria Algorítmica em Educação

Neste módulo, terá oportunidade de assumir o papel de analista responsável pela avaliação do sistema Athena, uma ferramenta de Inteligência Artificial utilizada para apoiar decisões em contexto educativo. Através da exploração de um ambiente virtual interativo, terão oportunidade de analisar casos simulados, interpretar evidências, refletir sobre questões éticas e formular recomendações fundamentadas relativamente à utilização do sistema.

Laboratório Athena

Bem-vindo/a ao Laboratório Virtual de Auditoria Algorítmica em Educação.

Nesta atividade irá assumir o papel de analista responsável pela avaliação do sistema Athena, uma ferramenta de Inteligência Artificial utilizada para apoiar decisões em contexto educativo. Nas últimas semanas, foram identificadas dúvidas relativamente a algumas recomendações produzidas pelo sistema, levando à abertura de um processo de auditoria.

A sua missão consiste em analisar criticamente as evidências disponíveis, interpretar os dados apresentados, avaliar os impactos das recomendações produzidas e refletir sobre questões relacionadas com transparência, supervisão humana e discriminação algorítmica.

Ao longo da exploração terá acesso a documentos de análise, perfis simulados de estudantes, relatórios, indicadores, recursos multimédia e questões orientadoras que o/a ajudarão a compreender o funcionamento do sistema e a avaliar as suas implicações educativas e éticas.

Duração estimada: 60 minutos.

Instruções

Explore o ambiente abaixo para recolher evidências, analisar os casos apresentados e construir a sua recomendação final.

• Explore todos os espaços disponíveis.

• Responda às questões propostas.

• Registe os elementos que considerar relevantes para fundamentar a sua recomendação final.

Deliberação Ética

A auditoria ao sistema Athena encontra-se concluída.

Ao longo do Laboratório Virtual recolheu evidências, analisou casos simulados e avaliou diferentes aspetos relacionados com transparência, supervisão humana, qualidade dos dados e potenciais riscos de discriminação algorítmica.

Chegou agora o momento de transformar essa análise numa recomendação fundamentada.

Próximo passo: aceda ao Fórum de Deliberação Ética para apresentar a sua posição e discutir as conclusões com os/as restantes participantes.