Ana Maria de Almeida

por Luísa Rego
fotografia Luísa Ferreira

 

“É IMPORTANTE DEIXAR OS DADOS CONTAR AS SUAS HISTÓRIAS”

 

Vulgarizam-se os aparelhos que apoiam a monitorização de problemas de saúde ou são, eles mesmos, parte do tratamento: pacemaker ou outros dispositivos implantados. Armazenam-se dados médicos — mas o acesso precisa de ser regulamentado.

  

 

A natureza faz revelações”, dizia o poeta Drummond de Andrade. A máxima serve também a investigadora das áreas da matemática, da computação e das ciências da complexidade, que quer ser deslumbrada em cada projeto. Acredita que os dados não respondem só a perguntas, mas também contam as suas próprias histórias. Saibamos nós escutá-los.

 

Como é que a Inteligência Artificial gera preocupações quando falamos em dispositivos médicos?

A interação de um dispositivo médico com as aplicações de Inteligência Artificial (IA) está a ser usada para extrair conhecimento dos dados produzidos pelo dispositivo e para detetar condições anómalas. Com o Ato para a Inteligência Artificial (AI Act), é necessário que haja uma interface padronizada para inter-atuação. Isto não se refere ao dispositivo em si, pois disso tratam as normas de engenharia.  A questão é saber que dados podem ser tratados e que tratamento pode ser dado a esses dados. E não existe nada!

   

Qualquer que seja o aparelho que usemos, como um distribuidor de insulina, sabemos que estamos a ser monitorizados.

   

O que é preciso fazer?

Estão a ser desenvolvidas tentativas de orientação. A União Europeia (UE) tem um projeto generalista de orientação e padronização nas aplicações de IA. Mas, no campo da saúde, é mesmo preciso um standard. Estamos a trabalhar com uma equipa internacional no desenvolvimento desse standard, que em breve vai ser apresentado a organizações internacionais.

 

Será uma norma?

Sim. São linhas orientadoras sobre como se deve fazer a ligação dos dispositivos ao paciente, o que se pode ou não fazer com os dados extraídos pelo dispositivo, como armazená-los, qual o acesso para tratamentos… Tudo isto tendo em conta que estamos na Europa, onde há Regulamento Geral de Proteção de Dados (RGPD) e AI Act, o Regulamento Inteligência Artificial, que obriga a transparência, prestação de contas, rastreamento do acesso a todos os tratamentos, e saber que tipo de aplicações estão a usar esses dados.

Mesmo que eu tenha os dados e o paciente os tenha disponibilizado, qualquer sistema de IA tem de dizer o que é que usou, quando usou, em que é que usou, como é que usou. E há tratamentos de dados que não são sequer permitidos. Este standard tentará incorporar o aspeto regulatório, o aspeto técnico e a utilização destas plataformas que vão ser o nosso dia a dia.

 

O AIH insere-se num trabalho que está a ser feito a nível internacional?

Sim. Participo ainda num outro projeto financiado pela UE em que vários grupos de peritos (estou no da IA) tentam lançar a interoperabilidade. Estamos a tentar coordenar os esforços da Europa, Canadá, EUA e China para que, quando houver standards, eles sejam realmente globais.

O nosso projeto está englobado na grande tendência que existe no tratamento de dados médicos e farmacológicos, que é a “aprendizagem distribuída”. Os dados médicos sensíveis — hoje são designadas “categorias especiais” — têm de se manter o máximo privados.

Qualquer que seja o aparelho que usemos, como um distribuidor de insulina, sabemos que estamos a ser monitorizados  (todo o equipamento sensorizado pode ser seguido remotamente). No Serviço Nacional de Saúde (SNS), é frequente o paciente ir ao hospital de tempos a tempos, descarregar os dados do equipamento e eles serem analisados nessa altura. Isso deixaria de ser necessário, pois os dados podem ser monitorizados e usados remotamente 24 horas por dia.

 

Mas o que é a “aprendizagem distribuída”?

A tendência na medicina e na farmacologia é saber que os dados “estão locais”, o que chamamos de “computação no dispositivo”. Estão no sensor, na máquina, no smartphone, estão com a pessoa. Quando há algo excecional, passam-se os alertas para um sistema central. Isto implica uma camada de segurança e enfatiza a necessidade de manter a privacidade do paciente. Então, o que se está a fazer é “aprendizagem distribuída”: as aplicações de IA correm localmente; quando é preciso alguns dados são passados, mas não todos. Há uma camada de segurança muito grande.

Este standard engloba também a certeza de que tudo o que aconteça com dados de pacientes, mesmo se parciais, fica em registos imutáveis, porque estamos a usar a técnica de blockchain. Por outro lado, importa estandardizar a questão de como é feita a aprendizagem distribuída. De vez em quando, é preciso transmitir alguma informação, é preciso sinalizar a que pode ser transmitida e de que modo o pode ser.

 

Um standard como o que estão a trabalhar poderá depois ser adotado pelo Estado português como boa prática?

Exatamente. É isso que o Estado faz quando usa as normas International Organization for Standardization (ISO). A ideia é ter aqui algo que depois pode ser adotado pelos Estados e pelos governos, na governação da própria IA. Já há uma ISO para a IA, embrionária, mas não contempla todas as possibilidades.

 

Não há entidades a monitorizar e a fazer uma tutoria dos avanços da IA?

O que nós temos — e nisso a Europa é percursora — é o Regulamento IA e outros que lhe estão associados como o regulamento digital.
Tentam-se criar autoridades de supervisão mas, para isso, são precisos standards, orientações. Sou perita europeia para as questões éticas e tenho acompanhado todo o processo.

 

As questões éticas são fundamentais, até porque são o que nós somos, são a nossa humanidade. Sem ética, não somos humanos.

 

Porque é que também se interessa por questões éticas?

As questões éticas são fundamentais, até porque são o que nós somos, são a nossa humanidade. Sem ética, não somos humanos. Isto é extraordinariamente importante porque qualquer cientista, quando quer fazer alguma coisa, quer fazer algo de bom, é para o melhor da sociedade. Isso não significa que a investigação que está a desenvolver não possa redundar em usos maléficos ou mal orientados. Há muito tempo que a ciência reconhece que princípios de ética e de deontologia são necessários para a nossa prática. E, de facto, tudo o que estamos a desenvolver no âmbito das ciências da computação, da IA, é facilmente mal utilizado. Daí as preocupações com a cibersegurança, com hackers, etc.

 

Deveria haver formação na área ética nos cursos tecnológicos?

Essa preocupação faz parte de nós, embora não tenha estado presente nos cursos universitários ligados às áreas STEAM (Science, Technology, Engineering, Arts and Mathematics). Seria bom haver uma unidade curricular sobre ética. Gosto muito da ideia que diz: “Ética não é distinguir o bem do mal, mas é saber o que se pode fazer para o bem e para o mal”. A ética deve ser muito discutida porque é fácil fazermos uma investigação e não pensarmos no impacto que vai ter. Em projetos europeus da área da física, matemática ou astronomia ouve-se dizer que algo não vai ter impacto, porque não envolve princípios éticos. Claro que tem! Uma investigação que aparentemente tem impacto neutro pode ser usada, por exemplo, na segurança ou na saúde, e então já não tem impacto neutro.

 

Disse algures ser “uma curiosa exploradora do universo”… De onde lhe veio o gosto pelas ciências da complexidade, pela matemática, pelos dados?

Sempre tive interesse em perceber como é que o mundo funcionava, sempre fui muito curiosa. É algo que acontece desde pequenina. Talvez venha do meu pai, uma pessoa muito irrequieta, que também nos punha a querer saber coisas: “Porque é que isto é assim?”

A linguagem de tudo o que nos rodeia é a matemática, portanto, eu tinha de ir para matemática. Mas depois a matemática, só por si, não chega. Sabemos que a matemática é um edifício com pés de barro, assente em axiomas — aquilo que não está provado. Há ali um vazio e qualquer coisa que aconteça pode mandar tudo abaixo. Então, comecei a procurar. Desde nós mesmos, como seres biológicos, até à sociedade, tudo são sistemas complexos, pois ainda interagem de maneiras que são obscuras. O que faz o nosso cérebro funcionar? O que é a inteligência? Não sabemos! Mas tentar encontrar alguma explicação matemática para as coisas fez-me ver que elas são ainda mais belas do que eu conseguia pensar. Fui sempre por aí, tentar simplificar aquilo que parece complexo. Porquê? Mas porque é que é assim?

 

Escreve papers que vão do mercado de ações à energia doméstica, monumentos megalíticos, poder das redes sociais, start-ups ou procura de hotéis…

Sim, os domínios são diversos, mas o tipo de ferramentas usadas estão sempre dentro da minha área: não estou a desenvolver pensamento pelo algoritmo ou pelo teorema, quero a aplicação. Daí, a conexão que defendo entre a academia e a sociedade.

 

O que é que recomendaria a um investigador, que não tenha tido muito contacto com a ciência de dados?

A parte dos algoritmos é demasiado técnica. Mas é importante entender os dados, olhar para eles e, em vez de os fazer dizer o que queremos, deixá-los contar as suas histórias. Isto vale para qualquer pessoa, independentemente de saber matemática ou não. É isso: cada vez mais, temos de perguntar o porquê das coisas. Toda a informação quer dizer algo, mas também pode ser decomposta em mais pedaços, e dizer ainda mais. Também é preciso estar disponível para mudar as ferramentas, sempre com aquela perspetiva do porquê, de onde é que isto vem. Tendo curiosidade e espírito de exploração, conseguimos sempre ir mais longe. É preciso sermos deslumbrados.