NVIDIA Inception e a linha de I&D da Myukura: modelos especializados e inteligência artificial local

Quando se fala de inteligência artificial aplicada à saúde, grande parte da conversa gira em torno dos modelos.

Na prática, construir um produto exige resolver muitas outras decisões: onde se executa cada processo, quanto demora, de que dados precisa, que informação deve sair do dispositivo, como se avalia o resultado e o que acontece quando o sistema se engana.

São perguntas de arquitetura, não apenas de inteligência artificial.

Dentro da Myukura, parte desse trabalho concentra-se numa linha que combina modelos especializados, processamento local e computação acelerada por GPU.

A nossa pertença à NVIDIA Inception enquadra-se precisamente aí.

O que é a NVIDIA Inception

A NVIDIA Inception é o programa da NVIDIA dirigido a startups que desenvolvem produtos baseados em inteligência artificial e noutras tecnologias de computação acelerada.

De acordo com a NVIDIA, o programa oferece acesso a recursos técnicos, formação através do Deep Learning Institute, ferramentas e SDK, determinadas vantagens em produtos e serviços do ecossistema e oportunidades de ligação à sua rede.

O programa não exige participação no capital nem uma quota de entrada.

Para a Myukura, no entanto, um dos seus efeitos mais concretos surgiu fora de uma plataforma ou de um crédito tecnológico.

Foi através da NVIDIA Inception que tivemos conhecimento da convocatória do 8.º MareNostrum Hackathon do Barcelona Supercomputing Center.

Do programa ao MareNostrum Hackathon

A nossa seleção para o hackathon permitiu-nos trabalhar durante vários dias sobre infraestrutura de computação de alto desempenho e contar com o apoio técnico dos mentores participantes.

O objetivo da nossa equipa era estudar um problema específico: o reconhecimento automático de voz em contexto clínico e em espanhol.

Durante o hackathon treinámos e avaliámos os nossos próprios modelos e comparámos diferentes configurações para compreender melhor as limitações que surgem ao trabalhar com vocabulário clínico e diferentes formas de falar.

Este tipo de trabalho é especialmente valioso porque obriga a abandonar a perceção abstrata de que “o modelo funciona” e a convertê-la em perguntas mensuráveis:

Em que se engana?

Com que tipo de palavras?

O que acontece com os medicamentos?

O que sucede quando muda o sotaque?

Que custo computacional tem melhorar o resultado?

Porque desenvolvemos modelos especializados

Parte da investigação da Myukura centra-se no desenvolvimento e avaliação de modelos próprios para tarefas clínicas concretas.

O nosso trabalho aborda problemas como o reconhecimento de voz em espanhol clínico, a identificação de terminologia médica, medicamentos, doses e outras expressões especialmente sensíveis a erros de transcrição, bem como a variabilidade introduzida pelos diferentes sotaques e formas naturais de falar.

Mas a dimensão de um modelo não é, por si só, uma medida da sua utilidade.

Para determinadas tarefas, investigamos arquiteturas especializadas capazes de oferecer maior controlo sobre o comportamento do sistema, os seus requisitos computacionais e a forma como pode ser avaliado.

Isto ganha especial importância quando o objetivo é executar inteligência artificial perto do local onde os dados são gerados.

Um modelo especializado e otimizado pode reduzir requisitos de memória e computação, melhorar a latência e facilitar a sua implementação em infraestrutura local.

A arquitetura da Myukura parte precisamente dessa ideia: não existe um único modelo adequado para todos os problemas.

Diferentes tarefas podem exigir modelos, dimensões e estratégias de execução diferentes. O nosso trabalho consiste em investigar essa combinação e determinar que arquitetura oferece o equilíbrio adequado entre precisão, eficiência, privacidade e capacidade de supervisão.

A outra linha: inteligência artificial local

Uma segunda área de trabalho é a Myukura Edge.

O objetivo desta linha é investigar arquiteturas em que determinados processos possam ser executados em infraestrutura situada dentro do próprio ambiente da organização.

Na saúde, o local do processamento não é uma questão puramente técnica.

Pode afetar a latência, a dependência de conectividade, o controlo sobre a infraestrutura e o percurso que determinados dados realizam.

Por isso estudamos uma arquitetura que não dependa necessariamente de uma única forma de computação.

A nuvem e o processamento local podem ter funções distintas dentro do mesmo sistema.

Uma arquitetura antes de um modelo

A experiência destes meses reforçou uma ideia que consideramos central na Myukura.

A inteligência artificial clínica não deveria ser encarada como uma corrida para incorporar o modelo da moda mais recente.

Para construir um sistema útil é preciso decidir onde cada tecnologia traz valor e onde introduz novos riscos ou complexidade.

O nosso trabalho com a NVIDIA, o acesso a infraestrutura GPU e a experiência do MareNostrum Hackathon fazem parte dessa aprendizagem.

Não procuramos que a tecnologia substitua o critério do profissional.

Procuramos construir ferramentas que possam ajudar a reduzir o trabalho administrativo mantendo o profissional dentro do processo de revisão.

Essa combinação de especialização, arquitetura e supervisão humana continuará a ser uma das bases da I&D da Myukura.

NVIDIA, o logótipo da NVIDIA e a NVIDIA Inception são marcas comerciais ou marcas registadas da NVIDIA Corporation nos Estados Unidos e noutros países.