Inteligência Artificial Explicável (XAI) na área médica
A Inteligência Artificial (IA), em seu avanço, permeia agora diversas facetas de nossas vidas, desde assistentes por voz a anúncios personalizados. Contudo, enquanto a IA exibe potencial em múltiplos domínios. A opacidade de muitos de seus modelos, particularmente aqueles classificados como "ca...
| Autor: | |
|---|---|
| Tipo de recurso: | informe técnico |
| Estado: | Versión publicada |
| Fecha de publicación: | 2023 |
| País: | Brasil |
| Institución: | Instituição de Ensino Superior e de Pesquisa (INSPER) |
| Repositorio: | Repositório Institucional da INSPER |
| Idioma: | portugués |
| OAI Identifier: | oai:repositorio.insper.edu.br:11224/6368 |
| Acceso en línea: | https://repositorio.insper.edu.br/handle/11224/6368 |
| Access Level: | acceso abierto |
| Palabra clave: | inteligência artificial explicável XAI interpretabilidade explicabilidade |
| Sumario: | A Inteligência Artificial (IA), em seu avanço, permeia agora diversas facetas de nossas vidas, desde assistentes por voz a anúncios personalizados. Contudo, enquanto a IA exibe potencial em múltiplos domínios. A opacidade de muitos de seus modelos, particularmente aqueles classificados como "caixa preta", ressalta uma preocupação crescente com a interpretabilidade. A capacidade de decifrar e justificar as previsões e decisões de um modelo é fundamental, especialmente em aplicações vitais como a medicina, onde cada decisão pode repercutir diretamente na vida dos pacientes. Neste relatório, ao mergulhar na interface entre modelos de machine learning e sua relevância clínica, constatamos a necessidade premente de equilibrar eficiência preditiva e transparência. Os resultados indicam uma dualidade: enquanto modelos mais complexos demonstraram superioridade em acurácia, sua interpretabilidade frequentemente decaía. Para aprofundar a compreensão dos atributos determinantes nas previsões, empregamos a análise SHAP, uma ferramenta de destaque no domínio do machine learning. Os insights obtidos com esta análise tornaram-se cruciais para validar e contextualizar as previsões no cenário clínico. Em conclusão, à medida que a IA continua a moldar a medicina, a busca por modelos de alta performance que mantenham a transparência se torna essencial. As descobertas do estudo sublinham a necessidade emergente de métricas robustas de interpretabilidade, garantindo que os modelos adotados sejam não só precisos, mas também intuitivos e compreensíveis para a comunidade médica. |
|---|