• JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
 
  Bookmark and Share
 
 
Tese de Doutorado
DOI
https://doi.org/10.11606/T.5.2024.tde-23042024-111255
Documento
Autor
Nome completo
Daniel de Araujo Dourado
E-mail
Unidade da USP
Área do Conhecimento
Data de Defesa
Imprenta
São Paulo, 2024
Orientador
Banca examinadora
Aith, Fernando Mussa Abujamra (Presidente)
Cáceres, Felix Hector Rigoli
Haddad, Ana Estela
Soárez, Patrícia Coelho de
Título em português
Regulação da inteligência artificial na saúde
Palavras-chave em português
Direito sanitário
Governança em saúde
Inteligência artificial
Marcos regulatórios em saúde
Regulação e fiscalização em saúde
Saúde digital
Resumo em português
A Inteligência Artificial (IA) é um ponto de virada na trajetória histórica da humanidade, despertando interesse e preocupação crescentes. Na área da saúde, a IA promete induzir transformações profundas, alterando práticas e estruturas dos sistemas de saúde. A integração efetiva da IA na saúde requer um marco regulatório específico. Esta tese tem o objetivo de estabelecer um paradigma geral para a regulação da IA na saúde, baseando-se em fundamentos éticos e jurídicos e em diretrizes regulatórias. Para isso, foi realizada uma pesquisa qualitativa, utilizando abordagem teórica e empírica, fundamentada em uma revisão não sistemática da literatura global e na análise de propostas políticas e normativas de países e organizações internacionais. Primeiramente, o estudo identifica os conceitos básicos de IA, com foco em aprendizado de máquina (machine learning), abordando sua evolução histórica e o panorama atual na área da saúde. Evidencia-se que as diversas aplicações da IA na saúde compartilham características elementares e desafios, demonstrando que existem pontos comuns e suficientemente delimitados que justificam o reconhecimento da IA como objeto específico da regulação em saúde. A partir desse reconhecimento, são identificados e analisados fundamentos éticos e jurídicos para estruturar a regulação da IA na saúde, contemplando elementos de: direito à saúde; ética em IA; direitos humanos; princípios éticos próprios da IA na saúde; e governança de dados de saúde. Com base nesses fundamentos, a tese propõe diretrizes regulatórias para a IA na saúde em três dimensões: 1) segurança e eficácia; 2) transparência; e 3) responsabilidade. Em termos de segurança e eficácia, enfatiza-se a necessidade de admitir os sistemas de IA na categoria regulatória software como dispositivo médico (SaMD). Portanto, esses sistemas devem ser avaliados pelos padrões estabelecidos por entidades internacionais, mas acrescidos de dois aspectos essenciais: monitoramento contínuo de mudanças e eliminação de vieses para promover equidade. A transparência exige acesso a informações que fundamentam as decisões de sistemas de IA, priorizando a clareza sobre os contextos de desenvolvimento e implementação dos modelos, e deve ser expressa por meio de documentação padronizada. No que diz respeito à transparência dos modelos, é necessário instituir tratamentos regulatórios distintos para sistemas de IA interpretável e de IA explicável. Na dimensão da responsabilidade, são exploradas limitações dos atuais sistemas de responsabilidade civil para lidar com a IA e possíveis abordagens para solucionar essa questão jurídica. Em seguida, analisam-se as atuais propostas de adaptação das regras de responsabilidade civil para contemplar produtos baseados em IA. Por fim, são abordadas tendências emergentes que devem influenciar a regulação da IA na saúde, incluindo: o papel das legislações horizontais e da abordagem regulatória setorial; a perspectiva da estratégia regulatória baseada em ambientes de testagem (sandboxes); a necessidade e a complexidade de regular os modelos de fundação (foundation models) para uso na saúde. Conclui-se que os fundamentos analisados e as diretrizes propostas constituem uma base sólida para a elaboração de um paradigma regulatório robusto e abrangente para a IA na saúde. Espera-se contribuir para o debate em busca do avanço seguro, transparente e responsável desse campo em rápida expansão
Título em inglês
Regulation of artificial intelligence in healthcare
Palavras-chave em inglês
Artificial intelligence
Digital health.
Health care coordination and monitoring
Health governance
Health law
Regulatory frameworks for health
Resumo em inglês
Artificial Intelligence (AI) is a turning point in the historical trajectory of humanity, provoking growing interest and concern. In the healthcare sector, AI promises to induce profound transformations, changing practices and structures of healthcare syst ems. The effective integration of AI in healthcare requires a specific regulatory framework. This thesis aims to establish a general paradigm for the regulation of AI in healthcare, grounded in ethical legal foundations and regulatory guidelines. To this e nd, it was conducted qualitative research , using a theoretical and empirical approach , based on a non systematic review of global literature and the analysis of political and normative proposals from countries and international organizations. Firstly, the study identifies the key concepts and applications of AI, with a focus on machine learning, addressing its historical evolution and the current panorama in the healthcare area. Despite myriad applications, AI in healthcare exhibits fundamental characterist ics and challenges, demonstrating that there are common and sufficiently delimited points that justify the recognition of AI as a specific object of healthcare regulation. Based on this recognition, the study identifies and analyzes ethical and legal foundations to structure the regulation of AI in health, covering elements of: the right to health; AI ethics; human rights; ethical principles specific to AI in healthcare; and health data governance. From these foundations, the thesis proposes regulatory guid elines for AI in healthcare in three dimensions: 1) safety and efficacy; 2) transparency; and 3) responsibility. In terms of safety and efficacy, it emphasizes the need to classify AI systems within the existing software as a medical device (SaMD) regula tory framework. Therefore, these systems must be evaluated according to standards established by international entities, but with two essential aspects added: monitoring continuous changes and eliminating biases to promote equity. Transparency requires access to information that underlies AI decisions, prioritizing clarity about the contexts of model development and deployment, and it must be expressed through standardized documentation. Regarding the transparency of models, it is necessary to institute different regulatory treatments for interpretable AI and explainable AI systems. In the responsibility dimension, the thesis explores l imitations of current civil liability and tort law systems for dealing with AI and possible appro aches to solving this legal issue. Next, it analyzes current proposals for adapting civil liability rules to cover products based on AI. Finally, emerging trends that should influence the regulation of AI in healthcare are addressed, including: the role of horizontal legislation and the sectoral regulatory approach; the perspective of a regulatory strategy based on testing environments (regulatory sandboxes); the need and complexity of regulating foundation models for use in healthcare. The conclusion is th at the analyzed fundamentals and proposed guidelines constitute a solid basis for developing a robust and comprehensive regulatory paradigm for AI in healthcare. The prospect is to contribute to the debate in search of the safe, transparent, and responsible advancement of this rapidly expanding field.
 
AVISO - A consulta a este documento fica condicionada na aceitação das seguintes condições de uso:
Este trabalho é somente para uso privado de atividades de pesquisa e ensino. Não é autorizada sua reprodução para quaisquer fins lucrativos. Esta reserva de direitos abrange a todos os dados do documento bem como seu conteúdo. Na utilização ou citação de partes do documento é obrigatório mencionar nome da pessoa autora do trabalho.
Data de Publicação
2024-05-02
 
AVISO: Saiba o que são os trabalhos decorrentes clicando aqui.
Todos os direitos da tese/dissertação são de seus autores
CeTI-SC/STI
Biblioteca Digital de Teses e Dissertações da USP. Copyright © 2001-2024. Todos os direitos reservados.