Health

Recomendações aos reguladores que configuram regras sobre o uso de IA na saúde

Agências federais como a FDA e HHS estabeleceram programas de segurança para garantir o uso seguro e confiável da inteligência artificial em vários setores, incluindo a saúde.

Os executivos de saúde digital transmitiram suas recomendações, conselhos e sugestões aos reguladores que configuram regras em torno do uso de IA na saúde para MobiHealthNotíciasincluindo a sinalização de conteúdos gerados pela IA e a construção de quadros regulamentares existentes.

Ann Bilyew, vice-presidente sênior, gerente geral de saúde e grupo, WebMD Acender

“Não exagere. Muitas das proteções de que precisamos já estão presentes em regulamentações pré-existentes, como a HIPAA nos EUA e o GDPR na Europa. Algumas regulamentações específicas podem precisar ser ajustadas ou revisadas, mas as estruturas estão lá.


Sam Glassenberg, CEO e fundador da Nível Ex

“O conteúdo gerado por IA deve obedecer aos mesmos padrões que qualquer outro conteúdo na área da saúde (revisão por pares, dados/citações transparentes, etc.), com uma ressalva importante: o conteúdo gerado por IA deve sempre ser sinalizado como tal. É crucial que, em qualquer processo de revisão de conteúdo, se o conteúdo for gerado por IA, ele deve ser sinalizado como gerado por IA para todos os revisores.

“Os escritores humanos podem cometer erros de cópia ou interpretar mal um conceito, e assim por diante, mas se não compreenderem um conceito, provavelmente evitarão escrever com muita profundidade ou detalhes. GenAI é o oposto: produzirá informações médicas completamente incorretas com detalhes incríveis. Se não existirem referências ou dados, eles serão inventados expandir informações incorretas que tornam seu conteúdo mais confiável em detrimento da precisão. É crucial que, em qualquer processo de revisão de conteúdo, se o conteúdo for gerado por IA, deve ser sinalizado como gerado por IA para todos os revisores.”


Kevin McRaith, presidente e CEO da Welldoc

“Em primeiro lugar, os reguladores terão de chegar a acordo sobre os controlos necessários para integrar a IA de forma segura e eficaz nas muitas facetas dos cuidados de saúde, tendo em conta os riscos e as boas práticas de fabrico.

“Em segundo lugar, os reguladores devem ir além dos controlos para fornecer à indústria directrizes que tornem viável e exequível para as empresas testarem e implementarem em ambientes do mundo real. Isto ajudará a apoiar a inovação, a descoberta e a evolução necessária da IA.”


Amit Khanna, vice-presidente sênior e gerente geral de saúde da Força de vendas

“Precisamos que os reguladores definam e estabeleçam limites claros para os dados e a privacidade, ao mesmo tempo que permitem que a tecnologia transforme a indústria. Os reguladores precisam garantir que as regulamentações não criem jardins/silos murados na área da saúde, mas, em vez disso, minimizem o risco e ao mesmo tempo permitam que a IA para reduzir o custo de detecção, prestação de cuidados e pesquisa e desenvolvimento.”


Dr. Peter Bonis, diretor médico da Wolters Kluwer Saúde

“A ordem executiva sobre o desenvolvimento e uso seguro e confiável da inteligência artificial impôs um conjunto de diretivas a várias agências federais para estabelecer regulamentações de IA. Essas diretivas devem ser consideradas no contexto de uma estrutura regulatória existente que afeta uma variedade de aplicações de saúde. Clareza e navegabilidade serão cruciais para alcançar um equilíbrio que crie um conjunto construtivo de orientações regulatórias que não sufoquem a inovação. As agências federais que desenvolvem tais políticas devem fazê-lo de forma transparente, com o envolvimento do público e de outras partes interessadas e, criticamente, com rica colaboração interagências.”


Eran Orr, CEO da XRHealth

“Os pacientes precisam saber desde o início quando algo é baseado em IA e não em um médico real. É preciso que haja divulgação completa aos pacientes quando for esse o caso. A indústria precisa preencher a lacuna de onde estamos hoje em termos de IA ferramentas; no entanto, a saúde não tem espaço para erros ele precisa ser totalmente confiável desde o início.”

Source

Related Articles

Leave a Reply

Your email address will not be published. Required fields are marked *

Back to top button