El 8 de noviembre de 2023, el Subcomité de Atención Primaria de Salud y Pensiones del Comité Senatorial de Salud, Educación, Trabajo y Pensiones (HELP) discutió el impacto de la inteligencia artificial (IA) en el sector de la atención médica en la segunda audiencia sobre IA del comité en nueve días. La audiencia se produce mientras los líderes de la Casa Blanca y el Congreso buscan responder rápidamente a las amenazas de la IA, mitigar sus peligros y aprovechar su potencial para la industria estadounidense. Los senadores discutieron la reciente orden ejecutiva emitida por la Casa Blanca para guiar la regulación y la innovación de la IA en todos los sectores, incluidos los de salud y servicios humanos.
Declaraciones de apertura
El presidente del subcomité, Ed Markey (D-MA), informó al comité sobre la importancia del papel de la IA en la atención médica, volviendo a la creciente popularidad de las redes sociales, y señaló que las principales empresas de redes sociales han «hecho grandes promesas» sobre innovación, democracia y comunidad. sino que «desató» complicaciones críticas, especialmente para los jóvenes. El senador Markey también señaló que la IA no regulada podría conducir a la próxima pandemia, “reforzar” las desigualdades en los sistemas de atención médica y amenazar la privacidad, entre otros riesgos. Al decir que el Congreso no puede cometer el error de permitir que las grandes tecnologías se autorregulan, lo que siempre antepone «las ganancias a las personas», Markey mencionó tres de sus proyectos de ley sobre inteligencia artificial, incluidos dos que presentó con copatrocinadores bipartidistas: Privacidad en línea para niños y adolescentes. Ley de Protección (COPPA 2.0) con el Senador Bill Cassidy (R-LA), la Ley de Evaluación de Riesgos de Bioseguridad de Inteligencia Artificial con el Senador Ted Budd (R-NC) y la Ley de Garantía de Síntesis Genética presentada conjuntamente con la Representante Anna Eshoo (D- CA) ).
El miembro de mayor rango del subcomité, Roger Marshall (R-KS), reconoció el potencial de la IA para revolucionar la atención médica, con beneficios que incluyen mejores estándares de atención, acceso oportuno a la atención y el descubrimiento de tratamientos innovadores. El senador Marshall también expresó su preocupación por las posibles aplicaciones de la IA a cuestiones de bioseguridad, señalando en particular el riesgo de bioterrorismo. Pidió la implementación de barreras que apoyen la innovación y el liderazgo estadounidense en el espacio. También apoyó el libro blanco del senador Cassidy que explora el marco del Congreso para el futuro de la IA en la atención médica.
Testimonio de peritos
Sra. Christine Huberty, Observando Avanzado, Agencia de Recursos para Personas Mayores de Wisconsin
Al contar la historia de un paciente al que la atención basada en IA fracasó, el testimonio de Huberty se centró en algoritmos que establecen un cronograma para la recuperación de un paciente, que, según ella, no priorizaba las recomendaciones médicas. Huberty compartió historias de compañías de seguros que utilizan atención basada en inteligencia artificial para negar a los pacientes atención continua, cargándolos con la perspectiva de mayores costos de bolsillo y empeoramiento de las condiciones. Huberty también señaló que la atención dirigida por IA también perjudica a los centros de salud debido a las cargas administrativas resultantes asociadas con las apelaciones de denegación. Como resultado, algunos centros de salud se niegan a tratar a pacientes cuyo seguro utiliza tecnología predictiva. Al señalar que no es «realista» eliminar la IA del sistema de atención médica, Huberty instó a la comisión a abordar el problema algorítmico específico que ella identificó. Dr. Thomas Inglesby, Director, Centro Johns Hopkins para la seguridad sanitaria
En su declaración, el Dr. Inglesby advirtió sobre importantes riesgos de consecuencias que requieren atención legislativa prioritaria, incluido el potencial de la IA para simplificar la creación de virus peligrosos que ya están extintos o que sólo existen en laboratorios de investigación. También señaló el potencial de la IA para permitir, acelerar o simplificar la creación de nuevas construcciones biológicas, como virus, que podrían iniciar una nueva pandemia. Inglesby sostuvo que la orden ejecutiva (EO) de IA de la semana pasada tomó medidas decisivas para abordar los riesgos de bioseguridad, y agregó que los desarrolladores privados de IA han tomado medidas similares, pero señaló que se necesitan más acciones. Recomendó tres pasos inmediatos:
- Proporcionar al HHS la autoridad y los recursos para exigir que cualquier persona que compre ácidos nucleicos sintéticos en los EE. UU. los compre únicamente a proveedores y clientes de ácidos nucleicos de detección de secuencias, independientemente de la fuente de financiación.
- Una evaluación rápida de riesgos por parte de la Comisión para determinar si la EO firmada la semana pasada abordará adecuadamente los riesgos biológicos o si se necesitan más acciones por parte del Congreso.
- Exigir a las entidades que desarrollan productos con riesgos significativos de doble uso que evalúen y modelen equipos rojos para identificar y abordar los riesgos; El Congreso también debería encargar a una agencia la auditoría de los modelos de doble uso.
Dr. Kenneth D. Mandle, Profesor y director de Harvard, Programa de Informática de Salud Informática, Boston Children’s Hospital
El testimonio del Dr. Mandel se centró en el uso de modelos de lenguaje grandes (LLM), que, en su opinión, transformarán la prestación de atención sanitaria antes de lo esperado. Mandle expresó su preocupación por el hecho de que la IA se esté adoptando en la atención sanitaria sin barreras de seguridad y sugirió que esta falta de barreras podría conducir a flujos de trabajo clínicos «complicados y retorcidos».
Dr. Keith Venta, Vicepresidente y director médico de servicios ambulatorios, Sistema de salud de la Universidad de Kansas
El Dr. Sale dijo que el resultado más impactante de la IA en la atención médica puede ser el agotamiento de los médicos. Según Sale, el agotamiento debido a la transcripción, la documentación y otras cargas administrativas está afectando la atención al paciente, que la IA puede mejorar enormemente. El Dr. Sale dijo que el Congreso debería centrar sus esfuerzos regulatorios en la privacidad y el cumplimiento de las directrices de la Ley de Responsabilidad y Portabilidad del Seguro Médico (HIPAA), la seguridad de los datos y la trazabilidad de la información generada por IA.
Lo más destacado de la audición
Reducir la carga administrativa de los médicos
En sus comentarios de apertura y preguntas a los testigos, el senador Markey destacó las preocupaciones de seguridad relacionadas con la responsabilidad de los trabajadores y los resultados de la IA. El senador Markey preguntó sobre el peligro de utilizar la IA sanitaria para supervisar tareas administrativas y de diagnóstico en entornos clínicos. El Dr. Mandel enfatizó que el personal clínico debe comprender las funcionalidades y limitaciones de las herramientas de inteligencia artificial, incluidas las cuestiones de ergonomía y flujo de trabajo. El Dr. Mandel también instó a los desarrolladores a diseñar algoritmos centrados en mejorar las cargas administrativas y las relaciones médico-paciente manteniendo al mismo tiempo la seguridad. También alentó al Congreso a crear e implementar salvaguardias legales y éticas para proteger a los trabajadores de la salud de la responsabilidad.
Proteger la privacidad del paciente
La privacidad del paciente y la seguridad de los datos fueron las principales prioridades para los senadores presentes. La senadora Maggie Hassan (D-NH) enfatizó la necesidad de estándares de IA en entornos de atención médica para proteger la privacidad y preguntó cómo el Congreso podría ayudar a establecer esos estándares. El senador John Hickenlooper (D-CO) planteó la cuestión de cómo utilizar datos del mundo real y al mismo tiempo establecer salvaguardias que promuevan la seguridad de los datos. En ambas preguntas, el Dr. Mandel enfatizó la necesidad de reevaluar y mantener continuamente los algoritmos utilizados para garantizar que la IA mejore el valor de la atención y funcione según lo previsto. También instó a los actores de la atención médica a aplicar ampliamente los estándares para evitar que empresas individuales monopolicen la innovación en IA.
Prevención del riesgo de bioseguridad relacionado con la IA
Varios senadores destacaron el riesgo de bioseguridad asociado con el uso de la IA en la atención médica, desde prevenir la propagación de patógenos altamente transmisibles por parte de malos actores hasta cómo utilizar la IA para prevenir fallas de bioseguridad. La senadora Tina Smith (D-MN) preguntó al Dr. Inglesby sobre el uso de la IA en el desarrollo de una vacuna contra el Covid-19 y las lecciones aprendidas del uso de la IA para prevenir riesgos de bioseguridad. El Dr. Inglesby señaló que la IA puede mejorar la velocidad, la precisión y la eficiencia del desarrollo de vacunas y fármacos, haciendo que las vacunas y los tratamientos sean más potentes. Sin embargo, advirtió que estos procesos podrían usarse accidental o intencionalmente para crear armas biológicas incontrolables y recomendó que el Congreso realice auditorías gubernamentales de las empresas de biotecnología.
Los senadores Hassan y Hickenlooper también han expresado interés en utilizar la IA para responder a los brotes de patógenos. El senador Hassan preguntó cómo los algoritmos de IA podrían identificar la resistencia a los antimicrobianos para ayudar a las autoridades de salud pública a identificar y responder a los brotes más rápidamente, mientras que el senador Hickenlooper destacó la importancia de prevenir la propagación de patógenos altamente transmisibles a los participantes y preguntó cómo se calificará el riesgo sin barreras federales. .
Prevenir prejuicios y garantizar la rendición de cuentas
El senador Ben Ray Luján (D-NM) ha expresado su preocupación por el hecho de que la IA perpetúe los prejuicios raciales y étnicos existentes en la atención médica, específicamente en lo que respecta a cuestiones de sesgo en los conjuntos de datos que se utilizan para entrenar los sistemas de IA. El Dr. Mandel respondió que recopilar datos representativos es esencial para evitar sesgos y agregó que se necesita interoperabilidad en todo el sistema de salud, además de personal diverso para brindar capacitación de refuerzo, para obtener datos representativos para entrenar algoritmos de IA.
Conclusión
El Congreso y la administración están trabajando para seguir el ritmo de las innovaciones que avanzan rápidamente en la inteligencia artificial y la atención médica. Crowell & Moring, LLP continuará los esfuerzos del gobierno federal para regular la IA. Nuestros abogados y profesionales de políticas públicas están disponibles para asesorar a los clientes que deseen desempeñar un papel activo en los debates políticos actuales o que busquen abordar cuestiones relacionadas con la IA en contratos gubernamentales, derecho laboral, propiedad intelectual, privacidad, atención médica, antimonopolio u otras áreas estratégicas.