La Casa Blanca lanzó “Plan de acción de AI de América“La semana pasada, que describe varias recomendaciones de políticas federales diseñadas para avanzar en el estado de la nación como líder en diplomacia y seguridad internacionales de IA. El plan busca consolidar el dominio de la IA estadounidense principalmente a través de la desregulación, la expansión de la infraestructura de IA y una cultura de” intento “.
Aquí hay algunas medidas incluidas en el plan:
- Desregulación: el plan tiene como objetivo derogar las reglas estatales y locales que obstaculizan el desarrollo de la IA, y los fondos federales también pueden ser retenidos de los estados con regulaciones restrictivas de IA.
- Innovación: La propuesta busca establecer cajas de arena regulatorias administradas por el gobierno, que son entornos seguros en los que las empresas pueden probar nuevas tecnologías.
- Infraestructura: el plan de la Casa Blanca está pidiendo una construcción rápida de la infraestructura de IA del país y ofrece a las empresas incentivos fiscales para hacerlo. Esto también incluye permisos de seguimiento rápido para centros de datos y expandir la red eléctrica.
- Datos: El plan busca crear pautas de uso de datos específicas de la industria para acelerar el despliegue de IA en sectores críticos como la atención médica, la agricultura y la energía.
Los líderes en el espacio de AI de atención médica son cautelosamente optimistas sobre la postura pro-innovación del plan de acción, y están agradecidos de que aboga por una mejor infraestructura de IA e estándares de intercambio de datos. Sin embargo, los expertos aún tienen algunas preocupaciones sobre el plan, como su falta de enfoque en la seguridad de la IA y el consentimiento de los pacientes, así como la falta de mencionar los organismos regulatorios clave de la salud.
En general, los expertos creen que el plan terminará siendo positivo neto para el avance de la IA de la salud, pero creen que podría usar algunas ediciones.
Desregulación de centros de datos
Ahmed Elsayyad – CEO de Bruscamenteque vende tecnología de compromiso con IA a compañías de ciencias de la vida: considera que el plan es un movimiento generalmente beneficioso para las nuevas empresas de IA. Esto se debe principalmente al énfasis del plan en la desregulación de la infraestructura, como los centros de datos, las redes de energía y la capacidad de semiconductores, dijo.
El entrenamiento y la ejecución de modelos de IA requiere enormes cantidades de potencia informática, que se traduce en un alto consumo de energía, y algunos estados son tratando de abordar Estos niveles crecientes de consumo.
Los gobiernos y las comunidades locales han considerado regular la construcción del centro de datos debido a las preocupaciones sobre la tensión en las redes de energía y el impacto ambiental, pero el plan de acción de IA de la Casa Blanca tiene como objetivo eliminar estas barreras regulatorias, señaló Elsayyad.
No hay detalles sobre la seguridad de la IA
Sin embargo, Elsayyad está preocupado por la falta de atención del plan a la seguridad de la IA.
Esperaba que el plan tuviera un mayor énfasis en la seguridad de la inteligencia artificial porque es una prioridad importante dentro de la comunidad de investigación de IA, con compañías líderes como OpenAI y antrópica que dedican cantidades significativas de sus recursos informáticos a los esfuerzos de seguridad.
“Openai dijo que van a asignar el 20% de sus recursos computacionales para la investigación de seguridad de IA”, declaró Elsayyad.
Señaló que la seguridad de IA es un “importante tema de conversación” en la comunidad de salud digital. Por ejemplo, el uso de IA responsable es un tema discutido frecuentemente en eventos de la industria y organizaciones centradas en la seguridad de la IA en la atención médica, como el Coalición para la AI de salud y Sociedad de Medicina Digital – Han atraído a miles de miembros.
Elsayyad dijo que estaba sorprendido de que el nuevo plan de acción federal no mencione la seguridad de la IA, y cree que incorporar el lenguaje y la financiación de él habría hecho que el plan fuera más equilibrado.
No está solo al darse cuenta de que la seguridad de IA está notablemente ausente del Plan de la Casa Blanca: Adam Farren, CEO de la plataforma EHR Lienzo médicotambién se sorprendió por la falta de atención a la seguridad de la IA.
“Creo que debe haber un impulso para exigir a los proveedores de soluciones de IA para proporcionar puntos de referencia y evaluaciones transparentes de la seguridad de lo que están proporcionando en las líneas clínicas, y parece que faltaba lo que se liberó”, declaró Farren.
Señaló que la IA es fundamentalmente probabilísticas y necesita una evaluación continua. Argumentó a favor de los marcos obligatorios para evaluar la seguridad y precisión de la IA, especialmente en casos de uso de mayor riesgo, como recomendaciones de medicamentos y diagnósticos.
No se menciona el ONC
El plan de acción tampoco menciona la oficina del Coordinador Nacional de Tecnología de la Información de la Salud (ONC), a pesar de nombrar “toneladas” de otras agencias y organismos regulatorios, señaló Farren.
Esto lo sorprendió, dado que el ONC es el principal organismo regulador responsable de todos los asuntos relacionados con la salud y los registros médicos de los proveedores.
“(El ONC) simplemente no se menciona en ninguna parte. Eso me parece una falta porque una de las aplicaciones de más rápido crecimiento de IA en este momento en la atención médica es el escriba de IA. Los médicos lo están utilizando cuando ven a un paciente que transcribe la visita, y es fundamentalmente un producto de software que debería sentarse debajo del ONC, lo que tiene experiencia en la regulación de estos productos”, comentó Farren.
Los escribas ambientales son solo una de las muchas herramientas de IA que se implementan en los sistemas de software de los proveedores, agregó. Por ejemplo, los proveedores están adoptando modelos de inteligencia artificial para mejorar la toma de decisiones clínicas, los errores de medicamentos de los indicadores y la codificación de la línea de racionalización.
Solicitar estándares técnicos
Leigh Burchell, silla de la Asociación de EHR y Vicepresidente de Política y Asuntos Públicos en Salud digital alteraconsidera que el plan es en gran medida positivo, particularmente su enfoque en la innovación y su reconocimiento de la necesidad de estándares técnicos.
Estándares de datos técnicos, como los desarrollados por organizaciones como HL7 y supervisado por Instituto Nacional de Normas y Tecnología (NIST) – Asegúrese de que los sistemas de software de Healthcare puedan intercambiar e interpretar los datos de manera consistente y precisa. Estos estándares permiten a las herramientas de IA integrarse más fácilmente con el EHR, así como usar datos clínicos de una manera que sea útil para los proveedores, dijo Burchell.
“Necesitamos estándares. La tecnología en la atención médica es compleja, y se trata de intercambiar información de una manera que se puede consumir fácilmente en el otro extremo, y para que pueda actuarse. Eso toma estándares”, declaró.
Sin estándares, los sistemas de IA arriesgan la falta de comunicación y el bajo rendimiento en diferentes entornos, agregó Burchell.
Poca consideración por el consentimiento del paciente
Burchell también expresó su preocupación de que el Plan de Acción de AI no aborde adecuadamente el consentimiento de los pacientes, particularmente si los pacientes tienen voz en cómo se usan o comparten sus datos para fines de IA.
“Hemos visto a los estados aprobar leyes sobre cómo se debe regular la IA.
En realidad, el plan sugiere que el gobierno federal podría, en el futuro, retener fondos de los estados que aproban regulaciones que se interponen en el camino de la innovación de la IA, señaló Burchell.
Pero sin reglas federales claras, los estados deben llenar el vacío con sus propias leyes de IA, lo que crea un paisaje fragmentado y oneroso, señaló. Para resolver este problema, pidió un marco federal coherente para proporcionar barandillas más consistentes sobre temas como la transparencia y el consentimiento de los pacientes.
Mientras que el Plan de Acción AI de la Casa Blanca establece las bases para la innovación más rápida, Burchell y otros expertos están de acuerdo en que debe ir acompañado de salvaguardas más fuertes para garantizar el uso responsable y equitativo de la IA en la atención médica.
Crédito: Mr.Cole_Photographer, Getty Images
