Los registros de pacientes están llegando a herramientas de IA para consumidores

Un responsable de privacidad no puede responder por una divulgación que nadie registró. Ese es el incómodo centro de dos incidentes que salieron a la luz en los últimos días, en los que información de pacientes llegó a herramientas de IA que las organizaciones nunca aprobaron, y donde los responsables de cumplimiento se enteraron después de que ocurrió.

Un centro médico académico reveló que información de salud protegida de un estudio de radiología había sido ingresada en herramientas de IA y aprendizaje automático en contra de sus propias políticas. Por otro lado, un miembro del personal de un centro de cuidados transitorios en el estado de Washington usó una cuenta personal de ChatGPT para redactar resúmenes de notas de casos que incluían nombres, diagnósticos y medicamentos. Ninguno de los casos fue un ataque clásico. Nadie forzó la entrada. Personas con acceso legítimo a los datos de pacientes los movieron a lugares donde no debían estar.

Esa diferencia importa para definir cómo protegerte. Las herramientas perimetrales se crearon para frenar a externos, y estos incidentes fueron internos intentando trabajar más rápido. Este artículo cubre en qué consistió cada incidente, qué exige la ley HIPAA que puedas demostrar, dónde está la verdadera distancia y cómo cerrarla sin quitar productividad a clínicos e investigadores.

Conclusiones clave

  1. La filtración es un problema de acceso, no un ataque. Personal con credenciales válidas copió datos de pacientes en herramientas no aprobadas, así que los controles enfocados en externos no lo detectaron.
  2. Dos incidentes muestran dos patrones. Uno fue un equipo de investigación subiendo datos de imágenes, el otro un miembro del personal usando una cuenta personal para resumir notas de casos.
  3. Las encuestas sugieren que el comportamiento es común. Una encuesta de Wolters Kluwer Health de diciembre de 2025 encontró que el 40% de los encuestados se había topado con herramientas de IA no autorizadas y casi el 20% admitió haberlas usado.
  4. La carga de cumplimiento es la prueba. Las entidades cubiertas deben poder investigar, evaluar y documentar divulgaciones, lo que requiere registros de lo que salió del entorno.
  5. Un canal gobernado es mejor que una prohibición. Dar a clínicos e investigadores una vía aprobada con registro y aplicación de políticas elimina el motivo para saltarse las reglas.

Lo que revelaron las dos organizaciones

Los detalles provienen de un reporte de The HIPAA Journal, que no pudo ser consultado directamente para este artículo, así que trata los detalles a continuación como información secundaria y confírmalos con los avisos oficiales de las organizaciones antes de citarlos.

Según ese reporte, el centro médico descubrió en septiembre de 2026 que información de salud protegida usada en un estudio de radiología había sido ingresada en herramientas de IA y aprendizaje automático, con cargas realizadas en junio de 2026. Al parecer, los datos no incluían nombres, datos de contacto, números de Seguro Social ni información financiera, pero sí números de historia clínica, números de acceso a radiología, fechas y horas de servicio, nombres de instalaciones y proveedores, e información clínica que pudo incluir diagnósticos, tratamientos, historial quirúrgico y medicamentos. El centro médico no encontró uso indebido, suspendió la actividad de investigación y solicitó la eliminación de los datos. No se ha divulgado el número de personas afectadas.

En el estado de Washington, el mismo reporte indica que un miembro del personal del Lake Burien Transitional Care Facility usó una cuenta personal de ChatGPT para redactar resúmenes de notas de casos. El Departamento de Servicios Sociales y de Salud del estado identificó un caso, luego varios anteriores, y envió cartas a 12 familias afectadas. También identificó un incidente similar con cuatro pacientes en Western State Hospital.

Fíjate en lo que falta en ambos relatos. Ninguno describe una acción de cumplimiento o una sanción. Son eventos de divulgación que activaron investigación y notificación, y por eso son útiles para analizar. Muestran cómo se ve el uso ordinario y no malicioso de IA cuando sale mal.

Lista completa de requisitos de cumplimiento HIPAA

Leer ahora

Por qué los números de historia clínica y las fechas siguen contando

Un detalle en el informe del centro médico es fácil de pasar por alto. Al parecer, los datos no incluían nombres ni números de Seguro Social. Un lector podría pensar que la exposición fue menor.

La ley HIPAA no funciona así. La Regla de Privacidad define la información de salud protegida de forma amplia, y los identificadores como los números de historia clínica y las fechas de servicio son elementos que hacen que los datos de salud sean identificables individualmente. La desidentificación bajo el método Safe Harbor exige eliminar una larga lista de identificadores, que incluye los números de historia clínica y la mayoría de los elementos de fecha. Un conjunto de datos que los conserva sigue siendo, en general, PHI.

Aquí es donde los equipos de investigación suelen tropezar. Los investigadores manejan datos de manera que parece más análisis que atención, y suelen asumir que eliminar identificadores directos es suficiente. La Regla de Mínimo Necesario de HIPAA pregunta si la cantidad de datos usados se limita a lo que requiere el propósito. Enviar detalles clínicos identificables a una herramienta externa para una tarea que no los necesita es justo el tipo de decisión que esa regla busca evitar.

Las cifras de Shadow AI detrás de los incidentes

Si estos fueran errores aislados, sería un problema de capacitación. La evidencia de las encuestas sugiere que es más bien un patrón.

Wolters Kluwer Health encargó una encuesta a 518 profesionales de la salud, divididos a partes iguales entre proveedores y administradores, realizada en línea en diciembre de 2025 por CITE Research. En el comunicado de la empresa, el 40% de los encuestados dijo haber encontrado una herramienta de IA no autorizada en su organización, casi el 20% reconoció haber usado una, y alrededor de uno de cada diez reportó haber usado una herramienta no autorizada para un caso de uso directo en atención a pacientes. Fíjate en el lenguaje. La encuesta mide encuentros y admisiones, no volumen de PHI expuesta, y proviene de un proveedor con intereses en el mercado.

Un segundo dato viene de fuera del sector salud. La investigación Oh, Behave! de National Cybersecurity Alliance y CybSafe reportó que el 32% de los usuarios de IA en el trabajo habían compartido datos sensibles de la empresa con herramientas de IA sin que el empleador lo supiera. Es otra población, pero el mismo comportamiento.

Toma estos datos como orientativos. No te dicen tu nivel de exposición. Te muestran que la suposición «nuestro personal no hace esto» es difícil de sostener, y que una organización que afirma cero uso de Shadow AI probablemente carece de visibilidad para saberlo.

Qué espera la ley HIPAA que puedas demostrar

Empieza por lo que la norma dice y no dice. HIPAA no tiene ninguna disposición específica sobre IA. Las reglas relevantes son las existentes, aplicadas a una herramienta nueva.

Cuando se divulga PHI a un tercero sin un acuerdo de asociado comercial válido u otro permiso, generalmente es una divulgación no permitida. El marco de notificación de brechas exige entonces una evaluación de riesgos para decidir si el incidente es una brecha reportable, usando factores como la naturaleza de la información, quién la recibió, si fue adquirida o vista, y hasta qué punto se ha reducido el riesgo. Debes poder hacer esa evaluación con datos reales.

Ahí es donde importan los registros. Para evaluar una divulgación relacionada con IA, un responsable de privacidad necesita saber qué datos de pacientes se enviaron a qué herramienta, cuándo, por quién y si el destinatario los conservó. Una cuenta de IA de consumo en un dispositivo personal no genera nada de eso en tu lado. Te enteras, si acaso, por un denunciante, una agencia estatal o una auditoría.

El requisito de registro de divulgaciones apunta en la misma dirección. Las personas tienen derecho a solicitar un registro de ciertas divulgaciones de su PHI, y las entidades cubiertas deben poder producirlo. Un pegado no registrado en un chatbot es una divulgación que tu proceso de registro no puede ver. Si una divulgación de IA concreta entra o no en el requisito de registro depende de los hechos y las excepciones, así que consulta con asesoría legal. El punto operativo se mantiene igual. No puedes responder a una pregunta sobre algo que tus sistemas nunca registraron.

En el ámbito de seguridad, la Regla de Seguridad de HIPAA exige controles de auditoría y gestión de accesos. La revisión de la Regla de Seguridad que HHS propuso a principios de 2025 sigue siendo una propuesta, no una norma final, y hoy el cifrado sigue siendo una especificación direccionable, así que evita decir a tu junta que ya hay requisitos nuevos en vigor. El estándar actual de control de auditoría basta para argumentar. Si no puedes examinar la actividad relacionada con PHI electrónica, tienes una distancia.

Por qué bloquear IA de consumo no cierra la distancia

La reacción inmediata es bloquear ChatGPT y similares en el perímetro de la red. Ayuda en parte, pero falla como estrategia, por tres razones.

El personal usa dispositivos y cuentas personales, como muestra el caso de Lake Burien. Un bloqueo de red no afecta a un teléfono con conexión celular.

Segundo, las herramientas se multiplican. Cada aplicación de productividad ahora integra un asistente. Una lista de bloqueos escrita hoy queda obsoleta el mes siguiente.

Tercero, la presión que impulsa el comportamiento sigue ahí. Un clínico redactando resúmenes al final de un turno largo tiene un problema real, y la herramienta lo resuelve. Si quitas la herramienta sin ofrecer una alternativa, la gente busca otra vía. Ignorar el motivo es cómo crece el Shadow AI.

El enfoque más duradero es cubrir la necesidad dentro de un entorno gobernado. Si un equipo de investigación quiere usar aprendizaje automático con datos de radiología, dales un canal donde los datos permanezcan bajo política, el acceso se limite a lo que requiere el proyecto y cada operación quede registrada. Si un clínico quiere un borrador de resumen, proporciona un asistente aprobado que acceda al contenido de pacientes solo mediante acceso controlado.

Cómo es una vía gobernada

Una vía de IA gobernada para datos de pacientes tiene varias características, y cada una responde a una pregunta de cumplimiento.

Identidad. La IA actúa en nombre de un usuario autenticado, y sus permisos nunca superan los de ese usuario. Esto responde a la pregunta de quién autorizó el acceso.

Política en el punto de acceso. Cada solicitud se evalúa según reglas basadas en la sensibilidad de los datos, el rol del usuario y el contexto. Esto respalda el estándar de mínimo necesario y evita que un asistente de investigación acceda a registros fuera de su protocolo.

Registro completo. Cada operación de IA se graba con suficiente detalle para reconstruirla después. Esto permite a un responsable de privacidad realizar la evaluación de riesgo de brecha y responder a una solicitud de registro de un paciente con hechos.

Sin credenciales en el modelo. Los tokens de autenticación permanecen fuera de todo lo que la IA pueda leer, lo que cierra una clase de riesgos de inyección de prompts.

Kiteworks diseña su Secure MCP Server y Kiteworks Compliant AI alrededor de estas propiedades, para que los asistentes de IA accedan al contenido en el intercambio seguro de datos de Kiteworks bajo las mismas políticas basadas en roles y atributos y el mismo registro de auditoría consolidado que rige a los usuarios humanos. El límite honesto es el alcance. Kiteworks no estuvo en el flujo de datos de ninguno de los incidentes y no puede evitar que un empleado pegue texto en una cuenta personal desde su teléfono. Lo que se afirma es que cuando el contenido de pacientes se accede a través de Kiteworks, el acceso está gobernado y registrado. Esa es la evidencia que necesita un responsable de privacidad para el contenido que más importa, y te da algo concreto para mostrar cuando el personal pregunta qué puede usar. Para el marco de apoyo, consulta la guía de protección de datos de IA y el cumplimiento HIPAA.

Plan de 30 días para responsables de privacidad y seguridad

No necesitas reescribir todo el programa para avanzar. Cuatro acciones caben en un mes.

En la primera semana, pregunta a tus líderes clínicos, de investigación y administrativos de forma directa: ¿qué herramientas de IA usas para el trabajo, incluidas las personales? Promete que no habrá sanciones por respuestas honestas. El objetivo es conocer la realidad, y la amnistía da mejores datos que la vigilancia.

En la segunda semana, clasifica los casos de uso. Separa las tareas que nunca involucran PHI de las que sí. Para los casos con PHI, decide cuáles pueden resolverse con una herramienta aprobada y cuáles deben detenerse.

En la tercera semana, habilita una vía gobernada para el caso de uso de mayor volumen. Canalízalo por una vía que aplique políticas y registre la actividad. Demuestra que el registro funciona extrayendo el registro de una operación de prueba.

En la cuarta semana, actualiza tu procedimiento de evaluación de riesgo de brecha y tu proceso de registro de divulgaciones para incluir eventos relacionados con IA, y pruébalos con un escenario. Cronometra cuánto tardas en averiguar qué se compartió.

Añade un mensaje breve y concreto para el personal que explique por qué las cuentas personales de IA están prohibidas para datos de pacientes y qué deben usar en su lugar. La gente sigue reglas que entiende, especialmente cuando existe una alternativa. Acompaña esto con la guía de manejo de PII y PHI para que el personal sepa qué cuenta como tal.

Qué llevar a tu próximo comité de cumplimiento

Plantea el problema como uno de registros con un responsable claro. La organización ya tiene el deber de investigar, evaluar y documentar divulgaciones. La IA agrega una nueva vía por la que sale PHI, y tus registros actuales no la capturan.

Lleva tres hechos. Estos incidentes no fueron ataques. La evidencia de encuestas sugiere que el comportamiento es generalizado. Y la solución es una alternativa gobernada con registro, no una prohibición. Luego pide una decisión sobre qué vía gobernada construir primero y quién revisará semanalmente sus registros.

Las organizaciones que gestionen esto bien no serán las de políticas más estrictas. Serán las que puedan responder, rápido y con pruebas, la pregunta que todo regulador y paciente afectado acabará haciendo: ¿Qué pasó con mis datos y cómo lo sabes?

Los datos de investigación merecen controles propios

El caso del centro médico académico involucró un estudio de investigación, y los entornos de investigación crean riesgos que las operaciones clínicas no tienen. Los investigadores mueven datos entre sistemas, aplican nuevas herramientas analíticas y colaboran entre instituciones. Valoran la rapidez y la flexibilidad, y a veces tratan los datos identificables como material de trabajo y no como información regulada.

El aprendizaje automático agudiza esto. Un investigador que explora un modelo con datos de imágenes puede recurrir a una herramienta alojada porque el entorno local no tiene la capacidad de cómputo. La carga parece un paso técnico. En términos regulatorios, es una divulgación a un tercero. Las instituciones que gestionan programas de investigación necesitan reglas explícitas sobre a dónde pueden ir los conjuntos de datos identificables y limitados, quién aprueba excepciones y cómo se registran esas aprobaciones.

Algunos controles ayudan. Mantén una lista aprobada de entornos de análisis, cada uno con los acuerdos y revisiones de seguridad adecuados. Exige acuerdos de uso de datos que especifiquen las herramientas permitidas. Proporciona un espacio de trabajo gobernado donde los investigadores puedan analizar sin sacar los datos, para que la opción conveniente también sea la que cumple. Y registra el acceso a los conjuntos de datos de investigación a nivel de operación individual, para que si ocurre una carga puedas verla.

Los comités de ética institucional y los responsables de privacidad también deben hablar entre sí. Los protocolos de estudio suelen describir el manejo de datos en términos generales. Añadir una breve sección sobre herramientas de IA y aprendizaje automático, con opciones aprobadas por nombre, convierte una expectativa vaga en un compromiso verificable.

Acuerdos de asociados comerciales y debida diligencia de proveedores

Muchas organizaciones asumen que contratar un plan empresarial de IA resuelve la cuestión HIPAA. A veces sí, a veces no, y la diferencia está en el papel.

Un acuerdo de asociado comercial es el contrato que permite a un proveedor manejar PHI en nombre de una entidad cubierta. Sin uno, divulgar PHI al proveedor generalmente no está permitido. Con uno, el proveedor asume obligaciones definidas sobre protección, límites de uso y notificación de brechas. Si un producto de IA concreto está cubierto depende de la oferta del proveedor, el plan y la configuración, así que revisa los términos y no solo el marketing.

Haz preguntas específicas a los proveedores. ¿El acuerdo cubre este producto y este plan? ¿Se usa la información del cliente para entrenar modelos, y se puede desactivar contractual y técnicamente? ¿Dónde se almacenan los datos y por cuánto tiempo? ¿Puedes obtener registros de lo que enviaron tus usuarios? ¿Qué ocurre con los datos al terminar el contrato? ¿Cuál es el plazo de notificación de brechas del proveedor?

Luego verifica las respuestas en el producto. Un contrato que promete no entrenar con tus datos solo sirve si la configuración lo respalda. Prueba con datos no sensibles, confirma el comportamiento de retención y documenta el resultado.

Por último, recuerda que los proveedores aprobados solo cubren las vías que conoces. El ejemplo de Lake Burien involucró una cuenta personal, que ningún acuerdo cubría. La debida diligencia de proveedores y los controles de Shadow AI son dos mitades del mismo programa. Para el trabajo de clasificación de datos subyacente, consulta la visión general de Kiteworks sobre PII y PHI y su guía de gobernanza de datos de IA.

Qué registrar cuando la IA accede a datos de pacientes

Prometer registro es fácil, hacerlo bien no tanto. Un registro que solo indique que un usuario inició sesión no le sirve de mucho a un responsable de privacidad. Un registro útil del acceso de IA a contenido de pacientes recoge varios elementos.

La identidad de la persona en cuyo nombre actuó la IA y la identidad del propio sistema de IA. El contenido específico al que se accedió, hasta el archivo o registro. La acción realizada, como leer, resumir, copiar o descargar. La hora. La política evaluada y su resultado, incluidas las denegaciones. Y el destino, es decir, a dónde fueron los datos después.

La retención importa tanto como el contenido. Las investigaciones de brechas pueden comenzar mucho después del evento, como muestra la cronología del centro médico académico, con el descubrimiento en septiembre de una actividad ocurrida en junio. Los registros que se eliminan tras 30 días no servirían para esa investigación. Ajusta la retención a tus necesidades regulatorias e investigativas y protege los registros contra alteraciones.

Haz que los registros sean utilizables. Envíalos a tu SIEM para que se activen alertas ante patrones inusuales, como el acceso masivo a registros de pacientes por una cuenta de IA. Y asegúrate de que el personal de cumplimiento, no solo los ingenieros de seguridad, pueda consultarlos. Un responsable de privacidad que deba abrir un ticket y esperar una semana no puede cumplir con los plazos de notificación.

Formación que cambia el comportamiento

La formación anual de cumplimiento rara vez cambia cómo la gente usa herramientas de IA. Lo que funciona es lo específico, práctico y oportuno para el momento de la decisión.

Usa ejemplos reales de tu propio sector. Los casos del centro médico y Lake Burien son cercanos porque implican tareas ordinarias, como resumir notas y explorar un modelo. Muestra al personal que quienes participaron no eran villanos y que los datos que ingresaron tenían identificadores relevantes.

Ofrece la alternativa al mismo tiempo que la prohibición. El personal que solo aprende lo que no puede hacer buscará atajos. Quienes saben que existe un asistente aprobado, qué puede hacer y cómo solicitar acceso, es más probable que lo usen.

Haz que reportar sea seguro. Quienes peguen accidentalmente PHI en una herramienta de consumo deben poder decirlo rápido, sin miedo a un castigo automático. Los avisos tempranos acortan la evaluación de brecha y mejoran la reducción del daño, ya que puedes pedir la eliminación cuando aún sirve.

Refuerza con recordatorios en el lugar de trabajo. Un banner breve en el asistente aprobado, una nota en el portal de datos de investigación o una línea en la plantilla de documentación clínica pueden hacer más que una presentación. Mide el resultado con encuestas periódicas y con los registros de tu canal gobernado, y ajusta.

Para ver cómo se ve el acceso gobernado de IA a contenido sensible en la práctica, solicita una demo de Kiteworks y revisa el registro de auditoría con nuestro equipo.

Preguntas frecuentes

Puede serlo. Sin un acuerdo de asociado comercial u otro permiso, divulgar PHI a un servicio de IA de consumo generalmente es una divulgación no permitida. Las ofertas empresariales con un acuerdo firmado se tratan de forma diferente. Revisa los términos del proveedor y consulta con asesoría legal. Consulta los requisitos de cumplimiento HIPAA para la base.

Los datos pueden seguir siendo PHI si conservan otros identificadores, como números de historia clínica, números de acceso o fechas de servicio. La desidentificación exige eliminar una lista definida de identificadores o una determinación de un experto. Los investigadores suelen pasar esto por alto. Consulta la visión general de PII y PHI.

Combina una encuesta honesta al personal con señales técnicas como telemetría de red y endpoints, y compara los resultados. Las encuestas revelan el uso de dispositivos personales que las herramientas no detectan. Un enfoque de amnistía mejora la sinceridad. Luego canaliza el uso aprobado por vías registradas para construir un registro de auditoría completo.

Depende de una evaluación documentada de riesgo de brecha que cubra los datos involucrados, el destinatario, si fueron adquiridos o vistos, y la reducción del riesgo. Algunos incidentes son reportables y otros no. Las leyes estatales pueden añadir obligaciones. Documenta tu razonamiento en ambos casos y consulta con asesoría legal.

Proporciona un asistente aprobado que acceda al contenido de pacientes solo mediante acceso controlado, con políticas basadas en roles y atributos y registro completo. Acompáñalo de formación sobre por qué las cuentas personales están prohibidas. Explora un modelo de acceso a IA gobernada diseñado para esto.

Recursos adicionales

  • Artículo del Blog
    Estrategias Zero‑Trust para una protección de privacidad de IA asequible
  • Artículo del Blog
    Cómo el 77% de las organizaciones falla en la seguridad de datos de IA
  • eBook
    Análisis de distancia en gobernanza de IA: Por qué el 91% de las pequeñas empresas juega a la ruleta rusa con la seguridad de datos en 2025
  • Artículo del Blog
    No existe «–dangerously-skip-permissions» para tus datos
  • Artículo del Blog
    Los reguladores ya no preguntan si tienes una política de IA. Quieren pruebas de que funciona.

Comienza ahora.

Es fácil comenzar a asegurar el cumplimiento normativo y gestionar eficazmente los riesgos con Kiteworks. Únete a las miles de organizaciones que confían en cómo intercambian datos confidenciales entre personas, máquinas y sistemas. Empieza hoy mismo.

Compartir
Twittear
Compartir
Explore Kiteworks