IA híbrida en la atención médica: cómo LOLA establece un nuevo estándar

En una era en la que la Inteligencia Artificial (IA) continúa remodelando las industrias, los modelos de grandes lenguajes (LLM) y la IA generativa (GenAI) se destacan como la próxima gran novedad en tecnología.

Prometen revolucionar la forma en que operan las empresas al permitir interacciones más naturales entre humanos y máquinas, automatizar tareas complejas y desbloquear nuevas eficiencias en todos los sectores. Desde la mejora del servicio al cliente con asistentes impulsados por la inteligencia artificial hasta la racionalización de los flujos de trabajo en el sector de la salud y las finanzas, estas tecnologías están transformando la forma en que funcionan las organizaciones.

Sin embargo, aunque los consumidores han estado experimentando con herramientas como ChatGPT o DeepSeek, en lo que respecta a la adopción de la IA empresarial, no todo vale. Y si nos centramos específicamente en la asistencia sanitaria, donde seguridad clínica, cumplimiento normativo e integridad de los datos somos no negociable, se requiere un enfoque fundamentalmente diferente.

En Tucuvi, llevamos más de cinco años desarrollando e implementando IA conversacional para el cuidado de la salud. Trabajamos con clientes de grandes empresas, incluidos los principales sistemas de salud, como Grupo Hospitalario QuirónSalud—opera más de 50 hospitales y atiende a millones de pacientes— además de compañías farmacéuticas líderes como AstraZeneca.

En el sector sanitario, las aplicaciones de IA exigen los niveles más altos de seguridad, confiabilidad y precisión clínica. Si bien los LLM y GenAI han demostrado una capacidad creativa impresionante, no cumplen con estas demandas críticas. Su imprevisibilidad inherente y su falta de control determinista introducen riesgos significativos en los entornos clínicos, donde la precisión y la coherencia son primordiales.

Es por eso que la industria se centra en IA híbrida, un nuevo estándar que combina la adaptabilidad de los LLM con la precisión y el control de los modelos tradicionales de aprendizaje automático. Al orquestar ambos a través de sistemas de IA inteligentes, La IA híbrida permite una IA conversacional de alto rendimiento y, al mismo tiempo, cumple con los estándares clínicos más estrictos.

Como se destaca en este reciente artículo de Forbes, la combinación de sistemas deterministas con modelos generativos está demostrando ser la estrategia ideal para los sectores con aversión al riesgo, como la atención médica. Las organizaciones no solo buscan la innovación, sino que también requieren soluciones de IA que cumplan con los rigurosos estándares de eficacia clínica y seguridad de los pacientes.

A la vanguardia de esta revolución, Tucuvi aprovecha el poder de la IA híbrida para agilizar las conversaciones telefónicas clínicas con los pacientes con un agente de IA llamado LOLA, una herramienta esencial para abordar la escasez mundial de profesionales de la salud. Al combinar las capacidades del lenguaje natural basadas en la LLM con modelos deterministas, LOLA garantiza conversaciones con los pacientes clínicamente seguras, sensibles al contexto y confiables, reduciendo la brecha entre la innovación de la IA y las necesidades clínicas del mundo real.

‍

‍

¿Por qué la IA híbrida es la opción correcta para el cuidado de la salud?

‍

Los sistemas de IA totalmente generativos, aquellos que dependen únicamente de los LLM, han transformado la IA conversacional, pero siguen siendo insuficientes para las aplicaciones de atención médica. Técnicas como el ajuste fino, la generación aumentada por recuperación (RAG) y el aprendizaje por refuerzo a partir de la retroalimentación humana (RLHF) han reducido significativamente las tasas de alucinaciones. Sin embargo, por su propia naturaleza, estos sistemas solo pueden reducir, no eliminar, el riesgo de errores. LLM alucina.

Y cuando se trata de la atención médica y la seguridad de los pacientes, incluso unos pocos errores son demasiados.

Esta limitación se debe a que los LLM son modelos intrínsecamente probabilísticos que generan respuestas basadas en patrones estadísticos en sus datos de entrenamiento en lugar de en una verdadera comprensión.

No «entienden» la información como lo hacen los humanos; en cambio, predicen la próxima señal más probable desde el punto de vista estadístico. En la atención al paciente, donde la precisión y la confiabilidad son fundamentales, incluso los errores menores pueden comprometer la toma de decisiones clínicas.

Por eso, la industria está explorando alternativas que prioricen la seguridad y la previsibilidad, y los líderes recurren cada vez más a la IA híbrida. La IA híbrida no es solo una mejora: es, a día de hoy, el único enfoque confiable para garantizar que las conversaciones sobre la salud impulsadas por la IA sean efectivas y seguras.

Los pilares clave que diferencian a la IA híbrida en el sector sanitario son:

• Seguridad y confiabilidad clínica — Al estructurar las interacciones en función de directrices validadas clínicamente y aprovechar los modelos ID-NER (reconocimiento de entidades con nombre de identificador), la IA híbrida garantiza que tanto la salida de datos estructurados como la conversación en sí se adhieran estrictamente a los protocolos clínicos aprobados. Esto significa que el sistema de IA nunca se aparta del alcance clínico diseñado.
• Interacciones predecibles y personalizables — La IA híbrida permite interacciones altamente personalizadas con los pacientes y, al mismo tiempo, mantiene un estricto control clínico. La arquitectura basada en conceptos médicos garantiza que las respuestas permanezcan dentro de un marco controlado. Además, un motor de alertas deterministas garantiza que cualquier riesgo clínico se señale en tiempo real, lo que permite una intervención oportuna y una toma de decisiones fundamentada.
• Experiencia conversacional mejorada — No se puede confiar en que los LLM por sí solos tomen decisiones clínicas. En la IA híbrida, mejoran la calidad de la conversación sin comprometer el control. Perfeccionan la redacción, mejoran la participación y se adaptan a las opiniones de los pacientes, todo ello sin dejar de respetar parámetros seguros, estructurados y aprobados médicamente.

‍

Vamos a compartir un ejemplo real.

‍Imagine que un agente de IA de LOLA trabaja en cuidados de transición y hace una llamada telefónica de seguimiento a un paciente con insuficiencia cardíaca después del alta.

La pieza determinista de la arquitectura establecerá el alcance de la conversación, qué conceptos médicos deben discutirse y cuáles son las respuestas aceptables de la IA desde el punto de vista clínico.

Mientras que la parte de la arquitectura del LLM hará que esta interacción sea verdaderamente conversacional y empática, capturando las opiniones del paciente incluso si están fuera del alcance clínico (por ejemplo, un paciente comparte que su automóvil está roto y no tiene transporte para asistir a una cita médica) y responder como lo haría un humano, con cuidado y empatía.

‍

‍

‍

‍

Arquitectura de IA híbrida de Tucuvi: precisión, seguridad y confiabilidad clínica

‍

Con más de cinco años en el mercado, Tucuvi ofrece una solución segura y clínicamente validada con la mejor aceptación de los pacientes (más del 90% de participación de los pacientes en más de 40 protocolos en más de 10 especialidades). Una solución que, en Europa, está certificada como software como dispositivo médico. En los últimos dos años, hemos estado explorando con entusiasmo cómo ampliar el valor que se ofrece a los pacientes y a los equipos de atención mediante la incorporación de los LLM, sin dejar de ser fieles a nuestros principios fundamentales. Este viaje nos llevó a implementar el primer agente clínico híbrido del mercado basado en la IA: LOLA.

Para que LOLA funcione con todo su potencial, es esencial una coordinación perfecta de los múltiples componentes.

1. Orquestador de IA inteligente

En el corazón del sistema de IA de Tucuvi se encuentra un Orquestador de IA, gestionando y dirigiendo de forma dinámica las conversaciones mediante la invocación de agentes especializados para tareas específicas. Esto garantiza que se mantenga la interacción de cada paciente con LOLA clínicamente seguro, estructurado y dentro de las pautas aprobadas. Un Detector fuera del alcance mejora aún más el control al identificar y redirigir las aportaciones de los pacientes que quedan fuera del marco conversacional previsto, evitando la desinformación y centrándose en el contenido clínico validado, al tiempo que preserva un tono empático durante toda la conversación.

Para garantizar una precisión inigualable, cada conversación se somete a un posprocesamiento por parte de un revisor automático que aplica modelos más avanzados que los que se utilizan en tiempo real. Si se marca, una persona al tanto de la interacción revisa más a fondo la interacción y garantiza que la precisión final de la información que se envía a los profesionales de la salud es superior 99,9%.

2. Conversaciones basadas en protocolos

Los flujos conversacionales se diseñan y coordinan meticulosamente en función de directrices validadas clínicamente e interacciones con pacientes en el mundo real. Durante los últimos cinco años, se ha creado un conjunto de datos clínicamente rico recopilando y etiquetando manualmente cientos de miles de conversaciones clínicas reales. Cada concepto y cada respuesta son etiquetado con un código SNOMED-CT, garantizando la plena interoperabilidad entre los sistemas de salud.

Con ID-NER logra más del 95% de precisión y recuperación para más de 250 conceptos médicos (y una precisión media del 98,4%), LOLA garantiza que cada pregunta que se hace y cada respuesta que se da es clínicamente apropiada y relevante, a la vez que aprovecha el poder de los LLM para mantener una conversación.

3. Motor de alerta determinista

La seguridad en la atención médica no se basa solo en la conversación, sino también en las intervenciones oportunas. Nuestro sistema de motor de alertas aprovecha una estructuración predefinida de las alertas, que son deterministas y personalizables para cada paciente. Al incorporar las asignaciones de SNOMED-CT, nuestro sistema garantiza una interoperabilidad perfecta y garantiza que cualquier riesgo clínico potencial se detecte y aborde con prontitud, lo que protege aún más las interacciones con los pacientes.

4. Uso estratégico de los LLM

A diferencia de los sistemas de IA totalmente generativos, que conllevan un riesgo inherente de alucinaciones y salidas impredecibles, este enfoque de IA híbrida integra los LLM en un manera altamente controlada para mejorar las interacciones con los pacientes sin comprometer la precisión clínica.

• Adaptabilidad controlada: Los LLM ayudan a seleccionar la respuesta más relevante desde el punto de vista del contexto, logrando un equilibrio entre la capacidad de respuesta y el control, al tiempo que garantizan la alineación con vías validadas clínicamente.
• Refinamiento de la respuesta: Más allá de la selección, los LLM también se utilizan para reformular las respuestas prediseñadas a fin de adaptarse mejor a las entradas fuera del guion. Cuando las aportaciones de los pacientes se desvían ligeramente de las vías predefinidas, los LLM ayudan a refinar las respuestas estructuradas. sin alterar la intención médica.
• Manejo clínico de alucinaciones sin riesgo: Incluso los LLM más avanzados (como el ajuste fino y el RAG) no puede eliminar alucinaciones por completo. Por eso, el uso que hace Tucuvi de las variantes del LLM por parte de la IA es altamente localizado y contextualizado, y está respaldado por rigurosas salvaguardas deterministas, que garantizan que las interacciones con los pacientes se mantengan 100% seguro, preciso y dentro del alcance ya que están contenidas y no comprometen la seguridad del paciente

‍

‍

‍

A medida que la IA continúa revolucionando la atención médica, garantizando seguridad, confiabilidad y precisión clínica es primordial. Si bien los modelos de IA totalmente generativos han demostrado ser prometedores para mejorar las interacciones en el lenguaje natural, su falta de control determinista y cumplimiento normativo hace que su implementación a escala en aplicaciones empresariales sea riesgosa.

Esta es la razón La IA híbrida está estableciendo un nuevo estándar, combinando marcos estructurados y validados clínicamente con la adaptabilidad de los LLM para crear un sistema de IA que sea a la vez altamente escalable y médicamente confiable.

Con más de cinco años de implementación en el mundo real, La arquitectura de IA híbrida de Tucuvi impulsa a LOLA, un agente clínico de IA confiable y certificado por la CE que se integra perfectamente en los flujos de trabajo de la atención médica, lo que permite gestión de pacientes segura, eficiente e inteligente.

La IA ya desempeña un papel fundamental en apoyo a los equipos clínicos a medida que se enfrentan a desafíos crecientes, desde la escasez de mano de obra ante la creciente demanda de atención al paciente. Al combinar la innovación tecnológica con el rigor médico, la IA híbrida garantiza que los profesionales de la salud tienen las herramientas que necesitan para brindar una atención de alta calidad centrada en el paciente.

‍

‍

Referencias:

• Forbes (2024). Por qué la IA híbrida es la próxima gran novedad en tecnología. Recuperado de https://www.forbes.com/sites/bernardmarr/2024/10/02/why-hybrid-ai-is-the-next-big-thing-in-tech/

‍

‍