La investigación sobre la sanidad canadiense se intensifica mientras los errores del informe de Deloitte generan nuevas preocupaciones sobre la IA en el trabajo de políticas

El escrutinio creciente de la investigación de políticas públicas se intensifica después de que se descubrieran errores en el informe de Deloitte en una revisión de alto perfil del sistema sanitario canadiense.

¿Cómo surgieron los problemas vinculados a la IA en la revisión sanitaria de Terranova y Labrador?

Un análisis sanitario encargado por el gobierno canadiense a Deloitte, con un coste de casi $1.6 millones, contiene inexactitudes aparentemente generadas por IA, según una investigación de The Independent. El documento de 526 páginas, publicado por el gobierno de Terranova y Labrador en mayo, representa uno de los contratos de consultoría más caros recientes en el sector sanitario de la provincia.

El informe fue preparado para el entonces Departamento de Salud y Servicios Comunitarios dirigido por los liberales. Examinó la atención virtual, los incentivos de retención y el impacto de la pandemia de COVID-19 en los trabajadores sanitarios, en un momento en que Terranova y Labrador enfrenta graves escaseces de enfermeras y médicos. Sin embargo, la posterior revisión mediática ha planteado dudas sobre la fiabilidad de las evidencias que respaldan esas recomendaciones.

The Independent, un medio progresista centrado en la provincia más oriental de Canadá, encontró múltiples inexactitudes potenciales y anomalías. Además, su investigación sugiere que algunas de las citas de investigación subyacentes pueden haber sido producidas o distorsionadas con la ayuda de herramientas de inteligencia artificial, aunque la narrativa principal no fue escrita por máquinas.

¿Qué tipos de errores en el informe sanitario canadiense descubrieron los investigadores?

Según The Independent, el informe de Deloitte incluía citas académicas falsas que hacían referencia a artículos académicos inventados. Esas fuentes ficticias se utilizaron para respaldar análisis de coste-efectividad, un componente crítico en la configuración de decisiones de gasto sanitario. El informe también atribuyó erróneamente a investigadores reales estudios en los que nunca habían trabajado, creando la apariencia de evidencia sólida donde no existía.

Algunas citas fueron más allá, describiendo artículos supuestamente coescritos por investigadores que afirmaron que nunca habían colaborado. Dicho esto, la revisión no afirmó que cada referencia fuera defectuosa. En cambio, la preocupación se centra en un patrón de problemas de citación que podrían socavar la confianza en las conclusiones del informe sobre personal, atención virtual y reforma del sistema.

El informe también citó un artículo supuestamente publicado en la Revista Canadiense de Terapia Respiratoria. Sin embargo, los investigadores no pudieron localizar el artículo en la base de datos de la revista, profundizando los temores de que las herramientas generativas puedan haber inventado fuentes que suenan plausibles pero inexistentes.

¿Cómo ha respondido Deloitte a las acusaciones de citas generadas por IA?

En una declaración a Fortune, un portavoz de Deloitte Canadá defendió la sustancia del trabajo. "Deloitte Canadá respalda firmemente las recomendaciones presentadas en nuestro informe", dijo el portavoz. "Estamos revisando el informe para hacer un pequeño número de correcciones de citas, que no afectan a los hallazgos del informe".

El portavoz añadió que la inteligencia artificial no produjo el informe escrito en sí. En cambio, dijeron, la IA fue "utilizada selectivamente para apoyar un pequeño número de citas de investigación". Sin embargo, dado el alcance del estudio sanitario y lo que está en juego financieramente, los críticos argumentan que incluso la dependencia limitada de referencias generadas por máquinas exige una verificación y transparencia mucho más estrictas.

Además, la posición de la firma de que las correcciones de citas no afectan las conclusiones del informe ha generado escrutinio. Algunos académicos y formuladores de políticas cuestionan cómo la investigación fabricada o mal atribuida puede corregirse sin reevaluar ningún modelo de coste-efectividad derivado o proyecciones de fuerza laboral.

¿Qué dicen los investigadores afectados sobre el proceso de verificación de hechos de la firma consultora?

Gail Tomblin Murphy, profesora adjunta en la Escuela de Enfermería de la Universidad Dalhousie en Nueva Escocia, estaba entre los citados incorrectamente. Le dijo a The Independent que Deloitte la había referenciado en un artículo académico que "no existe". Señaló que solo había trabajado con tres de los otros seis autores atribuidos en la cita falsa, no con todo el grupo descrito.

"Parece que si están presentando cosas como esta, pueden estar usando bastante intensamente la IA para generar trabajo", dijo Tomblin Murphy. Sus comentarios destacan la creciente inquietud en la comunidad académica sobre cómo las herramientas generativas pueden fabricar bibliografías convincentes pero inexactas, especialmente cuando los consultores no verifican rigurosamente cada referencia.

Además, advirtió que los informes que guían las políticas públicas deben estar respaldados por evidencia validada y de alta calidad. Además, Tomblin Murphy enfatizó que los gobiernos y el público pagan sumas significativas por dicho trabajo, por lo que debe ser "preciso, informado por evidencia y útil para avanzar". Su crítica subraya una percibida ruptura en la diligencia debida más que un simple error técnico.

¿Cuánto costó el informe encargado por el gobierno y cuáles son las consecuencias políticas?

Según una solicitud de acceso a la información publicada en un blog el miércoles pasado, el gobierno canadiense pagó poco menos de $1.6 millones por el estudio de Deloitte, emitido en ocho entregas. Hasta el lunes, el informe seguía disponible en el sitio web del gobierno de Terranova y Labrador, a pesar de la controversia emergente sobre sus referencias y metodología.

El liderazgo político en la provincia ha cambiado desde que se entregó el informe. Tony Wakeham, líder del Partido Conservador Progresista en Terranova y Labrador, juró como nuevo premier de la provincia a finales de octubre. Sin embargo, ni la oficina del premier ni el Departamento de Salud y Servicios Comunitarios respondieron inmediatamente a las preguntas de Fortune sobre el informe de mayo, y no han abordado públicamente las preocupaciones hasta la fecha.

Ese silencio deja abiertas preguntas sobre si las recomendaciones del informe continuarán guiando la política sanitaria. También plantea la perspectiva de un mayor escrutinio por parte de legisladores provinciales u organismos de supervisión federales sobre cómo se verifica la investigación de las firmas consultoras antes de influir en los servicios públicos fundamentales.

¿Cómo se comparan estos errores del informe de Deloitte con el caso de bienestar australiano?

Las revelaciones canadienses siguen problemas similares en Australia. En julio, Deloitte produjo un informe de $290,000 para ayudar al gobierno australiano a endurecer el cumplimiento del bienestar. El estudio de 237 páginas también se basó en tecnología generativa y posteriormente se descubrió que contenía "alucinaciones", incluidas referencias a investigaciones académicas inexistentes y una cita fabricada de un juicio de la corte federal.

Después de que un investigador señalara los problemas, Deloitte emitió una versión revisada del estudio australiano. El informe actualizado, subido discretamente el mes pasado al sitio web del gobierno, reconoció que la firma había utilizado el sistema de lenguaje generativo Azure OpenAI para ayudar a crear el documento inicial. Esa admisión llegó solo después de que el escrutinio externo expusiera las citas defectuosas.

En el informe australiano actualizado, Deloitte escribió que "las actualizaciones realizadas de ninguna manera impactan o afectan el contenido sustantivo, los hallazgos y las recomendaciones del informe". Sin embargo, los críticos argumentaron que las fuentes fabricadas inherentemente arrojan dudas sobre la integridad de cualquier recomendación basada en evidencia, no solo detalles cosméticos. Además, este segundo episodio ha intensificado el debate sobre las alucinaciones de IA de Deloitte y la robustez de la verificación interna de hechos de la firma.

¿Qué consecuencias financieras ha enfrentado Deloitte y qué queda sin resolver para Canadá?

Como parte del caso australiano, se requirió que la firma miembro local de Deloitte proporcionara al gobierno federal un reembolso parcial por el informe de bienestar defectuoso. Esa penalización financiera señaló que los funcionarios consideraron las inexactitudes relacionadas con la IA lo suficientemente graves como para justificar una compensación.

En contraste, aún no se ha hecho pública ninguna información sobre cualquier posible reembolso o remedio contractual relacionado con el informe sanitario de Canadá. Dicho esto, la presión puede crecer a medida que los formuladores de políticas, trabajadores sanitarios y contribuyentes preguntan si recibieron el valor completo por un estudio que ahora necesita correcciones posteriores a la publicación en su base de evidencia.

En términos más amplios, ambos episodios destacan los crecientes riesgos cuando los gobiernos confían en grandes consultorías que utilizan tecnología generativa sin salvaguardias estrictas. También sugieren que las instituciones públicas necesitarán estándares más fuertes para verificar fuentes, especialmente en informes de políticas largos y complejos que pueden dar forma a servicios críticos durante años.

En resumen, el escrutinio en desarrollo de la revisión sanitaria canadiense de Deloitte y el estudio de bienestar australiano subraya la necesidad urgente de evidencia confiable, metodología transparente y supervisión robusta siempre que la investigación asistida por IA informe las decisiones de políticas públicas.