Podczas pandemii COVID-19 szpitale w całym kraju działały w ekstremalnym napięciu. Wypalenie zawodowe lekarzy rosło w miarę wzrostu liczby pacjentów, a nieefektywności, które długo były tolerowane, nagle niosły natychmiastowe konsekwencje.
Chociaż narzędzia i technologie już istniały, aby rozwiązać wiele z tych wyzwań operacyjnych, szczególnie w zakresie dokumentacji klinicznej, natura opieki zdrowotnej komplikuje, kiedy i jak wprowadzane są nowe technologie. Dla Nicka F. Hernandeza, Chief Technical Officer w ZyDoc Medical Transcription, kryzys obnażył fundamentalne ograniczenie innowacji w opiece zdrowotnej. Nawet gdy sprawdzona technologia obiecuje ulgę, wprowadzanie jej niesie ze sobą ryzyko, które często ponoszą najpierw klinicyści, a ostatecznie pacjenci.
„Timing jest często traktowany jako kwestia techniczna lub operacyjna, podczas gdy w rzeczywistości jest kwestią etyczną" – mówi Hernandez. „Czekając na idealny moment, możemy nieumyślnie zachować systemy, które już zawodzą ludzi polegających na nich."
Aby wesprzeć pracowników służby zdrowia podczas pandemii, ZyDoc, firma na wczesnym etapie rozwoju skupiająca się na dokumentacji klinicznej i efektywności przepływu pracy, oferowała swoją technologię bez żadnych kosztów, aby pomóc zmniejszyć obciążenie dokumentacją pochłaniające cenny czas kliniczny. „Nie chodziło o przyjęcie produktu czy przychody" – mówi Hernandez. „Chodziło o to, czy sprawdzona technologia może znacząco pomóc klinicystom w opiece nad większą liczbą pacjentów podczas kryzysu."
Wiele szpitali wybrało kontynuację z istniejącymi systemami zamiast wprowadzać nowe narzędzia w środku kryzysu. Zrozumiała i operacyjnie uzasadniona decyzja okazała się pouczająca dla Hernandeza. Wyjaśniła jego pogląd, że skuteczne przywództwo techniczne w opiece zdrowotnej wymaga przewidywania, jak nowa technologia zostanie przyjęta i kto odczuje jej wpływ jako pierwszy.
„Nie pytam tylko, czy to jest technicznie poprawne lub czy to jest niskie ryzyko?" – mówi. „Pytam, jaki jest koszt nierobienia niczego i kto ponosi ten koszt?"
Wyznaczanie granicy między automatyzacją a osądem
To pytanie stało się coraz bardziej pilne, gdy organizacje opieki zdrowotnej rozważają korzyści i ryzyka automatyzacji. Pod presją robienia więcej mniejszymi środkami, sztuczna inteligencja jest często przedstawiana jako rozwiązanie samo w sobie. Hernandez postrzega to ujęcie jako nadmiernie uproszczone i potencjalnie ryzykowne.
„Najtrudniejsze decyzje nie dotyczą tego, co może być zautomatyzowane" – mówi. „Dotyczą tego, co powinno być zautomatyzowane." Systemy AI są skuteczne w redukcji obciążenia poznawczego i obsłudze powtarzalnych zadań, ale nie rozumieją kontekstu, odpowiedzialności ani konsekwencji etycznych w sposób, w jaki robią to ludzie. Zarówno w rozwoju oprogramowania, jak i wsparciu klinicznym, imponujące wyniki AI mogą ukrywać małe błędy, które kumulują się w systemowe ryzyko, jeśli pozostaną niekontrolowane.
„AI powinna zmniejszać obciążenie poznawcze i administracyjne" – mówi Hernandez – „ale nie zastępować ludzkiego osądu tam, gdzie odpowiedzialność, etyka i zaufanie są niezbędne."
Zachowanie ścieżki talentów
Dążenie do automatyzacji stworzyło również mniej widoczny problem. W miarę jak organizacje coraz bardziej polegają na starszych specjalistach wspomaganych przez AI, znikają role dla juniorów i na poziomie podstawowym.
„Coraz bardziej polegamy na starszych talentach wspomaganych przez AI, jednocześnie eliminując role, które tworzą przyszłe starsze talenty" – mówi Hernandez. „To nie jest tylko problem siły roboczej. To problem bezpieczeństwa i odporności." Odpowiedzialna innowacja oznacza projektowanie systemów, które zachowują ścieżki uczenia się.
Systemy opieki zdrowotnej zależą od osądu rozwijanego z czasem i ekspozycji na złożoność rzeczywistego świata. AI może przyspieszyć doświadczonych profesjonalistów, ale nie może zastąpić procesu uczenia się ani zrozumienia, dlaczego systemy zachowują się w określony sposób. Bez celowej inwestycji w rozwój ludzki, organizacje ryzykują stając się produktywnymi na krótką metę, jednocześnie wypaczając wiedzę specjalistyczną kluczową zarówno dla zawodu, jak i dobrobytu społeczeństwa.
Innowacje, które przetrwają rzeczywistość
Dostarczanie innowacji pod presją regulacyjną i kliniczną wymaga tego, co najlepsze od dostawców technologii medycznych. Hernandez polega na trzech praktykach, aby zrównoważyć innowacje z bezpieczeństwem, rygorem i szacunkiem dla środowisk klinicznych, w których wdrażana jest technologia.
Jedną z nich jest opieranie się nadmiernemu inżynierstwu. W opiece zdrowotnej projektowanie dla każdego przypadku brzegowego może zatrzymać postęp, zanim klinicyści kiedykolwiek zobaczą wartość. Hernandez preferuje ograniczone wczesne wersje, które wyraźnie blokują niebezpieczne zachowania i posuwają się naprzód, rozumiejąc, że systemy mogą ewoluować w miarę pojawiania się rzeczywistych potrzeb.
„Nie pozwól, aby perfekcja była wrogiem dobra" – mówi. „Klinicyści potrzebują wartości teraz, a nie teoretycznej kompletności kilka miesięcy później."
Inną najlepszą praktyką jest zwracanie bacznej uwagi na to, kto nie mówi. Inżynierowie i klinicyści często dostrzegają ryzyko wcześnie, ale nie zawsze czują się bezpiecznie lub zaproszeni do ich podnoszenia. Tworzenie przestrzeni dla tych głosów pomaga ujawniać ślepe punkty, które są łatwo pomijane w codziennych przepływach pracy.
Hernandez buduje również zespoły z oczekiwaniem, że złożone problemy nie mają jednej właściwej odpowiedzi. Zachęcając do wczesnych nieporozumień i testowania presją pomysłów z wielu perspektyw, zespoły szybko ujawniają kompromisy i unikają fałszywej pewności przed zobowiązaniem się do drogi naprzód.
CTO jako zarządca systemu
W miarę przyspieszania cykli technologicznych, Hernandez widzi, że rola CTO przesuwa się od głównego architekta do zarządcy systemu. Narzędzia zmieniają się nieustannie, zespoły są kompresowane, a oczekiwania rosną. Ryzyko polega na optymalizacji dla natychmiastowej produktywności przy jednoczesnym niszczeniu fundamentów podtrzymujących długoterminową odporność.
„AI może przyspieszyć doświadczonych profesjonalistów, ale nie zastępuje uczenia się, budowania osądu ani zrozumienia, dlaczego systemy zachowują się w określony sposób" – mówi Hernandez.
Skuteczni liderzy techniczni rozpoznają, że zachowanie ludzkiej zdolności jest teraz podstawową odpowiedzialnością. Organizacje, które inwestują w osąd, kontekst i rozumowanie etyczne, pozostaną odporne w miarę ewolucji narzędzi. Te, które tego nie robią, mogą znaleźć się z wysoce zautomatyzowanymi systemami i nikim, kto naprawdę je rozumie.
Śledź Nicka Hernandeza na LinkedIn, aby uzyskać więcej informacji.
