Ist es ein Versehen, dass KI-Tools viele medizinische Behandlungen ablehnen – oder Absicht. Rosemarie Mosteller/shutterstock.com UnitedHealthcare (UHC) steht nach der Ermordung seines CEO Brian Thompson am 4. Dezember verstärkt in der Kritik. Der Anschlag vor einem Hotel in New York City könnte mit den umstrittenen Praktiken des Unternehmens zusammenhängen. Insbesondere der Einsatz eines angeblich fehlerhaften KI-Algorithmus wird immer wieder bemängelt. Dieser soll Behandlungsanfragen automatisiert ablehnen, teils mit einer 16-mal höheren Rate als üblich. Insbesondere älteren Patienten würde so laut Kritikern wichtige Gesundheitsversorgung verweigert. Die hohen Ablehnungsquoten und Zahlungsausfälle für bestimmte Behandlungen werfen zudem ethische Fragen auf. Viele Fehler und Irregularitäten Bereits seit November 2023 läuft in Minnesota ein Verfahren gegen UHC. Das Unternehmen wird darin beschuldigt, das GenAI-Tool nH Predict eingesetzt zu haben, um Patienten vorzeitig aus Pflegeeinrichtungen zu entlassen. Damit seien sie gezwungen gewesen, die Behandlungen auf eigenen Kosten weiterzuführen, weil diese nicht mehr von UnitedHealth übernommen wurden. Entwickelt wurde das KI-Tool von NaviHealth, einem Teil der UnitedHealth Group, welches Patientendaten analysiert, um personalisiert Pflegebedarf und -dauer vorherzusagen. Laut Klage weist die KI jedoch eine Fehlerquote von 90 Prozent auf, besonders bei älteren und behinderten Patienten. Ihr wird zusätzlich vorgeworfen, ärztliche Entscheidungen zu ignorieren und rechtswidrig Medicare Advantage-Leistungen zu verweigern. Werden bewusst die Schwächsten getäuscht? Laut der Klage nutzte UnitedHealthcare dabei bewusst ein fehlerhaftes KI-Modell, um systematisch Ansprüche abzulehnen. So sei das Unternehmen davon ausgegangen, dass nur 0,2 Prozent der Versicherten gegen solche Entscheidungen Einspruch erheben. Die Mehrheit der Patienten zahle demnach entweder selbst oder verzichte auf notwendige Versorgung. In der Klage wird UHC darüber hinaus vorgeworfen, gezielt die Schwächen von Patienten auszunutzen, etwa den schlechten Gesundheitszustand, das fehlende Wissen und die begrenzten Ressourcen. Die Untersuchung deutet zudem darauf hin, dass UHC Mitarbeiter dazu drängte, den Algorithmus zur Kostensenkung einzusetzen. nH Predict wird seit November 2019 genutzt. Nach Kritik seitens des US-Kongresses wurde die UnitedHealth-Tochter in NaviHealth umbenannt. In einem Bericht kritisierte der US-Senat außerdem, dass UHC und andere Versicherer Profite über die Patientenversorgung stellten.
Bug oder Feature? – Wenn KI die Behandlung verweigert
Ist es ein Versehen, dass KI-Tools viele medizinische Behandlungen ablehnen – oder Absicht. Rosemarie Mosteller/shutterstock.com UnitedHealthcare (UHC) steht nach der Ermordung seines CEO Brian Thompson am 4. Dezember verstärkt in der Kritik. Der Anschlag vor einem Hotel in New York City könnte mit den umstrittenen Praktiken des Unternehmens zusammenhängen. Insbesondere der Einsatz eines angeblich fehlerhaften KI-Algorithmus wird immer wieder bemängelt. Dieser soll Behandlungsanfragen automatisiert ablehnen, teils mit einer 16-mal höheren Rate als üblich. Insbesondere älteren Patienten würde so laut Kritikern wichtige Gesundheitsversorgung verweigert. Die hohen Ablehnungsquoten und Zahlungsausfälle für bestimmte Behandlungen werfen zudem ethische Fragen auf. Viele Fehler und Irregularitäten Bereits seit November 2023 läuft in Minnesota ein Verfahren gegen UHC. Das Unternehmen wird darin beschuldigt, das GenAI-Tool nH Predict eingesetzt zu haben, um Patienten vorzeitig aus Pflegeeinrichtungen zu entlassen. Damit seien sie gezwungen gewesen, die Behandlungen auf eigenen Kosten weiterzuführen, weil diese nicht mehr von UnitedHealth übernommen wurden. Entwickelt wurde das KI-Tool von NaviHealth, einem Teil der UnitedHealth Group, welches Patientendaten analysiert, um personalisiert Pflegebedarf und -dauer vorherzusagen. Laut Klage weist die KI jedoch eine Fehlerquote von 90 Prozent auf, besonders bei älteren und behinderten Patienten. Ihr wird zusätzlich vorgeworfen, ärztliche Entscheidungen zu ignorieren und rechtswidrig Medicare Advantage-Leistungen zu verweigern. Werden bewusst die Schwächsten getäuscht? Laut der Klage nutzte UnitedHealthcare dabei bewusst ein fehlerhaftes KI-Modell, um systematisch Ansprüche abzulehnen. So sei das Unternehmen davon ausgegangen, dass nur 0,2 Prozent der Versicherten gegen solche Entscheidungen Einspruch erheben. Die Mehrheit der Patienten zahle demnach entweder selbst oder verzichte auf notwendige Versorgung. In der Klage wird UHC darüber hinaus vorgeworfen, gezielt die Schwächen von Patienten auszunutzen, etwa den schlechten Gesundheitszustand, das fehlende Wissen und die begrenzten Ressourcen. Die Untersuchung deutet zudem darauf hin, dass UHC Mitarbeiter dazu drängte, den Algorithmus zur Kostensenkung einzusetzen. nH Predict wird seit November 2019 genutzt. Nach Kritik seitens des US-Kongresses wurde die UnitedHealth-Tochter in NaviHealth umbenannt. In einem Bericht kritisierte der US-Senat außerdem, dass UHC und andere Versicherer Profite über die Patientenversorgung stellten.
Bug oder Feature? – Wenn KI die Behandlung verweigert Ist es ein Versehen, dass KI-Tools viele medizinische Behandlungen ablehnen – oder Absicht. Rosemarie Mosteller/shutterstock.com UnitedHealthcare (UHC) steht nach der Ermordung seines CEO Brian Thompson am 4. Dezember verstärkt in der Kritik. Der Anschlag vor einem Hotel in New York City könnte mit den umstrittenen Praktiken des Unternehmens zusammenhängen. Insbesondere der Einsatz eines angeblich fehlerhaften KI-Algorithmus wird immer wieder bemängelt. Dieser soll Behandlungsanfragen automatisiert ablehnen, teils mit einer 16-mal höheren Rate als üblich. Insbesondere älteren Patienten würde so laut Kritikern wichtige Gesundheitsversorgung verweigert. Die hohen Ablehnungsquoten und Zahlungsausfälle für bestimmte Behandlungen werfen zudem ethische Fragen auf. Viele Fehler und Irregularitäten Bereits seit November 2023 läuft in Minnesota ein Verfahren gegen UHC. Das Unternehmen wird darin beschuldigt, das GenAI-Tool nH Predict eingesetzt zu haben, um Patienten vorzeitig aus Pflegeeinrichtungen zu entlassen. Damit seien sie gezwungen gewesen, die Behandlungen auf eigenen Kosten weiterzuführen, weil diese nicht mehr von UnitedHealth übernommen wurden. Entwickelt wurde das KI-Tool von NaviHealth, einem Teil der UnitedHealth Group, welches Patientendaten analysiert, um personalisiert Pflegebedarf und -dauer vorherzusagen. Laut Klage weist die KI jedoch eine Fehlerquote von 90 Prozent auf, besonders bei älteren und behinderten Patienten. Ihr wird zusätzlich vorgeworfen, ärztliche Entscheidungen zu ignorieren und rechtswidrig Medicare Advantage-Leistungen zu verweigern. Werden bewusst die Schwächsten getäuscht? Laut der Klage nutzte UnitedHealthcare dabei bewusst ein fehlerhaftes KI-Modell, um systematisch Ansprüche abzulehnen. So sei das Unternehmen davon ausgegangen, dass nur 0,2 Prozent der Versicherten gegen solche Entscheidungen Einspruch erheben. Die Mehrheit der Patienten zahle demnach entweder selbst oder verzichte auf notwendige Versorgung. In der Klage wird UHC darüber hinaus vorgeworfen, gezielt die Schwächen von Patienten auszunutzen, etwa den schlechten Gesundheitszustand, das fehlende Wissen und die begrenzten Ressourcen. Die Untersuchung deutet zudem darauf hin, dass UHC Mitarbeiter dazu drängte, den Algorithmus zur Kostensenkung einzusetzen. nH Predict wird seit November 2019 genutzt. Nach Kritik seitens des US-Kongresses wurde die UnitedHealth-Tochter in NaviHealth umbenannt. In einem Bericht kritisierte der US-Senat außerdem, dass UHC und andere Versicherer Profite über die Patientenversorgung stellten.
