Die Gesundheitsdienstleister und Kostenträger folgen den Verpflichtungen von 15 führenden KI-Unternehmen, darunter Google, OpenAI und OpenAI-Partner Microsoft, KI-Modelle verantwortungsvoll zu entwickeln.

Bidens Regierung drängt darauf, die Rahmenbedingungen für KI festzulegen, da diese rasant an Fähigkeiten und Popularität gewinnt, während die Regulierung begrenzt bleibt.

"Die Regierung setzt alle Hebel in Bewegung, um verantwortungsvolle KI in gesundheitsrelevanten Bereichen voranzutreiben", sagte der Beamte des Weißen Hauses und fügte hinzu, dass KI ein enormes Potenzial zum Nutzen von Patienten, Ärzten und Krankenhauspersonal hat, wenn sie verantwortungsvoll eingesetzt wird.

Biden erließ am 30. Oktober eine Durchführungsverordnung, die Entwickler von KI-Systemen, die Risiken für die nationale Sicherheit der USA, die Wirtschaft, die öffentliche Gesundheit oder die Sicherheit darstellen, dazu verpflichtet, die Ergebnisse von Sicherheitstests mit der Regierung zu teilen, bevor sie an die Öffentlichkeit gelangen.

Zu den Anbietern, die die Verpflichtungen unterzeichnet haben, gehören Oscar, Curai, Devoted Health, Duke Health, Emory Healthcare und WellSpan Health, sagte der Beamte des Weißen Hauses in einer Erklärung.

"Wir müssen wachsam bleiben, um das Versprechen der KI zur Verbesserung der Gesundheitsergebnisse zu verwirklichen", sagte der Beamte. "Ohne angemessene Tests, Risikominderung und menschliche Aufsicht können KI-gestützte Werkzeuge, die für klinische Entscheidungen eingesetzt werden, Fehler machen, die im besten Fall kostspielig und im schlimmsten Fall gefährlich sind.

Ohne angemessene Aufsicht können KI-Diagnosen aufgrund von Geschlecht oder Rasse verzerrt sein, insbesondere wenn die KI nicht auf Daten trainiert wurde, die die zu behandelnde Bevölkerung repräsentieren, so der Beamte.

Die Prinzipien, die dem Plan der Regierung zugrunde liegen, verlangen von den Unternehmen, dass sie die Nutzer informieren, wenn sie Inhalte erhalten, die größtenteils von KI generiert und nicht von Menschen überprüft oder bearbeitet wurden, und dass sie die Schäden, die Anwendungen verursachen könnten, überwachen und beheben.

Unternehmen, die die Verpflichtungserklärung unterzeichnen, verpflichten sich, KI-Anwendungen verantwortungsvoll zu entwickeln. Dazu gehören Lösungen, die die gesundheitliche Chancengleichheit fördern, den Zugang zur Versorgung erweitern, die Versorgung erschwinglich machen, die Versorgung koordinieren, um die Ergebnisse zu verbessern, das Burnout von Ärzten reduzieren und die Erfahrungen der Patienten verbessern.