Das Labor für künstliche Intelligenz OpenAI bildet ein neues Team, um demokratische Prozesse zu schaffen, die die Steuerung seiner KI-Software beeinflussen sollen, um Voreingenommenheit und andere Faktoren zu berücksichtigen, so das von Microsoft unterstützte Unternehmen in einem Blogbeitrag am Dienstag.

Das "Collective Alignment"-Team ist eine Fortsetzung der Arbeit eines Förderprogramms zur Finanzierung von Experimenten mit demokratischen Prozessen, das im Mai 2023 angekündigt wurde, so das in San Francisco ansässige Unternehmen. Das Programm wurde kürzlich abgeschlossen.

"Da wir unsere Mission in Richtung superintelligenter Modelle weiterverfolgen, die potenziell als integraler Bestandteil unserer Gesellschaft angesehen werden könnten, ist es wichtig, den Menschen die Möglichkeit zu geben, sich direkt einzubringen", sagte Tyna Eloundou, ein Forschungsingenieur und Gründungsmitglied des neuen OpenAI-Teams, gegenüber Reuters.

Um zum Beispiel sicherzustellen, dass nur Menschen abstimmen können, könnte OpenAI mit Worldcoin zusammenarbeiten, einem von OpenAI-CEO Sam Altman gegründeten Kryptowährungsprojekt, das eine Möglichkeit bietet, zwischen Menschen und KI-Bots zu unterscheiden, sagte Teddy Lee, ein Produktmanager, der das andere Mitglied des zweiköpfigen Teams ist.

Lee merkte an, dass das Team noch keine konkreten Pläne für die Integration von Worldcoin gemacht hat.

Seit OpenAI Ende 2022 ChatGPT auf den Markt gebracht hat, hat die generative KI-Technologie, die aus Textaufforderungen unheimlich autoritative Prosa spinnen kann, die Öffentlichkeit in ihren Bann gezogen und das Programm zu einer der am schnellsten wachsenden Apps aller Zeiten gemacht.

Es gibt jedoch Bedenken hinsichtlich der Fähigkeit der KI, "Deepfake"-Bilder und andere Fehlinformationen zu erstellen, insbesondere im Vorfeld des US-Wahlkampfs 2024. Kritiker sagen, dass KI-Systeme wie ChatGPT aufgrund der Eingaben, die zur Bildung ihrer Ansichten verwendet werden, eine inhärente Voreingenommenheit aufweisen, und Nutzer haben Beispiele für rassistische oder sexistische Ausgaben von KI-Software gefunden.

Das neue OpenAI-Team ist aktiv auf der Suche nach einem Forschungsingenieur und einem Wissenschaftler, sagte Eloundou. Das Team wird eng mit dem "Human Data"-Team von OpenAI zusammenarbeiten, das die Infrastruktur für die Sammlung menschlicher Beiträge zu den KI-Modellen des Unternehmens aufbaut, sowie mit anderen Forschungsteams. (Berichterstattung von Anna Tong in San Francisco; Redaktion: Paul Simao)