Amdocs hat in Zusammenarbeit mit NVIDIA bedeutende Fortschritte bei der Einführung von generativer KI in der 1,7 Billionen Dollar schweren Telekommunikationsbranche erzielt. In der jüngsten Phase dieser Zusammenarbeit wurden bedeutende Fortschritte auf dem Weg zu echten Carrier-Scale-Produktionsmöglichkeiten erzielt, die Latenz, Genauigkeit und Token-Verbrauch umfassen. Amdocs hat eng mit NVIDIA zusammengearbeitet, um den umfassenden KI-Foundry-Service von NVIDIA zu integrieren - eine Sammlung von NVIDIA AI Foundation Models, NVIDIA NeMo?

Framework und Tools, und NVIDIA DGX? Cloud, die Unternehmen eine End-to-End-Lösung für die Erstellung individueller generativer KI-Modelle bietet - mit der generativen KI-Plattform von Amdocs, amAIz. Die Zusammenarbeit konzentriert sich auf die Nutzung generativer KI, um das Kundenerlebnis zu verbessern und die betriebliche Effizienz zu steigern.

Amdocs nutzte NVIDIA DGX? Cloud, um mehrere Modelle zu testen und abzustimmen, während NVIDIA NIM Microservices, ein Teil der NVIDIA AI Enterprise Software-Plattform, zur schnellen Bereitstellung von Modellen für nahtlose, skalierbare Inferenzen mit Industriestandard-APIs verwendet wurde. In gemeinsamen GenAI-Projekten, die die Telco-Taxonomie und die generative KI-Expertise von Amdocs nutzen, hat die Zusammenarbeit zu folgenden Ergebnissen geführt: Geringere Betriebskosten: Die Telekommunikations-Retrieval-Augmented Generation (RAG) von Amdocs auf der NVIDIA-Infrastruktur hat es ermöglicht, die Anzahl der verbrauchten Token für die eingesetzten Anwendungsfälle um bis zu 60 % bei der Datenvorverarbeitung und 40 % bei der Inferenzierung zu reduzieren und dabei das gleiche Maß an Genauigkeit bei deutlich geringeren Kosten pro Token zu bieten, je nach den verschiedenen Einflüssen und dem verwendeten Volumen.

Verbesserungen bei der Latenz: Durch die Zusammenarbeit konnte die Abfrage-Latenzzeit um ca. 80% reduziert werden, so dass die Endnutzer Antworten nahezu in Echtzeit erhalten. Diese Beschleunigung verbessert die Benutzererfahrung in den Bereichen Handel, Pflege, Betrieb und darüber hinaus. Verbesserte Genauigkeit: Die Zusammenarbeit hat auch zu einer bemerkenswerten Steigerung der Genauigkeit der von der KI generierten Antworten geführt, und zwar um bis zu 30%.

Diese Art der Verbesserung ist entscheidend für eine breite Akzeptanz in der Telekommunikationsbranche und für die Erfüllung der Anforderungen von generativen KI-Direktdiensten für Verbraucher.