Kooperation bei Conversational AI

„Unsere Partnerschaft mit SiMa.ai ist ein bedeutender Schritt nach vorn bei der Bereitstellung effizienter On-Device-KI für aktuelle und zukünftige Fahrzeuggenerationen“, so Nils Schanz, Executive Vice President Product & Technology bei Cerence AI. „Innerhalb von Cerence xUI bietet CaLLM Edge fortschrittliches Reasoning, mehrstufige Konversationen und proaktive Interaktion, die alle nahtlos auf dem MLSoC Modalix laufen. Dank plattformübergreifender Kompatibilität und Hardware-Flexibilität ermöglichen wir OEMs eine schnelle Anpassung, reduzieren die Komplexität und setzen maßgeschneiderte In-Car-Assistenten auf verschiedenen Fahrzeugplattformen ein.“

Die Integration von CaLLM Edge in die Modalix-Plattform von SiMa.ai erfüllt die Anforderungen von Automobilherstellern und Endnutzern gleichermaßen. Sie bietet eine robuste und leistungsstarke technische Grundlage für KI am Edge im Fahrzeug. Die hybride KI von Cerence ermöglicht effiziente und flüssige Übergänge zwischen Edge- und Cloud-Ausführung und ist damit eine wichtige Voraussetzung für eine unterbrechungsfreie, hochwertige Conversational User Experience. Durch die Nutzung von Cerence xUI auf MLSoC Modalix können OEMs die dialogorientierte Benutzererfahrung optimieren, indem sie multimodale Interaktionen in Echtzeit sowie die Verarbeitung von Sensoreingaben und Conversational Inference mit branchenführender Energieeffizienz direkt auf dem Gerät bereitstellen.

Heutige Autofahrer erwarten, dass Funktionen überall verfügbar sind. Das setzt die OEMs unter Druck, intelligente und zuverlässige Lösungen zu bieten. Allerdings sind reine Cloud-Lösungen stark von der Konnektivität abhängig und können bei Verbindungsausfällen die Nutzererfahrung verschlechtern. Die hybride KI-Architektur von Cerence löst diese Herausforderungen, indem sie eingebettete KI für extrem niedrige Latenzzeiten und verbesserten Datenschutz mit umfangreichen, kontextbezogenen Informationen aus der Cloud kombiniert. Mit CaLLM Edge auf Modalix ist das KI-Erlebnis für den Endnutzer im Fahrzeug schneller, reaktionsschneller, gesprächsorientierter und unabhängig von der Konnektivität verfügbar.

Für viele Automobilhersteller sind erhöhte Flexibilität und Ausfallsicherheit wichtige Faktoren. Da OEMs mit einer zunehmenden Komplexität der Plattformen sowie mit Schwankungen in der Lieferkette konfrontiert sind, wächst der Bedarf an flexibler Hardware und kosteneffizienter Leistung. CaLLM Edge wurde für plattformübergreifende Kompatibilität entwickelt und läuft effizient auf einer Vielzahl von Hardware-Architekturen. Durch die Aufnahme von MLSoC Modalix in das Plattform-Ökosystem von Cerence AI erhalten OEMs nun Zugang zu einer kompakten, energieeffizienten und skalierbaren Edge-Lösung, welche die Flexibilität bei der Bereitstellung erhöht.

„Das ultimative Ziel ist eine Sprachsteuerung, die den Nutzer so versteht wie ein Mensch. LLMs können diese Fähigkeit zwar bieten, sind jedoch in der Regel auf die Cloud oder leistungsstarke Grafikkarten angewiesen“, sagt Harald Kröger, President of Automotive bei SiMa.ai. „Gemeinsam bieten SiMa.ai und Cerence einen Durchbruch: ein serienreifes Gerät, das außergewöhnliche Leistung bei hervorragender Energieeffizienz bietet. In Kombination mit der LLiMa™-Toolchain reduziert es den Integrationsaufwand erheblich und beschleunigt die Entwicklungszeit“, fügte er hinzu.