New York, San Francisco. Mercedes-Benz will die Sprachsteuerung seiner Fahrzeuge verbessern und erprobt hierfür den Textroboter ChatGPT des Microsoft-Partners OpenAI. Wie der Autohersteller am Donnerstag mitteilte, soll schon an diesem Freitag eine entsprechende Testphase starten.

Teilnehmen können demnach Mercedes-Kunden in den USA, deren Autos mit dem Infotainmentsystem MBUX ausgestattet sind: mehr als 900.000 Fahrzeuge. Die Anmeldung soll per App möglich sein.

Fahrer, die die Sprachsteuerung per Befehl „Hey Mercedes“ aufrufen, sollen dank künstlicher Intelligenz (KI) „noch intuitiver“ mit dem Auto kommunizieren können. Der Sprachassistent solle Interessantes zu Zielorten erzählen können, neue Rezeptideen vorschlagen oder Wissensfragen klären. Das Besondere an ChatGPT ist nicht nur, dass komplizierte Eingaben verstanden werden können, sondern auch, dass längere Dialoge mit weiteren Nachfragen möglich sind.

Jetzt Handelsblatt Premium zum Vorteilspreis sichern - Zum Angebot

„Die Integration von ChatGPT ist ein echter Meilenstein auf unserem Weg, das Auto zum Mittelpunkt des digitalen Lebens zu machen“, erklärte Mercedes-Technologievorstand Markus Schäfer. Das Pilotprogramm erweitere bestehende „Funktionen wie die Navigationseingabe, die Wetterabfrage und andere um die Fähigkeiten von ChatGPT“, um „Gespräche mit natürlichen Dialogen und Folgefragen“ möglich zu machen.

Das System könnte mit weiteren Funktionen ausgestattet werden, um etwa einen Tisch im Restaurant zu buchen oder ein Ticket für das Kino zu kaufen, sagte der KI-Chef der Cloud-Spare von Microsoft, Eric Boyd. Schon jetzt laufen für das System im Hintergrund die leistungsstärksten Sprachmodelle von OpenAI: GPT-4 und GPT-3.5.

Die Testphase der KI-Sprachsteuerung ist zunächst auf drei Monate begrenzt. Basierend auf den Ergebnissen dieses Beta-Tests prüfe Mercedes, ob ein großes Sprachmodell für ein „dialogisches Kommunizieren“ zukünftig in seinen Fahrzeugen angeboten werden soll, sagte ein Sprecher auf Handelsblatt-Anfrage. „Wir starten hier mit ChatGPT, da dies im Moment das marktführende Modell ist.“

Kampf gegen Halluzinationen

Ein Thema, das neben ChatGPT auch alle anderen Anbieter von großen Sprachmodellen umtreibt, sind sogenannte Halluzinationen: Irrtümer und Falschaussagen der KI. Im Auto, wo sich Fahrer auf die Straßenlage konzentrieren müssen, wären solche besonders problematisch.

Mercedes erprobt einen besonderen Weg, um Halluzinationen zurückzudrängen: Das eigene System übernimmt eine Gegenprüfung der KI-Angaben. „Um Halluzinationen auszuschließen, setzen wir auf einen Plausibilitätscheck der Ausgaben von ChatGPT“, erklärte der Sprecher. So solle die Mercedes Intelligent Cloud sogenannte „Point of Interest“-Empfehlungen – also Hinweise auf Restaurants, Tankstellen oder andere Zielorte – daraufhin gegenprüfen, ob diese Orte auch wirklich existieren.

Mercedes nutze hierbei eigene validierte Daten und zum Beispiel Suchergebnisse von Google, heißt es in Konzernkreisen. Man habe „zu jeder Zeit die Hoheit über die IT-Prozesse im Hintergrund“, betonte der Autobauer.

Erfundene Aussagen vor Gericht

Fehler und Falschaussagen sind das größte Problem für den massenhaften Einsatz von großen Sprachmodellen wie GPT-4. Trotz der immer besseren sprachlichen Qualität von Modellen von Firmen wie OpenAI, produzieren diese regelmäßig frei erfundene Aussagen oder sie erfinden komplette Quellen.

Trotzdem setzen etliche Unternehmen die Software bereits ein – mit teilweise gravierenden Folgen. Der Anwalt Steven A. Schwartz aus New York wurde in einem Gerichtsverfahren dabei überführt, wie er nicht nur ChatGPT hatte Dokumente erstellen lassen, sondern dabei auch dramatische Fehler übernommen hatte.

Schwartz hatte einen Mandanten in einem Verfahren gegen die Fluggesellschaft Avianca vertreten. Bei einem Flug soll sein Klient von einem Flugzeug-Trolley am Knie verletzt worden sein. In den vor Gericht eingereichten Dokumenten zitierte Schwartz aus angeblichen anderen Fällen, die eine Entschädigung für seinen Mandanten untermauern sollten.

Der Richter prüfte die Unterlagen, konnte die zitierten Fälle aber nicht finden. Auf Nachfrage räumte Schwarz ein, die Fälle habe ihm ChatGPT präsentiert und er habe sie nicht nachgeprüft. Richter P. Kevin Castel schrieb: „Sechs der vorgelegten Fälle scheinen gefälschte Gerichtsentscheidungen mit gefälschten Zitaten und gefälschten internen Verweisen zu sein.“

Tech-Konzerne wie Microsoft und Google arbeiten mit hunderten Fachleuten daran, die Fehleranfälligkeit der Systeme zu reduzieren. Microsoft-CEO Satya Nadella räumte aber ein: „Die Ergebnisse sind noch nicht 100 Prozent verlässlich.“ Sowohl in der Vorstellung der KI-Systeme bei Google als auch bei Microsoft enthielten die sorgfältig ausgewählten Fallbeispiele falsche Zahlen oder fehlerhafte Aussagen.

Jetzt Handelsblatt Premium zum Vorteilspreis sichern - Zum Angebot

Jetzt Handelsblatt Premium zum Vorteilspreis sichern - Zum Angebot