Google schaltet KI Gemma ab: Halluzinationen sorgen für Wirbel

Ein unerwarteter KI-Fehler hat Google in die Bredouille gebracht: Das Modell Gemma hat falsche Vorwürfe gegen eine US-Politikerin erhoben und damit einen politischen Sturm entfacht.

Der Vorfall im Detail

Google hat kürzlich sein neues KI-Modell Gemma vorgestellt, das als offenes System für Entwickler gedacht war. Doch kaum war es online, kam es zu einem peinlichen Zwischenfall. Die KI generierte falsche Informationen über die republikanische Senatorin Marsha Blackburn. Sie warf ihr vor, an einem umstrittenen Programm beteiligt gewesen zu sein, was sich als reine Halluzination herausstellte.

Politische Konsequenzen

Der Wirbel begann, als Nutzer die KI fragten und sie mit erfundenen Fakten antwortete. Blackburn, eine prominente Figur in der US-Politik, reagierte empört und forderte Erklärungen von Google. Der Vorfall heizte die Debatte über die Zuverlässigkeit von KI-Systemen an, insbesondere in einem Land, wo Technologie und Politik eng verknüpft sind. Republikaner warfen Google Voreingenommenheit vor, was den Konzern unter Druck setzte.

Googles Reaktion

Angesichts des wachsenden Drucks entschied sich Google, Gemma vorerst abzuschalten. Ein Sprecher des Unternehmens erklärte, dass das Modell nie für die breite Öffentlichkeit vorgesehen war und interne Tests ergaben, dass weitere Anpassungen notwendig seien. Google betonte, dass Halluzinationen ein bekanntes Problem bei KI-Modellen seien und man intensiv daran arbeite, die Genauigkeit zu verbessern. Dennoch bleibt die Frage, wie solche Fehler in Zukunft vermieden werden können.

Technische Hintergründe

Gemma basiert auf fortschrittlichen Sprachmodellen, ähnlich wie GPT-Modelle. Halluzinationen entstehen, wenn die KI Muster aus Trainingsdaten kombiniert und dabei Fakten erfindet. Experten warnen, dass dies besonders bei sensiblen Themen wie Politik zu Problemen führen kann. Google plant, das Modell mit besseren Filtern auszustatten, bevor es wieder online geht.

Fazit

Am Ende des Tages zeigt der Gemma-Vorfall, dass KI manchmal mehr Fantasie hat als ein Hollywood-Drehbuchautor – nur dass hier die Stars nicht lachen, sondern klagen. Google lernt daraus: Besser abschalten, bevor die Halluzinationen die Realität überholen und Politiker zu Superhelden oder Schurken machen, die sie nie waren.