Die Schwachstelle in Gemini in Gmail ermöglicht es Hackern, betrügerische Websites und Telefonnummern zu teilen.
Google setzt auf seine künstliche Intelligenz Gemini und integriert sie in verschiedene Anwendungen seines Ökosystems, wie beispielsweise Gmail. Die KI soll die Benutzererfahrung verbessern, indem sie Zusammenfassungen von E-Mails bereitstellt. Die jüngste Entdeckung eines Cybersicherheitsexperten zeigt jedoch, dass Gemini eine Sicherheitslücke aufweist, die Gmail-Nutzer dem Risiko von Cyberkriminellen aussetzen kann.
Millionen von Unternehmen nutzen Google Workspace, um auf Premium-Versionen von Gmail, Kalender, Drive, Meet und anderen Diensten zuzugreifen. Dieses Abonnement bietet KI-Funktionen, die die Arbeit der Mitarbeiter beschleunigen, aber Cybersicherheitsexperten haben entdeckt, dass die E-Mail-Zusammenfassungsfunktion es Hackern ermöglicht, Phishing-Befehle zu verbergen.
Laut einem am 10. Juli 2025 veröffentlichten Bericht von 0DIN können Angreifer diese Schwachstelle ausnutzen, um unsere Nachrichten zu lesen, ohne auf einen Link klicken oder Anhänge öffnen zu müssen. Der Cybersicherheitsexperte erklärt, dass der Angriff darin besteht, HTML und CSS in E-Mails einzufügen.
Cyberkriminelle verstecken den Code, indem sie weißen Text auf weißem Hintergrund platzieren oder eine Schriftgröße von Null verwenden, aber Gemini verarbeitet ihn beim Erstellen von Zusammenfassungen. In der Veröffentlichung von 0DIN wird detailliert beschrieben, dass die KI diesen eingebetteten Code als falsche Warnung erkennt, die von Google selbst stammt. Wenn Nutzer also die Funktion „Zusammenfassung dieses E-Mail-Codes in Gmail” verwenden, zeigt Gemini eine betrügerische Nachricht an.
Die künstliche Intelligenz von Google fordert den Nutzer auf, eine gefälschte Nummer des technischen Supports anzurufen oder eine Phishing-Website zu besuchen. Da die E-Mail harmlos aussieht, weisen Sicherheitsforscher darauf hin, dass Nutzer den Betrug wahrscheinlich nicht bemerken werden.
Cyberkriminelle fügen versteckten Code ein, damit Gemini den Nutzer dazu veranlasst, die Nummer anzurufen oder die betrügerische Website aufzurufen.
Gemini wird zum Komplizen des Betrugs
Herkömmliche Phishing-Versuche enthalten in der Regel Links zu schädlichen Websites oder Dateien, die Schadsoftware enthalten. E-Mails, die die Schwachstelle von Gemini ausnutzen, sehen jedoch völlig normal aus und enthalten nichts Verdächtiges, das den Nutzer alarmieren könnte.
Der Nutzer wird durch die künstliche Intelligenz von Gemini getäuscht, die als „Komplize” der Angreifer fungiert und den versteckten Code interpretiert. Das heißt, es ist die vom KI generierte Zusammenfassung, die dazu auffordert, die Nummer anzurufen oder dem Link zu folgen. Da dieses Tool theoretisch sicher ist, vertrauen die Mitarbeiter ihm und befolgen die Empfehlungen von Gemini. Daher sollten Sie vorsichtig sein und solche Anweisungen ignorieren. Eine Möglichkeit, dies zu erkennen, besteht darin, den gesamten Text zu markieren und zu überprüfen, ob versteckter Code vorhanden ist, wie in der Abbildung unten gezeigt.
So können Sie feststellen, ob versteckter schädlicher Code für Gemini eingefügt wurde.
Ein Cybersicherheitsforscher, dessen Entdeckung auf 0DIN veröffentlicht wurde, warnt davor, dass die Interpretation des eingebetteten HTML- und CSS-Codes von Gemini über Gmail hinausgehen kann. Obwohl dies in der E-Mail-Zusammenfassungsfunktion entdeckt wurde, könnte es auch in Dokumenten, Präsentationen und Laufwerken verwendet worden sein, die über intelligente KI-Funktionen verfügen. Experten raten zur Vorsicht gegenüber diesem automatisierten Phishing im Workspace-Ökosystem, bis Google das Problem behoben hat.
Google arbeitet an einer Lösung
Google räumt ein, dass es in Gemini ein Problem gibt, das es Cyberkriminellen ermöglicht, seine Zusammenfassungen in Gmail zu nutzen, um Gemini einzuschleusen. Ein Unternehmenssprecher teilte mit, dass das Team daran arbeite, sich gegen solche betrügerischen Praktiken zu schützen:
„Wir stärken unsere bereits zuverlässigen Schutzmaßnahmen kontinuierlich durch Netzwerktrainings, die unsere Modelle darin schulen, sich gegen solche Angriffe zu verteidigen.“
