Wie KI-Antworten Markenvertrauen gefährden

[00:00:00.000] – Sarah

Herzlich willkommen zu dieser neuen Folge unseres Digital Impact Podcasts. Ich bin Sarah Stock, Marketingstrategin bei den netzstrategen und ich produziere diesen Podcast. Heute habe ich eine besondere Folge für euch, nämlich ein KI-News-Special, das wir ab jetzt regelmäßig produzieren werden. Also drückt gerne den Abo-Button oder folgt uns auf den wichtigen Kanälen, damit ihr keine neue Folge mehr verpasst. Alle Links dazu findet ihr in unseren Show Notes. Meine Kolleg:innen Christina und Chris haben bereits viel Erfahrung darin gesammelt, Unternehmen darin zu unterstützen, mit KI zu arbeiten oder KI überhaupt in den Unternehmensalltag zu integrieren. Die beiden werden ihr Wissen aus der Praxis und auch aus der Entwicklung von KI-Produkten hier im Podcast teilen. Wir starten mit KI-Scam, was sich zwar auf den ersten Blick weit weg anhört und ja meistens etwas ist, was anderen passiert oder mal passiert ist, aber aktuell ein akutes Thema für alle Unternehmen ist. Christina hat einen konkreten KI-Scam-Fall mitgebracht und gibt Tipps, was Unternehmen tun können, zu vermeiden, dass ihnen das Gleiche passiert. Diese Folge haben wir am 2. September 2025 aufgenommen und wir starten mit Christina, die sich einmal vorstellt.

[00:01:17.600] – Christina

Hallo zusammen, ich bin Christina. Ich arbeite jetzt seit neun Jahren bei den netzstrategen und seitdem ChatGPT draußen ist, also wann war das? November 2022. Seitdem beschäftige mich jeden Tag mit KI, einfach weil es mich total interessiert, weil ich jeden Tag neu fasziniert bin, was man damit machen kann. Und mittlerweile ist es auch Teil meines Alltags. Ich gebe Schulungen dazu zu ChatGPT, wie man damit umgeht. Custom-GPTs machen wir immer mehr für unsere Kunden. Ich abonniere verschiedene Newsletters zu dem Thema. Ich versuche einfach, so viel aufzusaugen, wie ich kann und so viel auszuprobieren, wie ich kann. Und wer dabei auf jeden Fall immer ein super Gesprächspartner ist, sich auszutauschen über den neuesten KI-Gossip oder die neuesten KI-News ist mein Kollege Chris und deswegen haben wir uns überlegt, machen wir diesen Podcast.

[00:02:08.320] – Chris

Hi, ich bin Chris, bin seit drei Jahren bei den netzstrategen und kümmere mich auch um Custom-GPTs, gebe Schulungen, viele Analysen. Wir machen datenbasierte Personas, geben die dann auch in die KI zurück, sodass wir uns mit denen unterhalten können, Customer Journeys bauen können. Bin eigentlich im Analytics-Bereich zu Hause und habe so schnell Zugang zu KI-Themen gefunden, weil eine Datenanalyse ja schon ein Thema ist, was schon sehr gut und sehr lange mit KI funktioniert. Und ich darf jetzt sowohl mit unseren Kunden im Sparring als auch hier intern für uns viel KI ausprobieren und experimentieren und das Ganze dann auch in Prozesse und Arbeitsabläufe einbinden.

[00:02:53.160] – Christina

Und meistens ist es so, bevor wir da ein Standardding daraus machen, das in Prozesse gießen oder für unsere Kunden, gibt es einen langen Thread zwischen Chris und mir: „Hast du schon gehört? Hast du schon ausprobiert? Und so würde ich auch mal einsteigen: „Chris, hast du schon gehört? Hat mich letzte Woche ziemlich beschäftigt. Da gab es einen AI Scam mit AI Overviews. Es war ja klar, es konnte nicht mehr lange brauchen, bis Leute einen Weg finden, diese eigentlich super nützliche Funktion in Google für sich zu kapern. Also AI Overviews sind die Dinger, die oben bei Google angezeigt werden über den eigentlichen Suchergebnissen, wenn man seine Suche eingibt. Da wird zusammengefasst, was Google meint, was die richtige Antwort ist auf die eigene Suche. Und da hatte jemand für ein Kreuzfahrtschiff nach der Telefonnummer gesucht, weil er einen Shuttle-Service ordern wollte. AI Overview hat eine Telefonnummer rausgegeben, der Mann hatte angerufen und hat dann einen Shuttle-Service für 800 Dollar geordert. Ich weiß nicht, was das für ein Shuttle ist. Egal, aber jedenfalls 800 Dollar hat er dafür ausgegeben für den Shuttle. Das Problem war nur, er hat nicht bei seinem Kreuzfahrtschiff oder bei dem Dienstleister davon angerufen, sondern bei Betrügern, die diese Nummer publiziert haben in verschiedenen Kanälen, sodass Google dachte: „Ach, das ist die Nummer von diesem Kreuzfahrtschiff, hat sie angezeigt, der Mann hat angerufen, hat seine Kreditkartenangaben gemacht und das Geld wurde abgebucht und der hat natürlich keinen Shuttle dafür bekommen, sondern einfach nur 800 Dollar weniger und uns eben einen Anlass gegeben, über AI-Scam zu reden.

[00:04:22.920] – Christina

Hast du davon gehört?

[00:04:24.660] – Chris

Ich habe es kurz gehört, muss aber auch sagen, ist vielleicht gar kein KI-Thema, sondern beim Preis von Euro für einen Shuttle könnte man vielleicht auch ohne KI stutzig werden. Außer, Space Shuttle kommt dich abholen. Ich habe es kurz gehört, aber ich weiß immer noch nicht genau, wie es funktioniert. Ich konnte mich noch nicht so reinarbeiten, was tatsächlich gemacht wurde. Mich hat es nur daran erinnert, wie früher schon mit Google Ads ähnliche Scams gebaut wurden. Zum Beispiel, wenn man in die USA fliegen will und googelt nach Esther-Anmeldungen, die ja irgendwie 14 Dollar kostet bei den Behörden, die kann man auch für 70 Dollar haben und dann macht das jemand für ein und dann hat man immerhin die Einreisegenehmigung, aber ist natürlich 70 Dollar los statt 14 und daran hat es mich stark erinnert.

[00:05:10.820] – Christina

Ich weiß jetzt auch nicht, ob der vielleicht mit dem Fahrrad dann trotzdem abgeholt wurde für seine 800 $. Ich glaube, es gab tatsächlich keine Gegenleistung dafür. Also so wie die das wohl gemacht haben … Das ist übrigens eine Geschichte, die die Washington Post aufgegriffen hat und recherchiert hat. Kann man nachlesen. Machen wir in die Show Notes. Ist leider hinter der Paywall, aber man kann so uns den Teaser davon lesen. Die haben das wohl in Bewertungsportale gepostet, diese Nummer, haben zum Teil Google Maps-Einträge gemacht, haben also versucht, möglichst viele Touchpoints zu generieren, digitale Touchpoints, die Google auslesen kann und haben immer wieder diese eine Nummer gepostet, die eben nicht zu dem Kreuzfahrtschiff gehört, sondern zu ihnen selber und haben im Prinzip das übernommen. Sie haben die eigentliche Telefonnummer von diesem Kreuzfahrtschiff überlagert mit Ihrer eigenen, indem Sie das überall publiziert haben. Wie gesagt, in Foren, Sie haben geantwortet zum Teil auf Fragen: „Kennt sich jemand oder hat jemand schon mal eine Fahrt mit Kreuzfahrtschiff XY gemacht? Dann haben die in dem Namen geantwortet und dort ihre Telefonnummer hinterlegt. Das war gar nicht so wichtig, was dann da noch so an Thread entstanden ist, sondern einfach die Nummer gab es und wenn Google nach Nummer sucht, dann wird es eben in der Summe zusammengezogen.

[00:06:24.440] – Christina

So haben die das wohlgemacht.

[00:06:26.820] – Chris

Klingt erst mal nach wahnsinnig viel Aufwand, aber wenn ich natürlich ein paar Leute der für 800 € abholen kann, in Anführungsstrichen, dann lohnt sich es natürlich wieder und war dann eigentlich ja ziemlich einfach zu manipulieren, oder?

[00:06:39.800] – Christina

Ja, hört sich so an, als wenn das jetzt nicht der größte Aufwand war. Weißt natürlich auch nicht, wie die das gemacht haben. Du kannst ja auch Agenten losschicken, die in deinen Namen kommentieren. Und wenn du eben einen Kommentieragenten losschickst, der überall die Nummer postet und sagt, ich weiß nicht genau, wie der Kontext dann ist, aber wahrscheinlich kannst du auch das automatisieren oder teilautomatisieren, dann ist der Aufwand eben noch ein bisschen geringer.

[00:07:05.520] – Chris

Und konnte die Kreuzfahrtgesellschaft was dagegen tun oder sind die dann vorgegangen, nachdem der Scam entdeckt wurde? Gab es da Maßnahmen?

[00:07:13.200] – Christina

Ja, die waren total überrascht gehabt. Die wussten gar nicht, dass das ein Ding ist. Klar, jetzt, wo man es hört, denkt man: „Klar, irgendwie logisch, dass Leute auf diese Idee kommen, aber als ich es gelesen habe, ging es mir genauso. „natürlich ist das völlig klar, dass das jetzt passiert. Man muss genug, weiß ich nicht, kriminelle Energie haben oder eben in diese Richtung denken. Dann kommt man ja wahrscheinlich auf wahrscheinlich relativ viele von solchen Use Cases, aber die Gesellschaft war einfach überrascht und denen war überhaupt nicht klar, wie die Mechanik ist. Deswegen reden wir auch drüber. Wir reden auch mit unseren Kunden darüber. Passt auf, dass eure Daten überall gepflegt sind, einheitlich sind, dass ihr das auch möglichst gut auslesbar macht. Da kommen wir vielleicht gleich noch drauf, was man da alles tun kann. Aber die Gesellschaft, die Cross-und Gesellschaft, die war erst mal nur überrascht und hat dann eben angefangen aufzuräumen. Also die haben eben versucht, aufzuspüren, wo die falsche Nummer ist, haben versucht, die löschen zu lassen, zu überschreiben, zu kommentieren, sind, glaube ich, auch bei Google in Kontakt getreten und so weiter. Aber erst mal war so: „Ach, wirklich? Das passiert, wenn man unsere Nummer sucht?

[00:08:20.430] – Christina

Das ist ja blöd. Also eher überrascht.

[00:08:23.820] – Chris

Auf jeden Fall unangenehm und wahnsinnig viel Arbeit, das dann auch wieder rauszubekommen. Jetzt eine große Kreuzfahrtgesellschaft hat vielleicht dann noch ihre Leute für und vielleicht dann sogar auch Kontakte zu Google. Aber stelle ich mir natürlich als Mittelständler, wenn wir das jetzt weiterdenken und dann viele kleine Unternehmen vielleicht auch davon betroffen sind, der Heizungsbauer die Ecke Geben Sie mir mal Ihre Kreditkartendaten für die Anzahlung der Heizung oder wie auch immer. Oder auch nur der IBAN wäre ja schon fatal eigentlich. Wie würde man sich da wappnen? Gibt es da schon Tools oder Was würdest du empfehlen, was man tun kann, vielleicht als kleineres Unternehmen?

[00:09:05.840] – Christina

Ja, also das ist gar nicht so leicht. Also erst mal so die ganzen, ich würde mal sagen, Hygienefaktoren abarbeiten. Das wäre ein Google-My-Business-Eintrag oder diese Google-Maps-Einträge, dass der gepflegt ist, dass da eine Nummer ist, möglichst nicht mit vielen unterschiedlichen Nummern hantieren, sondern am besten mit einer, dass Google die eben auch dann parat hat. Also vielleicht noch mal bei den Änderungen, das kriegt Google wahrscheinlich schon hin, wenn hinten irgendwie ein die fortlaufend ist, aber besser ist immer noch wahrscheinlich eine Nummer vor allem zu kommunizieren, die auch Maschinenlesbar zu machen, also nach schema. Org auszuweisen, auch auf der eigenen Webseite das so zu machen, also dass das einfach so ist, dass Google das sehr leicht auslesen kann und auch irgendwie da vom Absender weiß, okay, das scheint in Ordnung zu sein. Und der Rest, wenn Leute natürlich … Also das ist dann erst mal schon mal schwieriger für Betrüger dagegen anzugehen, weil das irgendwie schon von so einer Autorität kommt. Also das zu überschreiben ist schon ein bisschen schwieriger, als wenn man das nicht hätte. Und das andere ist, dass man wahrscheinlich in regelmäßigen Abständen so Bewertungsportale, die eben besonders dafür … Also kommt auf den Markt an, vielleicht deutschsprachiger Raum oder international, so bestimmte Bewertungsportale, wo man kommentieren kann, dass man da einfach immer einen Scam drüber laufen lässt, weiß ich nicht, einmal im Monat oder so, und guckt, ob da jemand versucht, im Namen von einem selber irgendwas zu publizieren.

[00:10:29.700] – Christina

Das wäre wahrscheinlich im automatisierten Bereich das, was am ehesten funktioniert, dass man einfach regelmäßige Scam losschickt: Versucht jemand in unserem Namen eine Nummer zu publizieren? Oder vielleicht auch eine E-MAIl-Adresse, wobei das natürlich schon schwieriger ist. Eine Fax-Nummer in Deutschland, keine Ahnung. Eigentlich so einen Scam muss man wahrscheinlich mal absetzen und gucken: „Eh, diese Telefonnummern, die gehört ja gar nicht zu uns. Was ist denn da los? Oder was meinst du? Du bist ja auch im Datenbereich unterwegs.

[00:10:58.460] – Chris

Ich habe auch das Wäre jetzt mal gewesen, mich mal mit allen gängigen KIs über mein Unternehmen zu unterhalten und zu schauen, was dabei rauskommt, wer da Ansprechpartner ist, wer da vielleicht Geschäftsführer, Geschäftsführerin ist, Telefonnummern, E-MAIl-Adressen. Ich glaube, das ist wahrscheinlich gar nicht schlecht, dass man sich einfach mal anschaut, was da in den AI Overviews steht, was ChatGPT ausgeht, was Perplexity ausgibt und so weiter. Und dann vielleicht noch, wenn da was falsch ist, direkt nach der Quelle fragt. Die eine oder andere KI gibt es ja auch ganz zuverlässig aus. So hat man vielleicht immer so einen Shortcut. Ist ein bisschen hemdsärmlich, aber ist immer so das Erste, was man tun kann, wenn man auch über keine Tools und vielleicht auch nicht die Skills entsprechend verfügt. Dann würde ich auch schauen, welche Tools oder welche Agents, also wie kann ich KI vielleicht auch für mich selbst nutzen, das Ganze dann aufzudecken und zu finden und da so eine Art Muster auch aufzustellen, sodass ich das regelmäßig tun kann? Und als Maßnahme, wenn es dann passiert, sollte ich mir vielleicht schon mal überlegen, was dann zu tun ist. Also vielleicht eine Checkliste, wo ich mich melden kann, was ich tun kann. Also ähnlich wie man das vielleicht für einen Shitstorm auf Social Media vorbereitet, dass man so einen Notfallplan einfach hat, mit wem man da sprechen sollte oder wen man kontaktieren sollte, vielleicht auch die E-MAIls an Google schon vorbereitet hat und so weiter, dass man da schaut. Ich glaube, das ist, was man gerade am besten tun kann. Und wenn weiter gedacht, könnte ich mir vorstellen, dass da ein neues Berufsbild entsteht, dass man es vielleicht sogar als Agenturservice anbietet, dem Unternehmen zu helfen, falsche KI-Ergebnisse aufzudecken und dann auch zu bereinigen. So ähnliche Services gibt es ja schon, wenn deine E-MAIl-Adresse irgendwo gehackt wurde oder deine Identität geklaut wurde, dann wird geschaut, ist ein Bild von einem Perso irgendwo im Internet unterwegs und so weiter. Diese Services gibt es ja schon und da könnte man ja eigentlich auch gut ansetzen. Da bin ich mal gespannt, ob da nicht tatsächlich so ein neuer Service, eine neue Branche entsteht.

[00:13:07.480] – Christina

AI-detektor oder so?

[00:13:09.140] – Chris

Ja, ich gucke, ob man die DomAIn noch buchen kann.

[00:13:15.380] – Christina

Schauen wir mal. Ich finde, den Hinweis, den du gibst, sich erst mal selber zu suchen in den Maschinen oder in den KI-Anwendungen, das ist natürlich der beste Tipp. Es war auch tatsächlich mein erster Reflex, was ich gemacht habe. Ich habe erst mal bei Google Netzstrategie eine Telefonnummer eingegeben. Wir sind jetzt nicht dafür bekannt, dass wir am Telefon die Kreditkartendaten abfragen und so weiter und deswegen habe ich jetzt schon nicht gedacht, dass wir da im Fokus stehen, aber das war tatsächlich mein erster Reflex. Das ist erst mal eine gute Idee, da zu schauen, was wissen eigentlich die KI-Systeme? In dem Fall ist es jetzt AI-Overview. Das heißt, das ist ja im Prinzip das, was es an Webseiten draußen gibt und an Content. Aber auch in den LLMs oder so da mal zu suchen ist auf jeden Fall eine gute Idee und dann auch zu gucken, wenn da Sachen nicht stimmen, wo kommt das her? Nach den Quellen zu fragen und dann noch mal tiefer einzusteigen.

[00:14:05.600] – Chris

Ja, und eben positiv darauf einwirken, wie du schon sagtest, schauen, dass überall alle Einträge passen, dass es auch lesbar ist, dass die KI auf meine Webseite kommt und nicht ausgeschlossen ist, dass da überhaupt alles … Wir kennen ja immer noch viele Webseiten, auf denen nicht mal die richtigen Informationen sind, die Menschen finden können. Dann findet es die KI natürlich auch nicht. Und wenn da schon Verwirrung herrscht, dann sollten die Hygienefaktoren da einfach stimmen. Das ist auch schon eine ganz gute Abwehr.

[00:14:34.120] – Christina

Und ich habe auch noch mal überlegt, was so andere Use Cases wären, also für Leute, die da solche Hintergedanken haben, Geld abzuzocken, was natürlich auch gut funktionieren würde. Das mit der Telefonumma ist natürlich easy. Easy im Sinne von, du musst natürlich schon jemanden da sitzen haben, der das Telefonat annimmt und dann das abwickelt. Aber wenn man jetzt Landing Pages dafür aufbaut oder auch Formularseiten, die dann zum Beispiel auch die Rechnungsdaten abfragen, also Kreditkartendaten zum Beispiel, dann ist es ja noch einfacher. Da brauchst du ja noch nicht mal jemanden, der da am Telefon sitzt. Und das würde die AI Overview, die ja auch raus geben. Also wenn du jetzt sagst, ich will nur noch das Formular für XY und du weißt eigentlich, dass das gibt und so und jetzt hast du schon 10. 000-mal das aufgehabt und dann willst du es machen. Manchmal ist es ja auch so ein Impulsding. Jetzt mache ich das noch eben, bevor so und so kommt. Da dann auf der Landing Page zu landen und dann guckt man nicht so genau auf die URL vielleicht und was da sonst irgendwie so komisches aussieht. Das könnte auf jeden Fall, glaube ich, auch noch mal was sein, wo man echt aufpassen muss, dass andere Leute nicht die Dienstleistung vermeintlich anbieten, die man selber macht und dann in den Bezahlgutmus kommen.

[00:15:48.280] – Chris

Wäre ja dann klassisches Phishing eigentlich. In Deutschland kann man ja einfach ein Bank einzugsformular generieren, IBAN eingeben und so weiter. Und dann kann man erst mal fast jeden Betrag abziehen, je nachdem, was so ein Konto hergibt. Aber ich sage mal, wenn überall ein paar 100 € abgezogen werden und das im großen Ziel gemacht wird, lohnt sich es am Endeff auf, wie beim Phishing jetzt auch. Das kann auf jeden Fall ein Use Case sein oder auch die klassischen Paketdienste, hatte ich jetzt noch drüber nachgedacht. Ich kann auch DHL, DPD und so weiter imitieren, so wie es es heute auch schon gibt. Sendungsverfolgung, es wird eine Nachberechnung fällig und dann leite ich zu so einem Phishing über. Zugegeben ist es wahrscheinlich bei so einer großen Firma schwerer, diesen Scam hinzubekommen mit dem Formular, aber natürlich auch erstrebenswerter, wenn man die kriminelle Energie hat, weil auf einem Schlag viel mehr Leute betroffen sind über den AI-Oberview. Ich brauche gar nicht mehr die E-MAIl-Adressen, diese E-MAIls zu verschicken, sondern wenn ich nur einen Tag im Overview von DHL auftauche mit meinem Formular, kann ich mir wahrscheinlich schon einen Shuttle zu einer Kreuz Fahrt leisten.

[00:17:00.760] – Christina

Ich habe gerade noch gerade gedacht, du meintest, die IBAN-Abfragen, das wiederum spricht gegen die Impulskäufe. Wahrscheinlich wurden die genau dafür eingesetzt, die IBAN, dass die nicht eben diese 3. 000-stellige zahlt.

[00:17:13.720] – Chris

Das kann natürlich sein, ja.

[00:17:17.100] – Christina

Aber ich finde es schon erstaunlich, wie … Also so AI Overviews sind eigentlich superpraktisch. Also ich finde das wirklich total gut und sinnvoll und bin immer dankbar, wenn ich dort direkt meine Antwort bekomme, wenn ich es nicht direkt schon bei ChatGPT hier eingegeben habe. Auch das Das hatten wir auch schon mal in einer Folge, als wir über SearchGPT gesprochen haben. Aber dass dann so ein eigentlich sinnvolles Tool dann gekapert wird, war eigentlich eine Frage der Zeit und trotzdem ist es jedes Mal so, dass ich mir denke: „Oh Mann, warum denn? Jetzt hängt dieses Bett drinnen den meisten an und da muss man sich Gedanken überzeugen machen, was total unnötig ist. Natürlich, auch Firmen wie wir profitieren davon. Natürlich, dass man da auch hilft, auf der sicheren Seite zu sein, aber so ein bisschen frage ich mich auch: „Meine Fresse, man kann wirklich nichts Sinnvolles rausbringen, ohne dass nicht fünf Minuten später einer sagt: „Ich weiß jetzt, wie ich Blödsinn damit mache.

[00:18:04.720] – Chris

Irgendwo sitzt immer ein böser Mensch. Ja, vielleicht kann man es so sagen.

[00:18:10.440] – Christina

[…]