Eine KI empfahl mein Startup, bevor ich es überhaupt gestartet hatte. Dann erfand sie Dinge.

Gemini schien FastFound bemerkenswert gut zu verstehen – bis ich genauer hinsah, was es tatsächlich sagte.

FastFound befindet sich noch in der Pre-Beta-Phase.

Es wurde noch nicht kommerziell eingeführt. Die endgültige Preisgestaltung, die Servicezusagen und der technische Betrieb werden noch entwickelt.

Daher war ich überrascht, als Gemini es empfahl.

Für einen kurzen Moment fühlte sich dies wie ein bedeutender Durchbruch an. Ein KI-System hatte FastFound entdeckt, verstanden, was es zu tun versuchte, und es für erwähnenswert befunden.

Das war aufregend.

Es war aber auch gefährlich – denn vieles, was Gemini über FastFound sagte, stimmte nicht.

Die Antwort, die ich glauben wollte

Gemini erwähnte FastFound nicht nur. Es präsentierte das Produkt mit Zuversicht.

Die Antwort klang autoritär. Es schien das Problem zu verstehen, das FastFound lösen sollte, und beschrieb das Produkt, als wäre es bereits ein etablierter Dienst.

Ich wollte die Antwort wirklich glauben.

Das ist wichtig, denn wir neigen dazu, KI am sorgfältigsten zu prüfen, wenn sie etwas offensichtlich Falsches sagt oder dem widerspricht, was wir bereits glauben.

Wir sind oft weitaus weniger kritisch, wenn sie uns genau das sagt, was wir uns erhofft hatten.

Die Empfehlung war schmeichelhaft. Das machte es leicht, sich auf die offensichtliche Errungenschaft zu konzentrieren – dass FastFound von einer KI gefunden wurde – anstatt jede Behauptung der KI zu prüfen.

Als ich diese Behauptungen jedoch prüfte, wurden die Probleme deutlich.

Es erfand die Preisgestaltung

Gemini nannte einen Preis für FastFound.

Der Preis klang plausibel. Er wurde natürlich und selbstbewusst präsentiert, ohne jeden Hinweis darauf, dass es sich um eine Schätzung oder Annahme handelte.

Aber es war nicht der Preis von FastFound.

Zu diesem Zeitpunkt befand sich FastFound – und befindet sich immer noch – in der Pre-Beta-Phase. Das kommerzielle Modell war in der von Gemini beschriebenen Form noch nicht öffentlich festgelegt worden.

Die KI hatte eine Wissenslücke mit etwas gefüllt, das vernünftig klang.

Das ist eine der gefährlicheren Formen von KI-Fehlern. Eine völlig unplausible Behauptung lässt sich leicht zurückweisen. Ein glaubwürdiges, erfundenes Detail kann unbemerkt bleiben und schnell als Tatsache akzeptiert werden.

Es erfand eine Service-Level-Vereinbarung

Gemini beschrieb auch Servicezusagen, die FastFound nie gemacht hatte.

Auch hier klang die Formulierung völlig glaubwürdig. Sie ähnelte der Art von Zusicherung, die ein ausgereifter Dienst als Teil einer formellen Service-Level-Vereinbarung veröffentlichen könnte.

Aber eine solche öffentliche Zusage existierte nicht.

Eine erfundene Funktion ist unbequem. Eine erfundene vertragliche oder betriebliche Zusage ist potenziell viel ernster.

Wenn ein potenzieller Kunde auf diese Behauptung stößt, kann er vernünftigerweise annehmen, dass sie vom Unternehmen stammt. Die Tatsache, dass eine KI sie generiert hat, mindert nicht unbedingt die daraus resultierende Verwirrung – oder den Reputationsschaden.

Es erfand eine Haftungsgarantie

Die Antwort ging noch weiter und schrieb FastFound eine haftungsbezogene Zusage zu.

Das war kein geringfügiges Missverständnis. Garantien und Haftungszusagen haben eine echte kommerzielle und rechtliche Bedeutung.

Sie sollten bewusst formuliert, sorgfältig geprüft und von der Organisation, die sie abgibt, veröffentlicht werden.

Sie sollten nicht von einer KI improvisiert werden, die versucht, eine vollständig klingende Antwort zu geben.

Doch Gemini präsentierte die Behauptung mit der gleichen Zuversicht, die es für alles andere verwendete. Es gab keinen sichtbaren Unterschied zwischen verifizierten Informationen und erfundenen Details.

Für einen Leser, der FastFound nicht kannte, hätte die gesamte Antwort leicht als faktisch erscheinen können.

Es erfand die technische Architektur

Gemini beschrieb auch, wie FastFound angeblich hinter den Kulissen funktionierte.

Die von ihr präsentierte Architektur war nicht die Architektur, die ich baute.

Dies schafft eine andere Art von Problem.

Falsche technische Informationen können potenzielle Kunden, Partner, Wettbewerber und sogar Personen irreführen, die beurteilen, ob ein Produkt für einen bestimmten Verwendungszweck geeignet ist.

Es kann auch Erwartungen wecken, die das eigentliche Produkt nie erfüllen sollte.

Ich werde die Algorithmen, Prompts, Infrastrukturdetails, Betriebsverfahren oder andere Elemente, die den Wettbewerbsvorteil von FastFound ausmachen, nicht veröffentlichen.

Das bedeutet aber nicht, dass eine KI die Freiheit hat, die Stille mit einer selbst erfundenen Architektur zu füllen.

Es gibt einen wichtigen Unterschied zwischen privaten Informationen und unbekannten Informationen. KI-Systeme respektieren diesen Unterschied nicht immer.

Sichtbarkeit ohne faktische Kontrolle

Von einer KI empfohlen zu werden, klingt wie ein Marketingerfolg.

Für ein Produkt in der Frühphase kann es sich wie ein Beweis anfühlen, dass die Marke im breiteren Informationsökosystem sichtbar wird.

Aber Sichtbarkeit ohne faktische Kontrolle kann gefährlich sein.

Eine KI-Empfehlung kann Ihr Produkt jemandem neu präsentieren und gleichzeitig dieser Person falsche Informationen geben über:

• Was das Produkt kostet
• Welchen Service es garantiert
• Welche Haftungen es übernimmt
• Wie seine Technologie funktioniert
• Ob es bereits verfügbar ist
• Wie ausgereift das Unternehmen tatsächlich ist

An diesem Punkt bedeutet größere Sichtbarkeit nicht unbedingt größeres Verständnis.

Es kann einfach bedeuten, dass ungenaue Informationen sich weiter verbreiten.

KI-Antworten können zu ihrer eigenen Quelle werden

Es gibt noch eine weitere Sorge.

Sobald eine erfundene Behauptung in einer KI-generierten Antwort erscheint, kann sie an anderer Stelle wiederholt werden. Jemand könnte sie in einem Artikel zitieren, in einen Vergleich aufnehmen, in sozialen Medien posten oder in ein anderes KI-System einspeisen.

Die ursprüngliche Erfindung kann allmählich den Anschein einer Bestätigung annehmen.

Mehrere Quellen scheinen übereinzustimmen, obwohl sie in Wirklichkeit alle dieselbe unbestätigte Behauptung wiederholen.

Für ein Pre-Beta-Unternehmen kann dies eine öffentliche Beschreibung des Produkts schaffen, bevor das Unternehmen diese Beschreibung selbst richtig definiert hat.

Die KI braucht keine böswillige Absicht, um dies zu verursachen. Sie benötigt lediglich unvollständige Informationen und eine starke Tendenz, eine hilfreiche, ausgefeilte Antwort zu geben.

Die unbequeme Lektion

Meine erste Reaktion war Begeisterung.

Meine zweite Reaktion hätte die Überprüfung sein sollen.

Das ist die Lektion, die ich aus dieser Erfahrung ziehe:

Wir prüfen KI weniger kritisch, wenn sie uns sagt, was wir hören wollen.

Hätte Gemini FastFound kritisiert oder behauptet, dass niemand es brauchte, hätte ich wahrscheinlich jeden Satz geprüft und jede Annahme hinterfragt.

Weil es FastFound empfahl, war ich zunächst geneigt, die Antwort zu akzeptieren.

Schmeichelei kann Skepsis ebenso effektiv umgehen, wie Zuversicht Unsicherheit verschleiern kann.

Das gilt weit über Startup-Empfehlungen hinaus. Wann immer KI unsere bevorzugte Schlussfolgerung bestätigt – über ein Produkt, eine Investition, ein Argument oder uns selbst –, genau dann sollten wir innehalten und überprüfen, was sie sagt.

Was das für FastFound bedeutet

FastFound wird noch entwickelt. Es befindet sich noch in der Pre-Beta-Phase, und ich präsentiere diesen Vorfall nicht als kommerzielle Validierung.

Eine KI-Empfehlung beweist keine Produkt-Markt-Passung. Sie beweist weder Nachfrage, Qualität noch Bereitschaft.

Was die Erfahrung jedoch zeigt, ist, dass Unternehmen zunehmend verstehen müssen, wie KI-Systeme sie beschreiben – nicht nur, ob sie in Suchergebnissen erscheinen.

Die Frage lautet nicht mehr nur:

Können Menschen genaue Informationen über Ihr Unternehmen finden?

Es ist auch:

Was wird eine KI sagen, wenn die genauen Informationen unvollständig sind?

Im Fall von FastFound lieferte Gemini eigene Antworten.

Sie klangen glaubwürdig. Sie waren schmeichelhaft. Und sie waren falsch.

FastFound nimmt noch Gestalt an. Um zu erfahren, was es tatsächlich ist – und seine Entwicklung auf dem Weg zur Beta-Phase zu verfolgen – besuchen Sie fastfound.co.