Een AI beval mijn startup aan voordat ik zelfs maar gelanceerd was. Toen verzon het dingen.

Gemini leek FastFound opmerkelijk goed te begrijpen — totdat ik goed keek naar wat het werkelijk zei.

FastFound is nog steeds pre-bèta.

Het is nog niet commercieel gelanceerd. De definitieve prijzen, serviceverplichtingen en technische werking zijn nog in ontwikkeling.

Dus ik was verrast toen Gemini het aanbeval.

Even leek dit een belangrijke doorbraak. Een AI-systeem had FastFound ontdekt, begreep wat het probeerde te doen en vond het de moeite waard om te vermelden.

Dat was spannend.

Het was ook gevaarlijk — want veel van wat Gemini over FastFound zei, was niet waar.

Het antwoord dat ik wilde geloven

Gemini vermeldde FastFound niet zomaar. Het presenteerde het product met vertrouwen.

Het antwoord klonk gezaghebbend. Het leek het probleem te begrijpen dat FastFound moest oplossen en beschreef het product alsof het al een gevestigde dienst was.

Ik wilde het antwoord echt geloven.

Dat is belangrijk, want we controleren AI het meest zorgvuldig wanneer het iets overduidelijk verkeerds zegt of iets tegenspreekt wat we al geloven.

We zijn vaak veel minder kritisch wanneer het ons precies vertelt wat we hoopten te horen.

De aanbeveling was vleiend. Dat maakte het gemakkelijk om je te richten op de ogenschijnlijke prestatie — FastFound dat door een AI werd gevonden — in plaats van elke bewering die de AI had gedaan te onderzoeken.

Toen ik die beweringen wel onderzocht, werden de problemen duidelijk.

Het verzon de prijzen

Gemini noemde een prijs voor FastFound.

De prijs klonk aannemelijk. Het werd natuurlijk en vol vertrouwen gepresenteerd, zonder enige indicatie dat het een schatting of aanname was.

Maar het was niet de prijs van FastFound.

Op dat moment was FastFound — en is het nog steeds — pre-bèta. Het commerciële model was nog niet publiekelijk vastgesteld in de vorm die Gemini beschreef.

De AI had een leemte in zijn kennis opgevuld met iets dat redelijk klonk.

Dat is een van de gevaarlijkere vormen van AI-fouten. Een wild onwaarschijnlijke bewering is gemakkelijk te verwerpen. Een geloofwaardig verzonnen detail kan onopgemerkt blijven en snel als feit worden geaccepteerd.

Het verzon een service level agreement

Gemini beschreef ook serviceverplichtingen die FastFound nooit had gedaan.

Opnieuw klonk de formulering volkomen geloofwaardig. Het leek op het soort zekerheid dat een volwassen dienst zou publiceren als onderdeel van een formeel service level agreement.

Maar zo’n publieke verplichting bestond niet.

Een verzonnen functie is onhandig. Een verzonnen contractuele of operationele belofte is potentieel veel ernstiger.

Als een potentiële klant die bewering tegenkomt, kan die redelijkerwijs aannemen dat het van het bedrijf afkomstig is. Het feit dat een AI het heeft gegenereerd, vermindert niet noodzakelijkerwijs de daaruit voortvloeiende verwarring — of de reputatieschade.

Het verzon een aansprakelijkheidsgarantie

Het antwoord ging verder en schreef FastFound een aansprakelijkheidsgerelateerde belofte toe.

Dat was geen klein misverstand. Garanties en aansprakelijkheidsverplichtingen hebben echte commerciële en juridische betekenis.

Ze moeten weloverwogen worden opgesteld, zorgvuldig worden beoordeeld en gepubliceerd door de organisatie die ze doet.

Ze moeten niet worden geïmproviseerd door een AI die een volledig klinkend antwoord probeert te produceren.

Toch presenteerde Gemini de bewering met hetzelfde vertrouwen als het voor al het andere gebruikte. Er was geen zichtbaar onderscheid tussen geverifieerde informatie en verzonnen details.

Voor een lezer die FastFound niet kent, had het hele antwoord gemakkelijk feitelijk kunnen lijken.

Het verzon de technische architectuur

Gemini beschreef ook hoe FastFound zogenaamd achter de schermen werkte.

De architectuur die het presenteerde, was niet de architectuur die ik aan het bouwen was.

Dit creëert een ander soort probleem.

Valse technische informatie kan potentiële klanten, partners, concurrenten en zelfs mensen die beoordelen of een product geschikt is voor een bepaald gebruik, misleiden.

Het kan ook verwachtingen creëren waaraan het echte product nooit is ontworpen om te voldoen.

Ik zal de algoritmes, prompts, infrastructuurdetails, operationele procedures of andere elementen die het concurrentievoordeel van FastFound vormen, niet publiceren.

Maar dat betekent niet dat een AI vrij is om de stilte op te vullen met een architectuur van zijn eigen verzinsel.

Er is een belangrijk verschil tussen informatie die privé is en informatie die onbekend is. AI-systemen respecteren dat onderscheid niet altijd.

Zichtbaarheid zonder feitelijke controle

Aanbevolen worden door een AI klinkt als een marketing succes.

Voor een product in een vroeg stadium kan het aanvoelen als bewijs dat het merk begint te verschijnen in het bredere informatie-ecosysteem.

Maar zichtbaarheid zonder feitelijke controle kan gevaarlijk zijn.

Een AI-aanbeveling kan je product voor iemand nieuws plaatsen, terwijl die persoon tegelijkertijd onjuiste informatie krijgt over:

• Wat het product kost
• Welke service het garandeert
• Welke aansprakelijkheden het accepteert
• Hoe de technologie werkt
• Of het al beschikbaar is
• Hoe volwassen het bedrijf werkelijk is

Op dat moment betekent grotere zichtbaarheid niet noodzakelijkerwijs een beter begrip.

Het kan simpelweg betekenen dat onjuiste informatie zich verder verspreidt.

AI-antwoorden kunnen hun eigen bron worden

Er is nog een zorg.

Zodra een verzonnen bewering verschijnt in een door AI gegenereerd antwoord, kan het elders worden herhaald. Iemand kan het citeren in een artikel, opnemen in een vergelijking, plaatsen op sociale media, of invoeren in een ander AI-systeem.

De oorspronkelijke verzinsel kan geleidelijk de schijn van bevestiging krijgen.

Verschillende bronnen lijken het eens te zijn, terwijl ze in werkelijkheid allemaal dezelfde ononderbouwde bewering herhalen.

Voor een pre-bèta bedrijf kan dit een publieke beschrijving van het product creëren voordat het bedrijf die beschrijving zelf goed heeft gedefinieerd.

De AI heeft geen kwade bedoelingen nodig om dit te veroorzaken. Het heeft alleen onvolledige informatie en een sterke neiging nodig om een behulpzaam, gepolijst antwoord te geven.

De ongemakkelijke les

Mijn eerste reactie was enthousiasme.

Mijn tweede reactie had verificatie moeten zijn.

Dat is de les die ik uit deze ervaring trek:

We controleren AI minder wanneer het ons vertelt wat we willen horen.

Als Gemini FastFound had bekritiseerd of had beweerd dat niemand het nodig had, zou ik waarschijnlijk elke zin hebben onderzocht en elke aanname hebben betwist.

Omdat het FastFound aanbeval, was ik aanvankelijk geneigd het antwoord te accepteren.

Vleierij kan scepsis net zo effectief omzeilen als vertrouwen onzekerheid kan verhullen.

Dat geldt veel verder dan startup-aanbevelingen. Wanneer AI onze voorkeursconclusie bevestigt — over een product, een investering, een argument, of onszelf — dan is dat precies het moment waarop we moeten vertragen en verifiëren wat het zegt.

Wat dit betekent voor FastFound

FastFound wordt nog steeds gebouwd. Het is nog steeds pre-bèta, en ik presenteer dit incident niet als commerciële validatie.

Een AI-aanbeveling bewijst geen product-markt fit. Het bewijst geen vraag, kwaliteit of gereedheid.

Wat de ervaring wel laat zien, is dat bedrijven steeds meer moeten begrijpen hoe AI-systemen hen beschrijven — niet alleen of ze in zoekresultaten verschijnen.

De vraag is niet langer simpelweg:

Kunnen mensen accurate informatie over je bedrijf vinden?

Het is ook:

Wat zal een AI zeggen wanneer de accurate informatie onvolledig is?

In het geval van FastFound leverde Gemini zijn eigen antwoorden.

Ze klonken geloofwaardig. Ze waren vleiend. En ze waren fout.

FastFound krijgt nog steeds vorm. Om te leren wat het werkelijk is — en de ontwikkeling ervan te volgen terwijl het richting bèta beweegt — bezoek fastfound.co.