Ogni religione è caratterizzata da un insieme di credenze, di precetti e di pratiche, e dall'intenzione di volgersi ad un'entità superiore per adorarla e per invocarne l'aiuto. Niente di tutto questo è presente nei koan. Il Buddha rappresenta il più alto obiettivo verso cui indirizzare la propria vita, ma si guarda ad esso per giungere a conoscerlo e a riconoscersi uguali a lui, non per adorarlo come una divinità. Il percorso indicato dai koan non è dunque di tipo devozionale, ma conoscitivo. D'altra parte, la via dei koan non è neppure filosofica. Anzi, il pensiero concettuale è visto come l'ostacolo principale al raggiungimento della verità. I koan offrono lo spunto per una conoscenza diretta della realtà, non mediata dalle forme mentali con cui ci siamo abituati a vedere il mondo. Con la consapevolezza che anche la minima concessione alle consuetudini del pensiero concettuale significherebbe la ricaduta nell'illusione. Per questo viene detto: "Se incontri il Buddha per la strada, uccidilo!".