Mit der Zeit wurde das Eichenkreuz als Abzeichen des deutschen CVJM mehr und mehr vom Dreieck verdrängt.

Ende 1920 war in einem Preisausschreiben zu lesen, dass ein neues Abzeichen für den CVJM gesucht wird.

Johannes Tack fühlte sich durch dieses Preisausschreiben sogleich angesprochen und fing sofort an, verschiedene Entwürfe zu machen. Als er schon einen Entwurf eingesandt hatte, saß er eines Sonntags in der Kirche und blickte mit Interesse auf das gegenüberliegende, bleiverglaste Fenster. Es ging nicht, wie heute, ein Flächenmuster von unten nach oben durch das ganze Fenster, sondern die bunte Bleiverglasung lehnte sich oben an das runde Maßwerk an. In der Mitte des Maßwerkes sah er, wie die schwarzen Bleistreifen ein auf der Ecke stehendes Quadrat bildeten, ferner sah er in der Nähe auch waagerechte und senkrechte Linien. Da kam ihm plötzlich der Gedanke, dass das auf der Ecke stehende Quadrat durch ein Kreuz ausgefüllt werden könnte, in das drei Eichenblätter hineinragten. Zu Hause zeichnete er es genau auf und dachte: Die drei Eichenblätter passen sich mit ihren Stielen dem Kreuz an, sind ihm untergeordnet und lassen dem Kreuz den Vorrang, so dass die Vaterlandsliebe doch dem christlichen Glauben untergeordnet sei und an zweiter Stelle stand. Jedes Blatt war mit einem Stiel verbunden. Diese kreuzten sich in der Mitte und füllten den unteren Teil des Kreuzes aus.

  Er zeichnete es sorgfältig auf und versah es mit dem Kennwort "Eichenkreuz". Es fand bei dem Vorstand des CVJM (Barmen) Gefallen, und ihm wurde der erste Preis zuerkannt. Er bekam 150 Mark, soviel wie das Monatsgehalt eines Junglehrers.

  Auf Vorschlag des Vorsitzenden wurden die drei dünnen Stiele zu einem kräftigen zusammengefügt und das Ganze mit einem roten Rand versehen, damit auch die Nationalfarben zu ihrem Recht kamen. So entstand ein symbolisches und zugleich ein heraldisch einwandfreies Abzeichen.

Bald darauf wurde das Eichenkreuz das Symbol des deutschen CVJM und das Abzeichen der evangelischen Bahnhofsmission, die ja von den aktiven Gemeindegruppen getragen wurde.

Manche Ortsgruppen des CVJM beschafften sich eine größere Eichenkreuzfahne, die sie beim Wandern vor sich hertrugen oder vor ihrem Freizeitheim an einem Mast hochzogen. So wehte die Eichenkreuzflagge sowohl in Hamburg als auch in Berchtesgaden. In den Sportabteilungen des CVJM trug man ein Sporthemd mit dem Eichenkreuz als Abzeichen.