Er begann mit Karate der Stilrichtung Goju-ryu an der Junior High School. An der Doshisha Universität trainierte er schließlich unter Chojun Miyagi, dem großen Goju-ryu Meister, der, wie Mabuni Kenwa, ebenfalls unter unter Higaonna Sensei trainierte. Später, als Sensei Miyagi nach Okinawa zurückkehrte, bildete sich Tani Sensei unter Kenwa Mabuni weiter.
–
Nach dem Zweiten Weltkrieg begann Tani, Karate in Kobe zu unterrichten. Seine Gruppe wuchs schnell. Ein Jahr später errichtete er sein eigenes Dojo in seinem Haus.
1946 wurde Tani Sensei mit einer „Schriftrolle des Erfolges“ durch Mabuni Sensei ausgezeichnet. Damit erhielt er die Erlaubnis, seine eigene Schule, das Tani-ha Shito-Ryu bzw. Shukokai, zu gründen.