Judo in seiner heutigen Form entwickelte sich aus dem Jiu-Jitsu, welches die japanischen Samurai zur Selbstverteidigung verwandten. Die Anfänge des Jiu-Jitsu lagen mit Sicherheit in China, doch ist es der Verdienst der Samurai, diese Künste perfekt ausgebaut zu haben. Sie perfektionierten unterschiedliche Kampfkünste und es entstanden viele Schulen, von denen jede ihre besonderen Fertigkeiten vermittelte; alle jedoch waren auf dem Prinzip des Nachgebens aufgebaut.
Als in der Mitte des 19. Jahrhunderts die Macht im Lande von den Feudalherren auf die Regierung überging, waren die Kampfkünste in einer friedlich gewordenen Welt nicht mehr gefragt und die Schulen der Samurai wurden nach und nach geschlossen.Es war ein Deutscher, der an der kaiserlichen Universität unterrichtende und spätere Leibarzt des Tenno, Geheimrat Erwin Bälz aus Bietigheim, der seine Studenten, von deren schwächlichen und blassen Aussehen er entsetzt war, zum Studium der alten Kampfkünste ermunterte. Einer seiner Studenten im Jahr 1877, der junge JIGORO KANO, beschränkte sich nicht darauf, die Selbstverteidigungskunst einer Schule zu studieren, sondern versuchte, bei mehreren Meistern zu lernen. Ihm fiel die unnötige Härte und die relative Einseitigkeit der alten Schule auf. Nach mehreren Jahren intensiven Studiums war er überzeugt, dass neben den vorhandenen Werten für die körperliche Ausbildung, hier auch der Weg zu einer allumfassenden Erziehung und Bildung gefunden sei, und eröffnete 1882 eine kleine Schule (Dojo), den KODOKAN (Ort zum Studium des Weges). Hier unterrichtete er seine Schüler in einem neukombinierten Zweikampfsystem, das neben der körperlichen Ausbildung auch zur Charakter- und Persönlichkeitsbildung beitragen sollte und es den Schülern ermöglichte, sich ohne große körperliche Risiken in einem sportlichen Wettkampf zu messen.
Er nannte sein System KODOKAN-JUDO (sanfter Weg).
Kurz nach der Jahrhundertwende kamen diese Techniken zum ersten Mal nach Europa, als japanische Sportler auf Londoner Varietébühnen gastierten. Erstmals vorgestellt wurden die Techniken bei einem Besuch der japanischen Marine 1906 im Kieler Kriegshafen. Kaiser Wilhelm II. war hiervon sehr angetan und engagierte sofort einen japanischen Lehrer (Agitaro Ono), der an der Militärturnanstalt in Berlin die Soldaten unterrichtete.Im gleichen Jahr gründete Erich Rahn in Berlin die erste deutsche Jiu-Jitsu-Schule. Bereits im Jahre 1922 wurde die erste deutsche Meisterschaft ausgetragen. Der Name Judo war noch nicht populär und man nannte es noch Jui-Jitsu.
Die Geburtsstunde des deutschen Judo war im Jahre 1932. Hier kam es während der ersten internationalen Judo-Sommerschule zur Gründung des Deutschen Judo Ringes. Waren vor dem 2. Weltkrieg auch einige japanische Lehrer in Deutschland, so war ihr Einfluß doch dadurch sehr begrenzt, dass sie immer nur für einige Tage im Jahr die lernbegierigen Deutschen versammeln konnten. Erst nach dem Kriege und nach einer von den Alliierten verordneten kurzen sportlichen Zwangspause nahm Judo in Deutschland einen rasanten Aufschwung. Hauptberufliche Lehrer – HIRANO, SUZUKI, KUROKAWA, WATANABE, HAN HO SAN (Korea, langjähriger Bundestrainer Herren), deren Arbeit dem Leistungssport zugute kam und die Eröffnung zahlreicher Judoschulen ließen die Zahl der deutschen Judoka in die Höhe schnellen.
1952 wurde das Deutsche Dan Kollegium (Vereinigung der Schwarzgurtträger) gegründet und 1953 der Deutsche Judo Bund. Bei den Olympischen Spielen in Tokio 1964 wurden erstmals Wettkämpfe für Männer ausgetragen.