В 1954 году окончил юридический факультет Токийского Университета. В том же году поступил на работу в кинокомпанию Сётику в качестве помощника режиссера. В 1969 году он снял первый фильм из популярного киносериала "Тяжело мужчинам" ("Тора-сан" (Otoko wa Tsuraiyo) – самого длинного киносериала за всю историю мирового кино. Режиссерская карьера Ямада, начавшаяся с фильма "Незнакомец со второго этажа", длится уже 41 год, последний фильм – "Сумеречный самурай" – это 77-й фильм режиссера.
Сериал «Трудно быть мужчиной» режиссера Ямада Ёдзи, первый фильм которого был снят в 1969 г., можно назвать самым «долгоиграющим» в мире. Героя картины, забавного неудачника-коробейника и путешественника Тора-сан, постоянно возвращающегося в родной токийский квартал к родным и соседям, чтобы «зализать раны», кинозрители в Японии настолько близко приняли к сердцу, что потребовали дальнейшего продолжения его странствий и приключений. Создано уже более сорока фильмов, выпускаемых с тех пор ежегодно (а то и по два в год), каждый из которых собирал у киноэкранов примерно 2 млн. зрителей — цифра огромная для нынешних времен. Феномен популярности Тора-сан изучают критики и психологи, сходясь во мнении, что в первую очередь это ностальгия людей по времени, когда соседи и родственники жили не столь разобщенно, как теперь. Да, материально-то стало много лучше, но теплота и непосредственность человеческих отношений неизбежно исчезает. Вот и получилось, что чудаковатый, но внутренне свободный Тора-сан стал в стране символом человеческого тепла и доброжелательности. Интересно, что этот экранный герой как бы приобрел черты реально существующего лица. Один репортер даже опубликовал «интервью» с Тора-сан, а токийский район Сибамата, малая родина героя, превратился в место паломничества экскурсантов.
Среди других произведений: "Семья", "Родина", "Собрат", "Желтый платочек счастья", получивший кроме премии за режиссуру премии еще в пяти номинациях на первой церемонии вручения призов Японской киноакадемии, "Зов далеких гор", "Вселенная кинематографа", снятый к пятидесятилетию студии Сётику Офунэ, а также "Герои торговых кварталов", "Сын", и, наконец, фильм "Школа", завоевавший главную награду Японской Киноакадемии в номинации "лучший фильм".
Лауреат множества премий, таких как Премия Министра Просвещения "За вклад в искусство", премия Майнити, премия имения Кикути Кана, премия за "лучшую режиссерскую работу" на кинофестивале Майнити Эйга, кинематографическая премия имени Фумико Ямамити, приз четвертого фестиваля "Возрождение японского кинематографа и др. В 1996 году режиссера награждают Медалью Пурпурной Ленты, а в 2002 году – малым Орденом Восходящего Солнца четвертой степени.
Среди литературных произведений – "Собрание произведений Ёдзи Ямада" (в восьми томах), "Как снимать фильмы", "Воспитательная теория Тора-сан" и другие.