Родился в 1931 году, с детства увлекался футболом. Начал свою карьеру в 1946 году в Суонси, однако не смог попасть в состав из-за юного возраста. Однажды, когда Чарльз играл за молодёжную команду Гендрос, его заметили скауты английского клуба Лидс Юнайтед. В сентябре 1948 года Чарльз удачно прошёл просмотр в Лидсе, и с ним был заключён контракт, первоначально Чарльз выступал за вторую команду Лидса, где тренер Мейджор Бакли пробовал валлийца на позициях правого защитника, центрального полузащитника и даже левого крайнего нападающего. Дебют в первой команде состоялся 19 апреля 1949 года в товарищеской игре против клуба Дамфрис, на глазах 20-тысячной толпы игра завершилась со счётом 0:0. В том же месяце состоялся дебют Чарльза в чемпионате Англии против клуба Блэкберн Роверс, в котором Джон играл в центре поля. Однажды из-за травмы форвардов Чарльз был отправлен на место центрфорварда и уже во второй игре сделал дубль, это вызвало споры в тренерском штабе, какую роль отводить Джону. Но всё же Чарльз играл на месте полузащитника, вплоть до сезона 1952/53, в котором в Лидс пришёл прекрасный полузащитник Джек Чарльтон, после чего Чарльз, не выдержавший конкуренции в центре поля, был отправлен на место центрального нападающего; смена амплуа пошла валлийцу на пользу — в первом же сезоне в новой роли Чарльз забил 26 мячей, а в следующем сезоне отличился 42 раза. Всего за Лидс Чарльз провёл 297 матчей и забил 150 мячей. 

В 1957 году Чарльз перешел в Ювентус, где выступал на протяжении 5 лет и забил более 90 голов. В 1962 году Чарльз вновь вернулся в Лидс, но играть на прежнем уровне не мог, поэтому провел за клуб лишь 11 матчей, забив 3 гола. Дальше были Рома, Кардифф, Херефорд и валийский Мертир Тидвил. В последних двух клубах Чарльз был играющим тренером. Скончался великий игрок 21 февраля 2004 года.