Kapliczka Św. Huberta, biskupa diecezji Liege w Belgi, patrona myśliwych, leśników i jeźdźców została postawiona na Górze Kozłowej nie przypadkowo.
Stoi na szlaku królewskich łowów Kazimierza III Wielkiego ostatniego władcy z dynastii Piastów. Losy króla są nierozerwalnie związane z Przedborzem i nieprzebytymi pełnymi zwierza borami, w których namiętnie polował. Według kroniki Janka z Czarnkowa, podczas jednego z takich polowań na jelenie w 1370 r., król spadł z konia i zranił się w lewą nogę. Zdarzenie to doprowadziło do gorączki, a następnie śmierci władcy 5 listopada 1370 r.