Холле родился 12 октября 1859 года в Милуоки, штат Висконсин . [1] В 1890 году он стал заместителем шерифа округа Милуоки, штат Висконсин . Он стал младшим шерифом в 1892 году.