Заказ на постройку субмарины был отдан 1 апреля 1935 года. Лодка была заложена 2 декабря 1935 года на верфи АГ Везер в Бремене под строительным номером 909, спущена на воду 14 июля 1936 года. Лодка вошла в строй 12 сентября 1936 года под командованием капитан-лейтенанта Вильгельма Амброзиуса.
Лодка совершила 6 боевых походов, потопила одно судно водоизмещением 42 252 брт и один вспомогательный военный корабль водоизмещением 4 443 брт, повредила 2 судна суммарным водоизмещением 10 067 брт. Невосстановимо повредила 1 судно водоизмещением 9 577 брт.
С 19 августа по 29 сентября 1939 U-28 выходила в свой первый поход. 14 сентября 1939, обходя губу в проливе Святого Георга потопила британское грузовое судно MV Vancouver City (5000т), которое стало её единственным успехом в этом походе.[1]
С 8 ноября по 12 декабря 1939 состоялся второй поход U-28. В этом походе лодке были даны инструкции установить минное поле возле порта города Суонси. По пути в Бристоль U-28 потопила два судна: датский (по другим данным Нидерландский) танкер MV Sliedrecht (5000т) и британское грузовое судно SS Royston Grange (5100т). После этого U-28 установила минное поле и вернулась в порт в Германии. Хотя минные поля и не имеют немедленного успеха, но 60 дней спустя на нем подорвалось британское грузовое судно SS Protesilaus (9600т), которое было вынуждено выброситься на берег и, в результате, было признано невосстановимым.[2]
С 18 февраля по 25 марта 1940 U-28 выходила в третий поход. Субмарина имела задачу постановки минного поля возле британской военно-морской базы в Портсмуте. После постановки мин она потопила два корабля: греческое грузовое судно SS P Margaronis и нидерландский танкер MV Eulota (суммарно 11200т).[3]