Конрад Цузе родился 22 июня 1910 года в Берлине. С детских лет проявлял интерес к конструированию. Учась в школе, спроектировал действующую модель машины по размену монет и создавал проект города на 37 миллионов жителей. А в годы студенчества к нему впервые пришла идея создания автоматического программируемого вычислителя.

В 1935 году Цузе получил образование инженера в Берлинской высшей технической школе в Шарлоттенбурге. Год работал на авиационной фабрике Хейнкеля в городе Дессау. Затем уволился, вплотную занявшись созданием программируемой счетной машины.

Некоторое время он экспериментировал с десятичной системой исчисления, однако решил предпочесть ей двоичную. В 1938 году появилась первая действующая разработка Цузе, названная им «Z1». Свое изобретение Цузе конструировал на собственные средства и деньги друзей.

Но «Z1» работал ненадежно из-за недостаточной точности выполнения составных частей. В 1940 году изобретатель получил поддержку Исследовательского института аэродинамики и построил доработанную версию вычислителя – «Z2» на основе телефонных реле. В этом же году Цузе организовал компанию Zuse Apparatebau для производства программируемых машин.

Удовлетворённый функциональностью «Z2», в 1941 году Цузе создает уже более совершенную модель – «Z3», которую сегодня многие считают первым реально действовавшим программируемым компьютером.

За свой вклад и первые успехи в области автоматических вычислений, независимое предложение использования двоичной системы и арифметики с плавающей запятой, а также проектирование первого в Германии и одного из самых первых в мире программно-управляемых компьютеров в 1965 году Цузе получил мемориальную премию Гарри М. Гуда.

После выхода на пенсию изобретатель занялся своим любимым делом - живописью.

Цузе умер в возрасте 85 лет 18 декабря 1995 года в Хюнфельде (Германия). Сегодня несколько городов Германии имеют улицы, названные его именем.