توجد أمثلة على أجهزة الحساب البدائية والتي تمثل الأسلاف الأوائل للحاسوب، منها abacus أو المعداد (أداة تستخدم الآن في تعليم الأطفال العد) و Antikythera mechanism وهو جهاز يوناني قديم كان يستخدم لحساب حركات الكواكب والتأريخ من سنة 87 ق.م. تقريباً. شهدت نهاية العصور الوسطى نشاطًا أوروبيًا في علمي الرياضيات والهندسة وكان فيلهلم شيكارد الأول من عدد من العلماء الأوروبيين الذي أنشئ آلة حاسبة ميكانيكية. تم تدوين abacus (المعداد) على أنه حاسوب بدائي وذلك لأنه كان يشبه الآلة الحاسبة في الماضي. في عام 1801 قام جوزيف ماري جاكار بعمل تحسين للأشكال النولية الموجودة والتي تستخدم مجموعة متتالية من البطاقات الورقية المثقوبة وكأنها برنامج لنسج أشكال معقدة. والنتيجة كانت أن نول Jacquard لم يتم اعتباره حاسوبًا حقيقيًا ولكنه كان خطوة هامة في تطوير الحواسيب الرقمية الحديثة. كان تشارلز باباج أول من فكر وصمم حاسوبًا مبرمجًا بالكامل وذلك في بداية عام 1820 ولكن بسبب مجموعة من الحدود التقنية في ذلك الوقت والمحدودية المالية، وكذلك عدم القدرة على حل مشكلة الإصلاح غير الجيد في تصميمه فإن الجهاز لم يتم بناءه فعلياً في حياته. ظهرت عدد من التقنيات التي أثبتت فائدتها لاحقًا في الحوسبة، مثل البطاقة المثقوبة وأنبوب الصمام بنهاية القرن التاسع عشر، ومعالجة البيانات أوتوماتيكيًا ذات التدرج الكبير باستخدام البطاقات المثقوبة صُنٍعت باستخدام آلات جدولة والتي صممها هيرمان هولليريث
إن نجاح الحواسيب القوية والمريحة بدأ في الثلاثينيات والأربعينات من القرن العشرين، وأضيفت -بالتدريج- المميزات الرئيسية في الحواسيب الحديثة مثل استخدام الإليكترونيات الرقمية (اخترع معظمها كلود شانون عام 1937) والقدرة على البرمجة بطريقة أكثر سلاسة. إن تحديد نقطة واحدة خلال هذا المشوار على أنها "أول حاسوب اليكتروني رقمي" أمر صعب جدا.
من الإنجازات الأساسية، حاسوب Atanasoff-Berry 1937، وهي آلة ذات غرض مخصص والتي كانت تستخدم الحوسبة المقادة بالصمامات (أنبوب الصمام) والأرقام الثنائية والذاكرة المجددة. حاسب Colossus البريطاني السري (1944) والذي كان يملك قدرة محدودة على البرمجة ولكنه قدم جهازًا يستخدم الآلاف من الصمامات من الممكن أن يكون موثوقا وإعادة برمجته إلكترونيا. Harvard Mark I 1944 حاسوب إلكتروميكانيكي ذو تدرج كبير ولديه قدرة محدودة على البرمجة.
الحاسوب الأمريكي المبني على نظام العد العشري (1946-ENIAC) وكان أول حاسوب إلكتروني ذو أغراض عامة ولكن في الأساس فإن بنيته غير سلسة مما يعني أن إعادة برمجته أساسيًا تتطلب إعادة توصيله. وآلات Z الخاصة بـ Konrad Zuse، مع الاليكتروميكانيكي Z3)1941) يكون أول آلة عاملة تقدم ميزة الحساب الاوتوماتيكي للأرقام الثنائية والقدرة على البرمجة بطريقة عملية وملائمة.
إن فريق العمل الذي قام بتطوير ENIAC أدرك عيوب جهازه وجاء بتصميم أكثر مرونة وروعة والذي صار يعرف ببنية Von Neumann (أو "بنية البرنامج المخزن"). أصبحت بنية البرنامج المخزن افتراضيا القاعدة لكل الحواسيب الحديثة. بدأ عدد من المشاريع لتطوير حاسوب يعتمد على بنية البرنامج المخزن في منتصف إلى آخر الأربعينات من القرن العشرين. إن أول حاسوب من هولاء تم الانتهاء منه في بريطانيا. أول هولاء الذي يعتبر أفضل وعامل كان ما يعرف بآلة التدرج الصغير التجريبية (Small-Scale Experimental Machine) ولكن EDSAC ربما كان أول نسخة عملية تم تطويرها.
إن تصميمات الحاسوب المقاد بأنبوب الصمام أصبحت قيد الاستخدام خلال الخمسينات من القرن العشرين، ولكن مع الوقت تم استبدالها بالحواسيب الترانزستورية حيث أنها أصغر وأسرع وأرخص وأكثر موثوقية، كل ذلك أتاح لها أن يتم إنتاجها على المستوي التجاري وذلك في الستينات من القرن العشرين. في سبعينات القرن العشرين، ساعد اختيار تكنولوجيا الدائرة المتكاملة في إنتاج الحواسيب بتكلفة قليلة كافية لأن تسمح للافراد بامتلاك حاسوب شخصي من الأنواع المعروفة حاليا
