Kompyuter asri paydo bo'lganidan beri tobora kuchliroq tizimlarga ehtiyoj paydo bo'ldi. Bunga asosan kompyuter texnologiyalari evolyutsiyasi natijasida erishildi. Shu bilan birga, unumdorlikning tegishli o'sishiga erishilishini kutgan holda, bitta hisoblash tizimida bir nechta protsessorlardan foydalanishga urinishlar bo'ldi. 70-yillarning boshlarida amalga oshirilgan birinchi bunday urinish - ILLIAC IV. Hozir ko'plab parallel kompyuterlar va ularni amalga oshirish uchun loyihalar mavjud. Parallel kompyuterlarning arxitekturasi bir-biridan sezilarli darajada farq qilishi mumkin. Keling, parallel kompyuterlarning ba'zi muhim tushunchalari va komponentlarini ko'rib chiqaylik.
Parallel kompyuterlar uchta asosiy komponentdan iborat: protsessorlar, xotira modullari va kommutatsiya tarmog'i. Bundan tashqari, parallel kompyuterning tarkibiy qismlarga bo'linishini ham ko'rib chiqishingiz mumkin, ammo bu uchta komponent bir parallel kompyuterni boshqasidan eng yaxshi ajratib turadi.