Jelaskan bagaimana kelebihan dan kekurangan arsitektur komputasi paralel pada share memory

Karakteristik umum:

Bersama komputer paralel memori bervariasi, tetapi umumnya memiliki kesamaan kemampuan untuk semua prosesor untuk mengakses semua memori sebagai ruang alamat global. Beberapa prosesor dapat beroperasi secara independen tetapi berbagi sumber daya memori yang sama. Perubahan lokasi memori dipengaruhi oleh satu prosesor yang terlihat untuk semua prosesor lainnya. Secara historis, mesin memori bersama telah diklasifikasikan sebagai UMA dan NUMA, berdasarkan waktu akses memori.

Sedikit penjelasan tentang UMA & NUMA dalam Arsitektur Memori dilihat dari Waktu Akses nya .

Uniform Memory Access (UMA):

Paling sering diwakili oleh Symmetric Multiprocessor (SMP) mesin

Prosesor identik Akses yang sama dan waktu akses ke memori Kadang-kadang disebut CC-UMA – Cache Coherent UMA. Cache koheren berarti jika satu prosesor update lokasi di memori bersama, semua prosesor lain tahu tentang pembaruan. Cache koherensi dicapai pada tingkat hardware.

Non-Uniform Memory Access (NUMA):

Sering dibuat untuk menghubungkan dua atau lebih SMP ,Satu SMP dapat langsung mengakses memori SMP lain ,Tidak semua prosesor memiliki waktu yang sama akses ke semua link , Akses memori melalui link lambat,Jika koherensi cache dipertahankan, maka bisa juga disebut CC-NUMA – Cache Coherent NUMA

Keuntungan :

Ruang alamat global memberikan perspektif pemrograman user-friendly ke memori
Berbagi data antara tugas-tugas bersifat cepat dan seragam karena kedekatan memori untuk CPU

Kekurangan:

Kerugian utama adalah kurangnya skalabilitas antara memori dan CPU. Menambahkan lebih CPU geometris dapat meningkatkan lalu lintas di jalan bersama memori-CPU, dan geometris meningkatkan lalu lintas terkait dengan cache / manajemen memori.
Programmer bertanggung jawab untuk sinkronisasi konstruksi yang menjamin “benar” akses memori global.

Memori terdistribusi

Seperti sistem memori bersama, sistem memori terdistribusi bervariasi tetapi memiliki satu karakteristik umum. Sistem memori terdistribusi memerlukan jaringan komunikasi untuk menghubungkan memori antar-prosesor.

Prosesor memiliki memori lokal sendiri. Alamat memori dalam satu prosesor tidak hubungkan ke prosesor lain, sehingga tidak ada konsep ruang alamat global di semua prosesor. Karena setiap prosesor memiliki memori lokal sendiri, beroperasi secara independen. Perubahan itu membuat ke memori lokal tidak berpengaruh pada memori prosesor lainnya. Oleh karena itu, konsep koherensi cache tidak berlaku. Ketika prosesor membutuhkan akses ke data dalam prosesor lain, biasanya tugas programmer untuk secara eksplisit menentukan bagaimana dan kapan data dikomunikasikan. Sinkronisasi antara tugas adalah juga tanggung jawab programmer. Jaringan “kain” digunakan untuk transfer data sangat bervariasi, meskipun bisa dapat yang sederhana seperti Ethernet.

Keuntungan :
- Memori terukur dengan jumlah prosesor. Meningkatkan jumlah prosesor dan ukuran memori meningkat secara proporsional.
- Setiap prosesor cepat dapat mengakses memori sendiri tanpa gangguan dan tanpa overhead yang terjadi dengan berusaha mempertahankan koherensi cache global.
- Efektivitas biaya: dapat menggunakan komoditas, prosesor off-the-shelf dan jaringan.
Kerugian :
- Programmer bertanggung jawab untuk banyak rincian yang terkait dengan komunikasi data antara prosesor.
- Mungkin sulit untuk memetakan struktur data yang ada, berdasarkan memori global organisasi
- Memori non-seragam waktu akses – data yang berada di remote node membutuhkan waktu lebih lama untuk mengakses data lokal daripada simpul.

Refrensi :

http://www.computerworld.com/s/article/65878/The_Power_of_Parallelism

www.eecs.berkeley.edu/Pubs/TechRpts/2006/EECS-2006-183.pdf

http://shodhganga.inflibnet.ac.in/handle/10603/3398

This entry was posted in bacaaan and tagged arsitektur memori, komputer, Paralel. Bookmark the permalink.

Komputasi paralel adalah suatu teknik komputasi yang memanfaatkan beberapa computer independen secara bersamaan. Biasanya di lakukan ketika kapasitas data yang diperlukan besar, baik karena mengola data dengan jumlah yang besar seperti dalam industri keuangan, bioinformatika, dan lain-lain. maupun karena tuntutan proses komputasi yang banyak.

Komputasi paralel berbeda dengan multitasking. Multitasking adalah computer yang menggunakan processor tunggal untuk mengeksekusi beberapa tugas secara bersamaan. Sedangkan komputasi seperti yang sudah di jelaskan komputasi menggunakan beberapa processor atau komputer dan komputasi paralel tidak menggunakan arsitektur Von Neumann.

Komputasi paralel memerlukan : Algoritma, Bahasa Pemograman, dan compiler.

Tujuan utama komputasi paralel adalah untuk mempersingkat waktu eksekusi program yang menggunakan komputasi serial. Selain itu ada beberapa tujuan lain dari penggunaan komputasi paralel diantaranya :

Untuk menyelesaikan permasalah yang besar.
Adanya sumber daya non-lokal yang digunakan melalui internet atau jaringan.
Penghematan biaya untuk penggandaan perangkat keras.
Adanya keterbatasan kapasitas memori pada mesin untuk komputasi secara serial.

Arsitektur Komputasi Paralel

Terdapat 4 model komputasi yang digunakan dalam komputasi paralel :

SISD (Single Instruction, Single Data) adalah satu-satunya yang menggunakan arsitektur Von Neumann, karena pada model ini hanya menggunakan satu buah processor. Oleh sebab itu model ini dapat dikatakan sebagai model untuk komputasi secara tunggal. Contoh computer yang menggunakan model ini diantaranya ada IBM 360, Cray 1, dan UNIVACI.
SIMD (Single Instuction, Multiple Data) model ini menggunakan banyak processor dengan instruksi yang dama tetapi setiap processor mengolah yang berbeda-beda. Beberapa computer yang menggunakan model SIMD ini adalah MasPar, Cray X-MP, dan ILLIAC IV.
MISD (Multiple Instruction, Multiple Data) model ini menggunakan banyak processor, processor yang digunakan mendapatkan instruksi yang berbeda tetapi digunakan untuk mengolah data yang sama. Arsitektur ini kurang populer karena hanya sedikit permasalahan yang membutuhkan solusi dengan menggunakan karakteristik arsitektur ini. Sampai saat ini belum ada komputer yang menggunakan model MISD.
MMID (Multiple Instruction, Multiple Data) model ini menggunakan banyak processor, processor yang digunakan memiliki instruksi yang berbeda dan mengelolah data yang berbeda. Arsitektur ini dapat melakukan pekerjaan sesuai dengan karakteristik dari ketiga asitektur sebelumnya. Computer yang menggunakan model ini diantanya adalah IBM POWER5, Intel IA32, dan Cray XT3.

Arsitektur Memori pada Komputasi Paralel

Terdapat dua buah arsitektur memori pada computer paralel, yaitu :

Shared memory : Global addressing ini tersedia di dalam arsitektur ini, sehingga semua prosesor mempunyai cara pengaksesan memori yang seragam. Apabila terjadi perubahan di suatu lokasi memori oleh suatu processor maka akan terlihat oleh prosessor yang lain. Kelebihan dari Shared memory diantaranya adalah pengaksesan memori yang user friendly dan performansi yang baik dalam penggunaan data bersama antar task. Sedangkan kekurangannya diantaranya adalah kurangnya skalabilitas ketika terjadi penambahan prosesor.

Distributed memory : terdapat karakteristik di mana setiap prosesor memiliki memorinya masing-masing, sehingga eksekusi instruksi dapat berjalan secara independen antara satu prosesor dengan processor yang lain. Prosesor akan menggunakan jaringan ketika membutuhkan akses ke memori non lokal. Akses ini sepenuhnya menjadi tanggung jawab penulis program. Kelebihan dari arsitektur ini adalah terjaganya skalabilitas ketika terjadi penambahan prosesor. Sedangkan kekurangannya adalah penulis program harus berurusan dengan detail komunikasi data antara prosesor dan memori non lokal.

Hambatan Komputasi Paralel

Penggunaan komputasi paralel sebagai solusi untuk mempersingkat waktu yang dibutuhkan untuk eksekusi program mempunyai beberapa hambatan, diantaranya :

Hukum Amdhal adalah Peningkatan kecepatan secara paralel akan menjadi linear, melipatgandakan kemampuan proses sebuah komputer dan mengurangi separuh dari waktu proses yang diperlukan untuk menyelesaikan sebuah masalah.
Hambatan yang bersangkutan beban waktu yang digunakan untuk inisiai task, sinkronisasi, dan terminasi task.
Hambatan yang diakibatkan karena beban jaringan : didalam eksekusi program secara parallel ini, prosesor yang berada di mesin yang berbeda memerlukan pengiriman dan penerimaan data (atau instruksi) melalui jaringan. Untuk sebuah program yang dibagi menjadi task-task yang sering membutuhkan sinkronisasi, network latency menjadi masalah utama.