Cache Memori

Cache memory merupakan media penyimpanan data sekunder berkecepatan tinggi, dimana tempat menyimpan data atau informasi sementara yang sering digunakan atau diakses oleh komputer.

Fungsi Cache Memory

§  Mempercepat kerja memori sehingga mendekati kecepatan prosesor.

§  Memori utama lebih besar kapasitasnya namun lambat operasinya, sedangkan cache memori berukuran kecil namun lebih cepat.

§  Cache memori berisi salinan memori utama

Ukuran cache memori adalah kecil, semakin besar kapasitasnya maka akan memperlambat proses operasi cache memori itu sendiri, disamping harga cache memori yang sangat mahal.

Organisasi Cache Memori

 

Elemen Cache Memori

Unsur	Macam
Ukuran blok
Ukuran blok
Mapping	1. Direct Mapping 2. Assosiative Mapping 3. Set Assosiative Mapping
Algoritma pengganti	1. Least recently used (LRU) 2. First in first out (FIFO) 3. Least frequently used (LFU) 4. Random
Write Policy	1. Write Througth 2. Write Back 3. Write Once
Jumlah Cache	1. Singe atau dua level 2. Unified atau split

Kapasitas Cache

v  AMD mengeluarkan prosesor K5 dan K6 dengan cache yang besar (1MB), kinerjanya tidak bagus

v  Intel mengeluarkan prosesor tanpa cache untuk alasan harga yang murah, yaitu seri Intel Celeron pada tahun 1998-an, kinerjanya sangat buruk terutama untuk operasi data besar, floating point, 3D

v  Sejumlah penelitian telah menganjurkan bahwa ukuran cache antara 1KB dan 512KB akan lebih optimum [STA96]

Ukuran Blok Cache

·         Hubungan antara ukuran blok dan hit ratio sangat rumit untuk dirumuskan, tergantung pada karakteristik lokalitas programnya dan tidak terdapat nilai optimum yang pasti telah ditemukan.

·         Ukuran antara 4 hingga 8 satuan yang dapat dialamati (word atau byte) cukup beralasan untuk mendekati nilai optimum [STA96]

Pemetaan (Cache)

·         Cache mempunyai kapasitas yang kecil dibandingkan memori utama.

·         Aturan blok – blok mana yang diletakkan dalam cache.

·         Terdapat tiga metode, yaitu pemetaan langsung, pemetaan asosiatif, dan pemetaan asosiatif set.

Pemetaan Langsung

Teknik paling sederhana, yaitu teknik ini memetakan blok memori utama hanya ke sebuah saluran cache saja.

 

Pemetaan Langsung

i = j modulus m dan m = 2r

dimana :

i = nomer saluran cache

j = nomer blok memori utama

m = jumlah saluran yang terdapat dalam cache

Pemetaan Assosiatif

ü  Mengatasi kekurangan pemetaan langsung

ü  Tiap blok memori utama dapat dimuat ke sembarang saluran cache.

ü  Alamat memori utama diinterpretasikan dalam field tag dan field word oleh kontrol logika cache.

ü  Tag secara unik mengidentifikasi sebuah blok memori utama

ü  Mekanisme untuk mengetahui suatu blok dalam cache dengan memeriksa setiap tag saluran cache oleh kontrol logika cache.

ü  Fleksibilitas dalam penggantian blok baru yang ditempatkan dalam cache

ü  Kelebihan : Algoritma penggantian dirancang untuk memaksimalkan hit ratio, yang pada pemetaan langsung terdapat kelemahan

ü  Kekurangan : kompleksitas rangkaian sehingga mahal secara ekonomi

Pemetaan Assosiatif Set

§      Menggabungkan kelebihan yang ada pada pemetaan langsung dan pemetaan asosiatif.

§      Memori cache dibagi dalam bentuk set–set.

§      Alamat memori utama diinterpretasikan dalam tiga field, yaitu: field tag, field set, field word.

§      Setiap blok memori utama dapat dimuat dalam sembarang saluran cache.

§      Cache dibagi dalam v buah set, yang masing –masing terdiri dari k saluran

m = v x k

i = j modulus v dan v = 2d dimana :

i = nomer set cache

j = nomer blok memori utama

m = jumlah saluran pada cache

Pemetaan Assosiatif Set

(Organisasi cache dengan pemetaan asosiatif set )

Pemetaan Assosiatif Set

(Contoh pemetaan asosiatif set )

Algorithma Penggantian

§  Suatu mekanisme pergantian blok–blok dalam memori cache yang lama dengan data baru

§  Pemetaan langsung tidak memerlukan algoritma ini

§  Pemetaan asosiatif dan asosiatif set, berperanan penting meningkatkan kinerja cache memori

§  Algoritma Least Recently Used (LRU), yaitu mengganti blok data yang terlama berada dalam cache dan tidak memiliki referensi. (EFEKTIF)

§  Algoritma First In First Out (FIFO), yaitu mengganti blok data yang awal masuk

§  Algorithma Least Frequently Used (LFU) adalah mengganti blok data yang mempunyai referensi paling sedikit.

§  Algoritma Random, yaitu penggantian tidak berdasakan pemakaian datanya, melainkan berdasar slot dari beberapa slot kandidat secara acak

Write Policy – Mengapa ?

§  Apabila suatu data telah diletakkan pada cache maka sebelum ada penggantian harus dicek apakah data tersebut telah mengalami perubahan.

§  Apabila telah berubah maka data pada memori utama harus di-update.

§  Masalah penulisan ini sangat kompleks, apalagi memori utama dapat diakses langsung oleh modul I/O, yang memungkinkan data pada memori utama berubah, lalu bagaimana dengan data yang telah dikirim pada cache?

§  Tentunya perbedaan ini menjadikan data tidak valid

Write Policy –”write through”

§  Operasi penulisan melibatkan data pada memori utama dan sekaligus pada cache memori sehingga data selalu valid.

§  Kekurangan teknik ini adalah

ü  Lalu lintas data ke memori utama dan cache sangat tinggi

ü  Mengurangi kinerja sistem, bisa terjadi hang

Write Policy –”write back “

§  Teknik meminimasi penulisan dengan cara penulisan pada cache saja.

§  Pada saat akan terjadi penggantian blok data cache maka baru diadakan penulisan pada memori utama.

§  Masalah : manakala data di memori utama belum di-update telah diakses modul I/O sehingga data di memori utama tidak valid

Write Policy-Multi cache

§  Multi cache untuk multi prosesor

ü  Masalah yang lebih kompleks.

§  Masalah validasi data tidak hanya antara cache dan memori utama

ü  Antar cache harus diperhatikan

Heuristik :

Bus Watching with Write Through

Hardware Transparency

Non Cacheable Memory

Cache

§  Cache Internal : dalam chip

ü  Tidak memerlukan bus eksternal

ü  Waktu aksesnya akan cepat sekali

§  Cache Eksternal : diluar chip

ü  Cache tingkat 2 (L2)

§  Cache data

§  Cache instruksi yang disebut unified cache

Keuntungan unified cache :

ü  Hit rate yang tinggi karena telah dibedakan antara informasi data dan informasi instruksi

ü  Hanya sebuah cache saja yang perlu dirancang dan diimplementasikan

§  split cache

ü  Mesin–mesin superscalar seperti Pentium dan PowerPC

ü  Menekankan pada paralel proses dan perkiraan – perkiraan eksekusi yang akan terjadi.

§  Kelebihan utama split cache

ü  Mengurangi persaingan antara prosesor instruksi dan unit eksekusi untuk mendapatkan cache, hal ini sangat utama bagi perancangan prosesor–prosesor pipelining