Kešatmiņas koherence: definīcija un risinājumi daudzprocesoru sistēmām
Kešatmiņas koherence: skaidrojums un praktiski risinājumi daudzprocesoru sistēmām — efektīva datu saskaņošana, integritāte un veiktspējas uzlabošana.
Kešatmiņas var izmantot, lai uzlabotu piekļuves veiktspēju pie bieži lietotiem atmiņas resursiem. Ja vienam un tam pašam resursam ir vairāki kešatmiņu kopijas (piemēram, katram procesoram savs kešs), tas var radīt problēmas ar datu patiesumu un sinhronizāciju. Kešatmiņas koherence (vai kešatmiņas saskaņotība) attiecas uz mehānismiem, kas nodrošina, ka visos sistēmā esošajos kešos un kopējā atmiņā esošie dati par konkrētu atmiņas bloku ir saderīgi un loģiski pareizi — tas nozīmē, ka dati kešatmiņā saglabā savu datu integritāti un atspoguļo veiktās izmaiņas paredzamā veidā. Kešatmiņas saskaņotība ir specifisks plašākās atmiņas saskaņotības (memory consistency) problēmas gadījums.
Problemas parādās, ja vairāki keši satur to pašu atmiņas bloku un kāds no kešiem šo bloku modificē. Piemēram, daudzprocesoru sistēmā katram procesoram var būt lokāla kešatmiņa — ja augšējais klients pirms tam nolasa bloku un glabā to savā kešā, bet apakšējais klients to vēlāk maina, augšējais klients var palikt ar novecojušu (invalidu) keškopiju, par to nezinot. Šādas situācijas noved pie nekonsekvencēm un kļūdām, ja netiek pielietoti atbilstoši koherences mehānismi. Kešatmiņas saskaņotības mērķis ir pārvaldīt šos konfliktus un saglabāt konsekvenci starp kešiem un kopējo atmiņu.
Galvenie risinājumu veidi
- Snooping (autonoma uzraudzība) — visi keši uzrauga sistēmas datu bušu vai signālu vietu, lai noteiktu, kad kāds cits kešs lasa vai raksta attiecīgo atmiņas bloku. Kad tiek veikta rakstīšana, tiek nosūtīta invalīda vai atjaunināšanas ziņa citiem kešiem. Snooping ir ātrs un vienkāršs mazākiem daudzprocesoru dizainiem, kas izmanto kopēju bušu infrastruktūru.
- Direktorija protokoli — tiek izmantota centralizēta vai sadalīta direktorija, kas uztur informāciju par to, kuri keši satur konkrētu atmiņas bloku. Kad procesos tiek pieprasīta rakstīšana vai lasīšana, direktorija nosaka, kuras keškopijas jāinvalidē vai jāatjaunina. Šī pieeja mērogojas labāk lielām sistēmām, kur snooping kļūst neefektīvs.
- Rakstīšanas politikas — write-through (rakstīšana caur kešu uz galveno atmiņu) pret write-back (rakstīšana vispirms kešā, atjaunināšana galvenajā atmiņā vēlāk). Write-through vieglāk nodrošina koherenci, bet var palielināt atmiņas trafiku; write-back samazina trafiku, taču prasa spēcīgākus koherences mehānismus.
- Protokoli stāvokļu vadībai — piemēram, MSI, MESI, MOESI un citas variācijas, kas definē atmiņas bloka stāvokļus (Modified, Exclusive, Shared, Invalid u.c.) un pārejas noteikumus, kas nodrošina pareizu uzvedību lasīšanas/rakstīšanas situācijās.
Bieži sastopamas problēmas un izaicinājumi
- False sharing — divi procesori izmanto dažādus mainīgos, kas nejauši atrodas vienā atmiņas blokā. Viens procesors bieži pārraksta bloku, kas liek invalidēt otru kešu, izraisot lieku sastrēgumu un veiktspējas kritumu.
- Skalējamība — snooping protokoli labi darbojas mazākās sistēmās ar kopēju bušu, bet liela mezglu skaita gadījumā trafiks un sacīkšu nosacījumi var kļūt par šķērsli. Direktoriju pieejas bieži ir nepieciešamas mērogojumiem.
- Atmiņas modeļu atšķirība — koherence nodrošina lokālu bloku saskaņotību, bet neatrisina visu programmētāja vēlamo atmiņas uzvedību (piem., secību starp operācijām). Tādēļ papildus koherences mehānismiem ir svarīgas atmiņas konsistences (memory consistency) modeli un sinhronizācijas APIs (barjeras, slēdži, atomiskās operācijas).
Kā to risina praktiski (piemēri)
- Procesors A lasa bloku X — tas tiek saglabāts A kešā (stāvoklis: Shared vai Exclusive).
- Procesors B vēlāk raksta bloku X — tiek nosūtīta invalīda (invalidate) vai atjaunināšanas (update) ziņa. Ja tiek izmantots invalīdācijas modelis, A kešā X kļūst par Invalid un A nākamajā piekļuvē piesaka bloku no galvenās atmiņas vai no B.
- Ar direktoriju protokolu B pieprasa rakstīšanas atļauju no direktorijas, direktorija informē un pieprasa citiem kešiem invalidēt bloku, pēc tam B iegūst ekskluzīvu atļauju rakstīt.
Veiktspējas un projektēšanas apsvērumi
- Izvēle starp write-through un write-back ietekmē trafiku un sarežģītību.
- No aparatūras viedokļa svarīgas ir kešu bloku izmērs (granularitāte), mehanismi, kas samazina false sharing, un efektīva direktoriju vai snooping īstenošana.
- Programmatūras optimizācijas — piemēram, datu izkārtojuma maiņa, lai samazinātu false sharing, un pareiza sinhronizācija (locks, atomikās operācijas, barjeras) — var būt izšķirošas, lai panāktu labu kopējo veiktspēju.
Ieteikumi izstrādātājiem un arhitektiem
- Analizējiet lietošanas raksturu un izvēlieties piemērotu koherences risinājumu: snooping mazākām sistēmām, direktorija lielākām.
- Domājiet par kešu bloku lielumu un datu izkārtojumu, lai mazinātu false sharing.
- Izmantojiet modernus protokolus (piem., MESI/MOESI) un aparatūras atbalstu atomiskajām operācijām un barjerām, lai vienkāršotu programmatūras loģiku.
- Testējiet un profilēšanas laikā meklējiet kešu invalīdu/atjauninājumu pārmērību — tas bieži norāda uz optimizējamu datu sadalījumu vai sinhronizācijas problēmu.
Kopumā kešatmiņas koherence ir būtisks jautājums daudzprocesoru un dalītās atmiņas sistēmās. Pareizi izvēlēti un īstenoti koherences mehānismi nodrošina sistēmas pareizu darbību un var ievērojami ietekmēt veiktspēju. Lai sasniegtu optimālu rezultātu, nepieciešama gan aparatūras, gan programmatūras sadarbība, kā arī uzmanīga datu un sinhronizācijas struktūru plānošana.
Var rasties problēmas, ja ir daudz kopīga atmiņas resursa kešatmiņas, jo datiem kešatmiņā var vairs nebūt jēgas vai arī vienā kešatmiņā var nebūt tādu pašu datu kā pārējos. Bieži sastopams gadījums, kad rodas problēma, ir procesoru kešatmiņa daudzprocesoru sistēmā. Kā redzams attēlā, ja augšējam klientam ir atmiņas bloka kopija no iepriekšējās nolasīšanas un apakšējais klients maina šo atmiņas bloku, augšējais klients var palikt ar nederīgu atmiņas kešatmiņu, par to nezinot. Kešatmiņas saskaņotība ir paredzēta, lai pārvaldītu šādus konfliktus un saglabātu konsekvenci starp kešatmiņu un atmiņu.
Vairāki koplietojamā resursa kešatmiņas
Definīcija
Koherence nosaka, kā notiek lasījumi un rakstījumi uz vienu un to pašu atmiņas vietu. Kešatmiņas ir saskaņotas, ja ir izpildīti visi turpmāk minētie nosacījumi:
- Kad procesors P nolasa atrašanās vietu X, pēc ierakstīšanas šajā atrašanās vietā P ir jāsaņem vērtība, ko tas ierakstījis, ja neviens cits procesors šajā atrašanās vietā nav ierakstījis citu vērtību. Tas attiecas arī uz monoprocesoru sistēmām, tas nozīmē, ka atmiņa spēj saglabāt ierakstīto vērtību.
- Pieņemsim, ka ir divi procesori, P1 un P2, un P ir 1ierakstījis vērtību X1, un pēc tam P ir 2ierakstījis vērtību X2, ja P 1nolasa vērtību, tam ir jāsaņem P2 ierakstītā vērtība X2, nevis vērtība, ko tas ir ierakstījis, X1, ja starp abiem nav citu ierakstu. Tas nozīmē, ka atmiņas skats ir saskaņots. Ja procesori var nolasīt to pašu veco vērtību pēc P2 veiktā ieraksta, atmiņa nebūtu koherenta.
- Vienlaicīgi var veikt tikai vienu ierakstu uz noteiktu vietu atmiņā. Ja ir vairāki ieraksti, tiem jānotiek vienam pēc otra. Citiem vārdiem sakot, ja atrašanās vieta X ir saņēmusi divas dažādas vērtības A un B šādā secībā no jebkuriem diviem procesoriem, procesori nekad nevar nolasīt atrašanās vietu X kā B un pēc tam nolasīt to kā A. Vieta X ir jāskata ar vērtībām A un B šādā secībā.
Šie nosacījumi ir definēti, pieņemot, ka lasīšanas un rakstīšanas operācijas tiek veiktas uzreiz. Tomēr datoru aparatūrā tas nenotiek atmiņas aizkavēšanās un citu arhitektūras aspektu dēļ. Procesora X veikto ierakstu var nepamanīt procesora Y veiktais nolasījums, ja nolasījums tiek veikts ļoti īsā laikā pēc ieraksta veikšanas. Atmiņas konsekvences modelis nosaka, kad ierakstītajai vērtībai jābūt redzamai pēc tam, kad citi procesori izdod nolasīšanas instrukciju.
Kešatmiņas koherences mehānismi
- Uz direktoriju balstīti saskaņotības mehānismi uztur centrālo direktoriju ar kešētajiem blokiem.
- Snooping ir process, kurā katra kešatmiņa uzrauga adrešu rindas, lai noteiktu piekļuves atmiņas vietām, kas ir tās kešatmiņā. Ja tiek novērota rakstīšanas operācija uz vietu, kuras kopija ir kešatmiņas kopijā, kešatmiņas kontrolieris anulē savu kopiju no izsekojamās atmiņas vietas.
- Snarfing ir gadījums, kad kešatmiņas kontrolieris uzrauga gan adresi, gan datus, mēģinot atjaunināt savu atmiņas vietas kopiju, kad otrs galvenais kontrolieris maina vietu galvenajā atmiņā.
Sadalītās koplietojamās atmiņas sistēmas imitē šos mehānismus, lai varētu saglabāt konsekvenci starp atmiņas blokiem brīvi saistītajās sistēmās.
Divi visbiežāk pētītie saskaņotības veidi parasti ir Snooping un Directory-based. Katram no tiem ir savas priekšrocības un trūkumi. Snooping protokoli parasti ir ātrāki, ja ir pieejams pietiekams joslas platums, jo visi darījumi ir pieprasījums/atbilde, ko redz visi procesori. Trūkums ir tas, ka snooping nav mērogojams. Katrs pieprasījums ir jānosūta visiem sistēmas mezgliem. Palielinoties sistēmai, (loģiskās vai fiziskās) kopnes izmēram un tās nodrošinātajam joslas platumam ir jāpalielinās. No otras puses, direktorijām parasti ir garāki kavējumi (ar 3 lēcienu pieprasījumu/pārsūtīšanu/atbildi), bet tās izmanto daudz mazāku joslas platumu, jo ziņojumi tiek sūtīti no punkta uz punktu, nevis pārraidīti. Šā iemesla dēļ daudzās lielākās sistēmās (>64 procesori) izmanto šāda veida kešatmiņas koherenci.
Jautājumi un atbildes
J: Kas ir kešatmiņas koherence?
A: Kešatmiņas saskaņotība nozīmē nodrošināt, ka visos resursa kešatmiņas kešatmiņas kešās ir vienādi dati un ka dati kešatmiņā ir konsekventi (datu integritāte).
J: Kāds ir kešatmiņas saskaņotības mērķis?
A: Kešatmiņas saskaņotības mērķis ir pārvaldīt konfliktus starp vairākiem kopīga atmiņas resursa kešatmiņas resursiem un saglabāt konsekvenci starp kešatmiņu un atmiņu.
J: Kādas var būt sekas, ja netiek nodrošināta kešatmiņas saskaņotība?
A: Ja nav kešatmiņas saskaņotības, datiem kešatmiņā var zust jēga vai vienā kešatmiņā var nebūt tādu pašu datu kā pārējos, kas var izraisīt nekonsekvenci un kļūdas.
J: Kāds ir biežākais gadījums, kad rodas problēmas ar kešatmiņas saskaņotību?
A: Bieži sastopams gadījums, kad rodas problēmas ar kešatmiņas saskaņotību, ir procesoru kešatmiņa daudzprocesoru sistēmā.
J: Kā darbojas kešatmiņas saskaņotība?
A. Kešatmiņas saskaņotība darbojas, ar dažādām metodēm nodrošinot, ka visiem resursa kešatmiņas kešatmiņas resursiem ir vieni un tie paši dati un ka dati kešatmiņas kešatmiņā ir konsekventi.
J: Ko nozīmē atmiņas saskaņotība?
A. Atmiņas saskaņotība attiecas uz datu konsekvenci koplietojamās atmiņas resursā.
J: Kā kešatmiņas saskaņotība var uzlabot veiktspēju?
A. Kešatmiņas saskaņotība var uzlabot veiktspēju, nodrošinot ātrāku un efektīvāku piekļuvi noteiktam resursam.
Meklēt