Hem Personliga finanser Reduktionsfasen av Hadops MapReduce Application Flow-dummies

Reduktionsfasen av Hadops MapReduce Application Flow-dummies

Anonim

Reduktionsfasen behandlar nycklar och deras individuella listor över värden så att det som normalt returneras till klientprogrammet är en uppsättning nyckel- / värdepar. Här är blås-by-blow: En stor datasats har delats upp i mindre bitar, kallad ingångsavsnitt, och enskilda instanser av mapperuppgifter har bearbetat var och en av dem.

I vissa fall är denna enda fas av bearbetning allt som behövs för att generera önskad applikationsutgång. Om du till exempel kör en grundläggande omvandlingsoperation på data - konverterar all text till stor boks, till exempel, eller extraherar nyckelramar från videofiler - är den enda fasen allt du behöver. (Detta är känt som ett map-only jobb, förresten.)

Men i många andra fall är jobbet bara halvt gjort när mapperuppgifterna har skrivit sin produktion. Den återstående uppgiften är att koka ner alla interimresultat till ett enda, enhetligt svar.

På samma sätt som mapper-uppgiften, som behandlar varje posten en-för-en, reducerar reduceraren varje nyckel individuellt. Normalt returnerar reduceraren ett enda nyckel / värdepar för varje nyckel som behandlas. Dessa nyckel / värdepar kan dock vara så expansiva eller så små som du behöver dem att vara.

När reduktionsuppgifterna är klara, returnerar var och en en resultatfil och lagrar den i HDFS (Hadoop Distributed File System). Såsom visas här replikerar HDFS-systemet automatiskt dessa resultat.

Om resurshanteraren (eller JobTracker om du använder Hadoop 1) försöker att fördela resurser till mapper-uppgifter för att säkerställa att ingångsavsnitt behandlas lokalt finns det ingen sådan strategi för reduktionsuppgifter. Det antas att mappar uppgiftsresultat uppsättningar måste överföras över nätverket för att bearbetas av reduktionsuppgifterna.

Det här är en rimlig implementering eftersom det med hundratals eller till och med tusentals mapparuppgifter inte finns något praktiskt sätt att reducera uppgifterna med samma prioritering av lokalisering.

Reduktionsfasen av Hadops MapReduce Application Flow-dummies

Redaktörens val

Hur man lägger till text i en sätter () Funktion i C Programmering

Hur man lägger till text i en sätter () Funktion i C Programmering

När du behöver visa en annan textrad, använd C-programmeringsfärdigheterna för att skapa en annan puts () -funktion i källkoden, som visas i Visa två textlinjer. VISA TILL TEXTFINER # inkludera int main () {sätter ("Hickory, Dickory, Dock,"); sätter ("musen sprang klockan."); returnera (0);} Den andra ...

Förklarar variabler i C-dummies

Förklarar variabler i C-dummies

Variabler är det som gör dina program zooma. Programmering kan bara inte bli gjort utan dem. Så om du inte har introducerats till variabler än, här går du. Valerie Variable är en numerisk variabel. Hon älskar att hålla nummer - vilket nummer som helst; det spelar ingen roll. När hon ser ett lika tecken tar hon ett värde och ...

Redaktörens val

Gör rädsla för din vän - dummies

Gör rädsla för din vän - dummies

Rädsla är lika verklig som mod. Även om värdet av rädsla inte är lika uppenbart som modets värde, har det dess fördelar. Rädsla är din instinkt som säger att du är obehaglig - även om situationen inte kommer att skada dig. Alla har haft den känslan när man hellre drar locket ...

Hur man ökar din självmedvetenhet - dummies

Hur man ökar din självmedvetenhet - dummies

Du kommer att vara med dig själv under en livstid. Ingenting kommer att förändra det faktum. Att lära känna, som att lyssna på och uppskatta själv är avgörande för din sanity. Kanske kommer du till att älska, acceptera och omfamna alla du är, är svår för dig att föreställa dig just nu, men du kan göra ...

Hur man ökar din mentala flexibilitet - dummies

Hur man ökar din mentala flexibilitet - dummies

ÄR flexibel i arbete och relationer är ett tecken på en högpresterande. Medan perfektionister är styva och obehagliga i sitt arbete och hur de interagerar med andra, är högpresterande mer öppna och tillmötesgående. Att vara mer flexibel på jobbet gav Ralph aldrig förslag under brainstorming vid gruppmöten. Han kände att hans lag ...

Redaktörens val

Nätverksadministration: Linux-installation och virtuella konsoler - dummies

Nätverksadministration: Linux-installation och virtuella konsoler - dummies

Linux är i sig ett kommandoradsorienterat operativsystem. Grafiska användargränssnitt - inklusive installationsprogrammets GUI - tillhandahålls av en valfri komponent som heter X Window System. Men medan du arbetar med det grafiska användargränssnittet för installationsprogrammet, håller Linux flera ytterligare kommandorads-konsoler öppna. Normalt behöver du inte ...

Nätverksadministration: Linux-loggning, logg och systemavstängning - dummies

Nätverksadministration: Linux-loggning, logg och systemavstängning - dummies

Alla användare som åtkomst ett Linux-system, lokalt eller över ett nätverk, måste verifieras av ett giltigt användarkonto på systemet. I det följande får du veta hur du loggar in och ut på ett Linux-system och hur du stänger av systemet. Logga in När Linux startar upp visas det ...

Nätverksadministration: Licensserver - Dummies

Nätverksadministration: Licensserver - Dummies

I vissa program kan du köpa nätverkslicenser som gör att du kan installera programvaran på många datorer som du vill, men reglera antalet personer som kan använda programvaran vid en viss tidpunkt. För att styra hur många som använder programvaran, är en särskild licensserver inrättad. När en användare börjar ...