Hem Personliga finanser Reduktionsfasen av Hadops MapReduce Application Flow-dummies

Reduktionsfasen av Hadops MapReduce Application Flow-dummies

Anonim

Reduktionsfasen behandlar nycklar och deras individuella listor över värden så att det som normalt returneras till klientprogrammet är en uppsättning nyckel- / värdepar. Här är blås-by-blow: En stor datasats har delats upp i mindre bitar, kallad ingångsavsnitt, och enskilda instanser av mapperuppgifter har bearbetat var och en av dem.

I vissa fall är denna enda fas av bearbetning allt som behövs för att generera önskad applikationsutgång. Om du till exempel kör en grundläggande omvandlingsoperation på data - konverterar all text till stor boks, till exempel, eller extraherar nyckelramar från videofiler - är den enda fasen allt du behöver. (Detta är känt som ett map-only jobb, förresten.)

Men i många andra fall är jobbet bara halvt gjort när mapperuppgifterna har skrivit sin produktion. Den återstående uppgiften är att koka ner alla interimresultat till ett enda, enhetligt svar.

På samma sätt som mapper-uppgiften, som behandlar varje posten en-för-en, reducerar reduceraren varje nyckel individuellt. Normalt returnerar reduceraren ett enda nyckel / värdepar för varje nyckel som behandlas. Dessa nyckel / värdepar kan dock vara så expansiva eller så små som du behöver dem att vara.

När reduktionsuppgifterna är klara, returnerar var och en en resultatfil och lagrar den i HDFS (Hadoop Distributed File System). Såsom visas här replikerar HDFS-systemet automatiskt dessa resultat.

Om resurshanteraren (eller JobTracker om du använder Hadoop 1) försöker att fördela resurser till mapper-uppgifter för att säkerställa att ingångsavsnitt behandlas lokalt finns det ingen sådan strategi för reduktionsuppgifter. Det antas att mappar uppgiftsresultat uppsättningar måste överföras över nätverket för att bearbetas av reduktionsuppgifterna.

Det här är en rimlig implementering eftersom det med hundratals eller till och med tusentals mapparuppgifter inte finns något praktiskt sätt att reducera uppgifterna med samma prioritering av lokalisering.

Reduktionsfasen av Hadops MapReduce Application Flow-dummies

Redaktörens val

Jewish Funeral Traditions - dummies

Jewish Funeral Traditions - dummies

Judiska begravningar sker vanligen i en synagoge, begravningshem eller på en kyrkogård. Med tradition är judiska begravningar enkla (symboliserar tron ​​att människor är alla lika i döden), men de varierar mycket och har ingen uppsättning liturgi. Att skicka blommor till ett begravnings- eller sorgshem är starkt avskräckt i judendomen. Inte bara kommer ...

Identifiera komplicerade grävande dummies

Identifiera komplicerade grävande dummies

Komplicerat roende är det tekniska namnet som sorgproffs ger till en sorgprocess som sitter fast vid något tillfälle , vilket gör det omöjligt för de förlorade att framgångsrikt starta eller avsluta sorgprocessen. Komplicerat sorg är ofta ett tecken på olösta problem i förhållandet mellan de förlorade och den avlidne som gör det ...

Redaktörens val

Hur man ställer in kartkontroller i Main_iPad. Storyboard i din iOS App - dummies

Hur man ställer in kartkontroller i Main_iPad. Storyboard i din iOS App - dummies

När du har en anpassad vy för MapController i din iOS-app, måste du berätta för iPad-storyboardet att du laddar in din anpassade vy i stället för en UIViewController. Följ dessa steg: Välj Projekt navigator genom att välja Main_iPad. storyboard och välj sedan View Controller i View Controller - Map Scene i dokumentutskriften. ...

Hur man roterar objekt i din iOS-app - dummies

Hur man roterar objekt i din iOS-app - dummies

Här hittar du hur man rotera en vy (i så fall vrid bilen runt) i din iOS-app. För att göra det uppdaterar du den roterande kodstuben du startade med och ersätter den med den fetstilta koden. - (void) rotera {CGAffineTransform transform = CGAffineTransformMakeRotation (M_PI); void (^ animation) () = ^ () {self. bil. transformera = transformera; ...

Hur man ställer in en WeatherController i Main_iPad. storyboard-fil för din iOS-app - dummies

Hur man ställer in en WeatherController i Main_iPad. storyboard-fil för din iOS-app - dummies

Bör du lägga till en ny anpassad vykontroll till din iOS-app innan du fortsätter till dessa steg. Du behöver fortfarande berätta för storyboardet att du vill att den ska ladda den nya anpassade vykontrollen istället för en UIViewController. Följ dessa steg:

Redaktörens val

Spara en grafisk stil i Adobe CS5 Illustrator - dummies

Spara en grafisk stil i Adobe CS5 Illustrator - dummies

Adobe Creative Suite 5 (Adobe CS5) Illustrator tillåter Du sparar en grafisk stil. En grafisk stil är en kombination av alla inställningar du väljer för ett visst filter eller en effekt i Utseendepanelen. Genom att spara informationen i en grafisk stil lagras du dessa attribut så att du snabbt och enkelt kan tillämpa ...

Välj som ett transformationsverktyg i Adobe CS5 Illustrator - dummies

Välj som ett transformationsverktyg i Adobe CS5 Illustrator - dummies

I Adobe Creative Suite 5 (Adobe CS5 ) Illustratör du kan använda markeringsverktyget för att skala och rotera ett valt objekt. Dra begränsningsboxens handtag för att ändra storlek på objektet, eller flytta dig utanför ett handtag och sedan, när markören ändras till en flippig pil (en böjd pil med pilhuvud i båda ändarna), dra till ...

Objekttransformation i Adobe CS5 Illustrator - dummies

Objekttransformation i Adobe CS5 Illustrator - dummies

Verktygen Rotate, Reflect, Scale och Shear i Adobe Creative Suite 5 (Adobe CS5) Illustrator använder alla samma grundläggande steg för att utföra transformationer. Här är fem sätt att transformera ett objekt: en för en godtycklig omvandling och fyra andra för exakta omvandlingar baserat på en numerisk mängd som du anger. Vilkårlig omvandlingsmetod Eftersom detta ...