Hem Personliga finanser MapReduces betydelse i Hadoop - dummies

MapReduces betydelse i Hadoop - dummies

Video: What Happens to Your Body While You Are Having Sex? 2024

Video: What Happens to Your Body While You Are Having Sex? 2024
Anonim

MapReduce har för det mesta av Hadops historia varit det enda spelet i staden när det gäller databehandling. Tillgången till MapReduce har varit orsaken till Hadops framgång och samtidigt en viktig faktor för att begränsa ytterligare antagande.

MapReduce gör det möjligt för skickliga programmerare att skriva distribuerade applikationer utan att behöva oroa sig för den underliggande distribuerade databehandlingsinfrastrukturen. Det här är en mycket stor sak: Hadoop och MapReduce-ramen hanterar all slags komplexitet som applikationsutvecklare inte behöver hantera.

Till exempel kan möjligheten att transparent skala ut klustret genom att lägga till noder och den automatiska övergången för både datalagring och databehandlingssubsystem sker med noll påverkan på applikationer.

Den andra sidan av myntet här är att även om MapReduce döljer en enorm mängd komplexitet, har du inte råd att glömma vad det är: ett gränssnitt för parallell programmering. Detta är en avancerad färdighet - och ett hinder för bredare adoption. Det finns helt enkelt inte många MapReduce-programmerare, och inte alla har kunskapen att behärska den.

I Hadops tidiga dagar (Hadoop 1 och tidigare) kunde du bara köra MapReduce-applikationer i dina kluster. I Hadoop 2 ändrades YARN-komponenten allt genom att ta över resurshantering och schemaläggning från MapReduce-ramen och tillhandahålla ett generellt gränssnitt för att underlätta applikationer att köras på ett Hadoop-kluster.

Kort sagt betyder det att MapReduce nu bara är en av många applikationsramar som du kan använda för att utveckla och köra applikationer på Hadoop. Även om det är säkert möjligt att köra applikationer med andra ramar på Hadoop, betyder det inte att vi kan börja glömma MapReduce.

MapReduce är för närvarande den enda produktionsberedda databehandlingsramen tillgänglig för Hadoop. Även om andra ramar så småningom kommer att bli tillgängliga, har MapReduce nästan ett decennium av modenhet under sitt bälte (med nästan 4, 000 JIRA-frågor slutförda, med hundratals utvecklare, om du håller på att spåra).

Det finns ingen tvist: MapReduce är Hadops mest mogna ramverk för databehandling. Dessutom är en betydande mängd MapReduce-kod nu i bruk som inte kommer att gå någonstans snart. Lång historia kort: MapReduce är en viktig del av Hadoop-historien.

Apache Hive och Apache Pig-projekten är mycket populära eftersom de är enklare tillträdespunkter för databehandling på Hadoop. För många problem, särskilt de typer som du kan lösa med SQL, Hive och Pig är utmärkta verktyg.Men för en bredare uppgift som statistisk bearbetning eller textutvinning, och särskilt för behandling av ostrukturerad data, måste du använda MapReduce.

MapReduces betydelse i Hadoop - dummies

Redaktörens val

Hur man lägger till text i en sätter () Funktion i C Programmering

Hur man lägger till text i en sätter () Funktion i C Programmering

När du behöver visa en annan textrad, använd C-programmeringsfärdigheterna för att skapa en annan puts () -funktion i källkoden, som visas i Visa två textlinjer. VISA TILL TEXTFINER # inkludera int main () {sätter ("Hickory, Dickory, Dock,"); sätter ("musen sprang klockan."); returnera (0);} Den andra ...

Förklarar variabler i C-dummies

Förklarar variabler i C-dummies

Variabler är det som gör dina program zooma. Programmering kan bara inte bli gjort utan dem. Så om du inte har introducerats till variabler än, här går du. Valerie Variable är en numerisk variabel. Hon älskar att hålla nummer - vilket nummer som helst; det spelar ingen roll. När hon ser ett lika tecken tar hon ett värde och ...

Redaktörens val

Gör rädsla för din vän - dummies

Gör rädsla för din vän - dummies

Rädsla är lika verklig som mod. Även om värdet av rädsla inte är lika uppenbart som modets värde, har det dess fördelar. Rädsla är din instinkt som säger att du är obehaglig - även om situationen inte kommer att skada dig. Alla har haft den känslan när man hellre drar locket ...

Hur man ökar din självmedvetenhet - dummies

Hur man ökar din självmedvetenhet - dummies

Du kommer att vara med dig själv under en livstid. Ingenting kommer att förändra det faktum. Att lära känna, som att lyssna på och uppskatta själv är avgörande för din sanity. Kanske kommer du till att älska, acceptera och omfamna alla du är, är svår för dig att föreställa dig just nu, men du kan göra ...

Hur man ökar din mentala flexibilitet - dummies

Hur man ökar din mentala flexibilitet - dummies

ÄR flexibel i arbete och relationer är ett tecken på en högpresterande. Medan perfektionister är styva och obehagliga i sitt arbete och hur de interagerar med andra, är högpresterande mer öppna och tillmötesgående. Att vara mer flexibel på jobbet gav Ralph aldrig förslag under brainstorming vid gruppmöten. Han kände att hans lag ...

Redaktörens val

Nätverksadministration: Linux-installation och virtuella konsoler - dummies

Nätverksadministration: Linux-installation och virtuella konsoler - dummies

Linux är i sig ett kommandoradsorienterat operativsystem. Grafiska användargränssnitt - inklusive installationsprogrammets GUI - tillhandahålls av en valfri komponent som heter X Window System. Men medan du arbetar med det grafiska användargränssnittet för installationsprogrammet, håller Linux flera ytterligare kommandorads-konsoler öppna. Normalt behöver du inte ...

Nätverksadministration: Linux-loggning, logg och systemavstängning - dummies

Nätverksadministration: Linux-loggning, logg och systemavstängning - dummies

Alla användare som åtkomst ett Linux-system, lokalt eller över ett nätverk, måste verifieras av ett giltigt användarkonto på systemet. I det följande får du veta hur du loggar in och ut på ett Linux-system och hur du stänger av systemet. Logga in När Linux startar upp visas det ...

Nätverksadministration: Licensserver - Dummies

Nätverksadministration: Licensserver - Dummies

I vissa program kan du köpa nätverkslicenser som gör att du kan installera programvaran på många datorer som du vill, men reglera antalet personer som kan använda programvaran vid en viss tidpunkt. För att styra hur många som använder programvaran, är en särskild licensserver inrättad. När en användare börjar ...