Hem Personliga finanser Utveckla Oozie Workflows i Hadoop-dummies

Utveckla Oozie Workflows i Hadoop-dummies

Video: The future we're building -- and boring | Elon Musk 2024

Video: The future we're building -- and boring | Elon Musk 2024
Anonim

Oozie-arbetsflöden är i sin tur inriktade grafer, där du kan definiera åtgärder (Hadoop-applikationer) och dataflöde men utan looping - vilket betyder att du kan " t definiera en struktur där du skulle köra en viss operation om och om tills något villkor är uppfyllt (t.ex. för loop).

Oozie-arbetsflöden är ganska flexibla, eftersom du kan definiera villkorsbaserade beslut och gaffelbanor för parallellt utförande. Du kan också utföra ett brett utbud av åtgärder.

I denna figur ser du ett arbetsflöde som visar de grundläggande egenskaperna hos Oozie-arbetsflöden. Först körs ett grisskript, och följs omedelbart av ett beslutsträd. Beroende på utmatningstillståndet kan kontrollflödet antingen gå direkt till en HDFS (Hadoop Distributed File System) -filoperation (till exempel en copyToLocal-operation) eller till en gaffelåtgärd.

Om kontrollflödet passerar till gaffelåtgärden körs två jobb samtidigt: ett MapReduce-jobb och en Hive-fråga. Kontrollflödet går sedan till HDFS-operationen när både MapReduce-jobbet och Hive-frågan är färdiga. Efter HDFS-operationen är arbetsflödet komplett.

Oozies arbetsflödesdefinitioner skrivs i XML, baserat på HOPDL-schemat (Hadoop Process Definition Language). Detta specifika schema är i sin tur baserat på XML Process Definition Language (XPDL) schema, som är en produktoberoende standard för modellering av affärsprocessdefinitioner.

Ett Oozie-arbetsflöde består av en serie åtgärder som kodas av XML-noder. Det finns olika typer av noder som representerar olika typer av åtgärder eller kontrollflödirektiv. Varje Oozie-arbetsflöde har sin egen XML-fil, där varje nod och dess sammankopplingar definieras.

Arbetsflödesnoder kräver alla unika identifierare eftersom de används för att identifiera nästa nod som ska behandlas i arbetsflödet. Det betyder att den ordning i vilken åtgärderna utförs beror på var en åtgärds nod visas i arbetsflödet XML. För att se hur detta koncept skulle se ut, kolla in följande lista, vilket visar ett exempel på den grundläggande strukturen i en Oozie-arbetsflödes XML-fil.

… … "Dödat jobb."

I det här exemplet har du två åtgärdsnoder, förutom start-, slut- och dödsnoder. Varje åtgärdskod representerar en applikation eller ett kommando som körs.

Utveckla Oozie Workflows i Hadoop-dummies

Redaktörens val

Hur man lägger till text i en sätter () Funktion i C Programmering

Hur man lägger till text i en sätter () Funktion i C Programmering

När du behöver visa en annan textrad, använd C-programmeringsfärdigheterna för att skapa en annan puts () -funktion i källkoden, som visas i Visa två textlinjer. VISA TILL TEXTFINER # inkludera int main () {sätter ("Hickory, Dickory, Dock,"); sätter ("musen sprang klockan."); returnera (0);} Den andra ...

Förklarar variabler i C-dummies

Förklarar variabler i C-dummies

Variabler är det som gör dina program zooma. Programmering kan bara inte bli gjort utan dem. Så om du inte har introducerats till variabler än, här går du. Valerie Variable är en numerisk variabel. Hon älskar att hålla nummer - vilket nummer som helst; det spelar ingen roll. När hon ser ett lika tecken tar hon ett värde och ...

Redaktörens val

Gör rädsla för din vän - dummies

Gör rädsla för din vän - dummies

Rädsla är lika verklig som mod. Även om värdet av rädsla inte är lika uppenbart som modets värde, har det dess fördelar. Rädsla är din instinkt som säger att du är obehaglig - även om situationen inte kommer att skada dig. Alla har haft den känslan när man hellre drar locket ...

Hur man ökar din självmedvetenhet - dummies

Hur man ökar din självmedvetenhet - dummies

Du kommer att vara med dig själv under en livstid. Ingenting kommer att förändra det faktum. Att lära känna, som att lyssna på och uppskatta själv är avgörande för din sanity. Kanske kommer du till att älska, acceptera och omfamna alla du är, är svår för dig att föreställa dig just nu, men du kan göra ...

Hur man ökar din mentala flexibilitet - dummies

Hur man ökar din mentala flexibilitet - dummies

ÄR flexibel i arbete och relationer är ett tecken på en högpresterande. Medan perfektionister är styva och obehagliga i sitt arbete och hur de interagerar med andra, är högpresterande mer öppna och tillmötesgående. Att vara mer flexibel på jobbet gav Ralph aldrig förslag under brainstorming vid gruppmöten. Han kände att hans lag ...

Redaktörens val

Nätverksadministration: Linux-installation och virtuella konsoler - dummies

Nätverksadministration: Linux-installation och virtuella konsoler - dummies

Linux är i sig ett kommandoradsorienterat operativsystem. Grafiska användargränssnitt - inklusive installationsprogrammets GUI - tillhandahålls av en valfri komponent som heter X Window System. Men medan du arbetar med det grafiska användargränssnittet för installationsprogrammet, håller Linux flera ytterligare kommandorads-konsoler öppna. Normalt behöver du inte ...

Nätverksadministration: Linux-loggning, logg och systemavstängning - dummies

Nätverksadministration: Linux-loggning, logg och systemavstängning - dummies

Alla användare som åtkomst ett Linux-system, lokalt eller över ett nätverk, måste verifieras av ett giltigt användarkonto på systemet. I det följande får du veta hur du loggar in och ut på ett Linux-system och hur du stänger av systemet. Logga in När Linux startar upp visas det ...

Nätverksadministration: Licensserver - Dummies

Nätverksadministration: Licensserver - Dummies

I vissa program kan du köpa nätverkslicenser som gör att du kan installera programvaran på många datorer som du vill, men reglera antalet personer som kan använda programvaran vid en viss tidpunkt. För att styra hur många som använder programvaran, är en särskild licensserver inrättad. När en användare börjar ...