Hem Personliga finanser Apache Hadoop Ecosystem - dummies

Apache Hadoop Ecosystem - dummies

Video: Hadoop Tutorial For Beginners | Hadoop Ecosystem Explained in 20 min! - Frank Kane 2025

Video: Hadoop Tutorial For Beginners | Hadoop Ecosystem Explained in 20 min! - Frank Kane 2025
Anonim

Hadoop är mer än MapReduce och HDFS (Hadoop Distributed File System): Det är också en familj av relaterade projekt (ett ekosystem egentligen) för distribuerad databehandling och storskalig databehandling. De flesta (men inte alla) av dessa projekt är värd Apache Software Foundation. I tabellen visas några av dessa projekt.

Relaterade Hadoop-projekt

Projektnamn Beskrivning
Ambari En integrerad uppsättning Hadoop-administrationsverktyg för

installering, övervakning och underhåll av ett Hadoop-kluster. Även

ingår verktyg för att lägga till eller ta bort slavnoder.

Avro En ram för effektiv serialisering (en typ av

transformation) av data till ett kompakt binärt format

Flume En dataflödesservice för rörelse av stora volymer av logg > data i Hadoop

HBase

En distribuerad kolumn databas som använder HDFS för dess underliggande lagring . Med HBase kan du lagra data i extremt

stora tabeller med variabla kolumnstrukturer.

HCatalog

En tjänst för att tillhandahålla en relationsvy av data som lagras i Hadoop, inklusive en standardinriktning för tabelldata

Hive

Ett distribuerat datalager för data som lagras i HDFS; ger också ett frågeformulär som bygger på SQL

(HiveQL)

Hue

Ett Hadoop-administrationsgränssnitt med praktiska GUI-verktyg för surfa filer, utfärdar Hive and Pig-frågor och utvecklar Oozie < arbetsflöden

Mahout

Ett bibliotek med maskininlärningsstatistikalgoritmer som

implementerades i MapReduce och kan köras på Hadoop Oozie

Ett arbetsflödeshanteringsverktyg som kan hantera schemaläggningen och > Kedja ihop med Hadoop-applikationer

Pig En plattform för analys av mycket stora dataset som körs

på HDFS och med ett infrastrukturlager som består av en kompilator

som producerar sekvenser av MapReduce-program och en språkskikt bestående av frågespråket namnet Pig Latin

Sqoop

Ett verktyg för att effektivt flytta stora mängder data mellan

relationsdatabaser och HDFS

ZooKeeper Ett enkelt gränssnitt till det centraliserade samordning av tjänster

(t.ex. namn, konfiguration och synkronisering) oss ed av

distribuerade applikationer

Hadops ekosystem och dess kommersiella distributioner fortsätter att utvecklas, med nya eller förbättrade tekniker och verktyg som växer hela tiden.

Figuren visar de olika Hadops ekosystemprojekten och hur de relaterar till varandra:

Apache Hadoop Ecosystem - dummies

Redaktörens val

Vad är en Java-karta? - dummies

Vad är en Java-karta? - dummies

Arrays och specialiserade listor gör det möjligt att utföra en fantastisk uppsättning uppgifter med Java. Det finns dock situationer där en Java-applikation behöver något som är mer relaterat till en databas, utan att egentligen ha allt databasbagage (som att behöva köpa en separat applikation). Till exempel kanske du vill kunna ...

Några få saker om Java Math - dummies

Några få saker om Java Math - dummies

Tro det eller inte, datorer - även de mest kraftfulla - Ha vissa begränsningar när det gäller att utföra matematiska beräkningar. Dessa begränsningar är vanligtvis obetydliga, men ibland slår de sig och biter på dig. Här är de saker du behöver se upp för när du gör matte i Java. Helhetsflöde Det grundläggande problemet ...

Vad är recursion i Java Programmering? - dummies

Vad är recursion i Java Programmering? - dummies

Rekursion är en grundläggande programmeringsteknik som du kan använda i Java, där en metod kallar sig för att lösa ett problem. En metod som använder denna teknik är rekursiv. Många programmeringsproblem kan lösas endast genom rekursion, och vissa problem som kan lösas med andra tekniker löses bättre genom rekursion. En av ...

Redaktörens val

4 Måste-inkludera i din blogg sidobardesign - dummies

4 Måste-inkludera i din blogg sidobardesign - dummies

Din bloggens sidofält är viktig fastighet som bör innehålla de element du vill ha mest. När du utformar din blogg sidofält kan du dra från en nästan oändlig lista över sidospårelement. Genom att välja noggrant vad som ska inkluderas (och vad som inte ska inkluderas) kan du ställa in din blogg från andra.

5 Användbara Wordpress Plugins - dummies

5 Användbara Wordpress Plugins - dummies

Om du bloggar på en självhävd plattform med WordPress-programvara, är det dags att anpassa din blogg med plug-ins - programvara som kan "anslutas" till din befintliga WordPress bloggprogramvara. Plug-ins gör det möjligt för dig att göra allt från funktionsbildspel i dina blogginlägg för att ansluta sociala medier till din webbplats. Här är fem användbara ...

7 Sätt att erövra Writer's Block som en Blogger - dummies

7 Sätt att erövra Writer's Block som en Blogger - dummies

Varje bloggare möter författarens block i ett tid eller annan. Om du är den typ av bloggare som sköter innehåll varje dag, kan författarens block vara stäverande. Kan du inte ta en paus för att få ditt skrivande mojo tillbaka? Prova en (eller flera) av dessa sju sätt att slå författarens block för att få dig tillbaka ...

Redaktörens val

10 Stora elektronikkomponentkällor - dummies

10 Stora elektronikkomponentkällor - dummies

Letar du efter några bra källor till dina elektroniska delar? Denna lista ger dig några fleråriga favoriter, både inom och utanför Nordamerika. Denna lista är inte uttömmande. Du hittar bokstavligen tusentals specialutbud för ny och begagnad elektronik. Plus, Amazon och eBay ger virtuella marknadsplatser för alla sorters säljare - ...

Elektronik Basics: Resistance - dummies

Elektronik Basics: Resistance - dummies

I elektronikvärlden är motståndet inte meningslöst. Faktum är att motstånd kan vara mycket användbart. Utan motstånd skulle elektronik inte vara möjligt. Elektronik handlar om att manipulera strömmen av ström, och ett av de mest grundläggande sätten att manipulera strömmen är att minska det genom resistans. Utan motstånd strömmar strömmen oreglerad och där ...

Digital elektronik: Så här installerar du BASIC Stamp Editor och Anslut till Stämpeldummorna

Digital elektronik: Så här installerar du BASIC Stamp Editor och Anslut till Stämpeldummorna

För att berätta för BASIC Stamp vad du vill göra i ditt digitala elektronikprojekt måste du programmera det. BASIC Stamp Windows Editor är den programvara som du använder på din dator för att skapa program som kan laddas ner till en BASIC Stamp-mikrokontroller. Denna programvara är tillgänglig gratis från Parallax webbplats. ...