Hem Personliga finanser Mina Big Data med Hive-dummies

Mina Big Data med Hive-dummies

Video: Howto install Hive on Ubuntu 2024

Video: Howto install Hive on Ubuntu 2024
Anonim

Hive är ett satsinriktat datalagringslager byggt på core-elementen i Hadoop (HDFS och MapReduce) och är mycket användbar i stora data. Det ger användare som känner till SQL med en enkel SQL-lite-implementering som heter HiveQL utan att offra åtkomst via mappers och reduktionsapparater. Med Hive kan du få det bästa av båda världarna: SQL-liknande tillgång till strukturerad data och sofistikerad stor dataanalys med MapReduce.

Till skillnad från de flesta datalager är Hive inte utformat för snabba svar på frågor. Faktum är att frågor kan ta flera minuter eller till och med timmar beroende på komplexiteten. Som ett resultat är Hive bäst används för datavinnning och djupare analyser som inte kräver realtidsbeteenden. Eftersom den är beroende av Hadops fundament är den mycket utdragbar, skalbar och fjädrande, något som det genomsnittliga datalageret inte är.

Hive använder tre mekanismer för dataanalys:

  • Tabeller: Hive-tabeller är desamma som RDBMS-tabeller som består av rader och kolumner. Eftersom Hive lagras på Hadoop HDFS, kartläggs tabellerna till kataloger i filsystemet. Dessutom stöder Hive tabeller lagrade i andra inbyggda filsystem.

  • Uppdelningar: Ett Hive-bord kan stödja en eller flera partitioner. Dessa partitioner är mappade till underkataloger i det underliggande filsystemet och representerar fördelningen av data i hela tabellen. Till exempel, om en tabell heter autos, med ett nyckelvärde på 12345 och ett tillverkarvärde Ford, skulle sökvägen till partitionen vara / hivewh / bilar / kv = 12345 / Ford.

  • Skopor: I sin tur kan data delas upp i skopor. Skopor lagras som filer i partitionskatalogen i det underliggande filsystemet. Skoporna är baserade på hash av en kolumn i bordet. I det föregående exemplet kanske du har en hink som heter Focus, som innehåller alla attribut i en Ford Focus-bil.

Hive-metadata lagras externt i "metastore". "Metastoren är en relationsdatabas som innehåller de detaljerade beskrivningarna av Hive-schemat, inklusive kolumntyper, ägare, nyckel- och värdedata, tabellstatistik och så vidare. Metastoren kan synkronisera katalogdata med andra metadatatjänster i Hadoop ekosystemet.

Hive stöder ett SQL-liknande språk som heter HiveQL. HiveQL stöder många av SQL-primitiverna, till exempel välj, gå med, aggregera, fackliga alla, och så vidare. Den stöder också flervärdiga frågor och inlägg genom att dela in data i ett enda HiveQL-uttalande. HiveQL kan utökas för att stödja användardefinierad aggregering, kolonnomvandling och inbyggda MapReduce-skript.

Mina Big Data med Hive-dummies

Redaktörens val

Hur man lägger till text i en sätter () Funktion i C Programmering

Hur man lägger till text i en sätter () Funktion i C Programmering

När du behöver visa en annan textrad, använd C-programmeringsfärdigheterna för att skapa en annan puts () -funktion i källkoden, som visas i Visa två textlinjer. VISA TILL TEXTFINER # inkludera int main () {sätter ("Hickory, Dickory, Dock,"); sätter ("musen sprang klockan."); returnera (0);} Den andra ...

Förklarar variabler i C-dummies

Förklarar variabler i C-dummies

Variabler är det som gör dina program zooma. Programmering kan bara inte bli gjort utan dem. Så om du inte har introducerats till variabler än, här går du. Valerie Variable är en numerisk variabel. Hon älskar att hålla nummer - vilket nummer som helst; det spelar ingen roll. När hon ser ett lika tecken tar hon ett värde och ...

Redaktörens val

Gör rädsla för din vän - dummies

Gör rädsla för din vän - dummies

Rädsla är lika verklig som mod. Även om värdet av rädsla inte är lika uppenbart som modets värde, har det dess fördelar. Rädsla är din instinkt som säger att du är obehaglig - även om situationen inte kommer att skada dig. Alla har haft den känslan när man hellre drar locket ...

Hur man ökar din självmedvetenhet - dummies

Hur man ökar din självmedvetenhet - dummies

Du kommer att vara med dig själv under en livstid. Ingenting kommer att förändra det faktum. Att lära känna, som att lyssna på och uppskatta själv är avgörande för din sanity. Kanske kommer du till att älska, acceptera och omfamna alla du är, är svår för dig att föreställa dig just nu, men du kan göra ...

Hur man ökar din mentala flexibilitet - dummies

Hur man ökar din mentala flexibilitet - dummies

ÄR flexibel i arbete och relationer är ett tecken på en högpresterande. Medan perfektionister är styva och obehagliga i sitt arbete och hur de interagerar med andra, är högpresterande mer öppna och tillmötesgående. Att vara mer flexibel på jobbet gav Ralph aldrig förslag under brainstorming vid gruppmöten. Han kände att hans lag ...

Redaktörens val

Nätverksadministration: Linux-installation och virtuella konsoler - dummies

Nätverksadministration: Linux-installation och virtuella konsoler - dummies

Linux är i sig ett kommandoradsorienterat operativsystem. Grafiska användargränssnitt - inklusive installationsprogrammets GUI - tillhandahålls av en valfri komponent som heter X Window System. Men medan du arbetar med det grafiska användargränssnittet för installationsprogrammet, håller Linux flera ytterligare kommandorads-konsoler öppna. Normalt behöver du inte ...

Nätverksadministration: Linux-loggning, logg och systemavstängning - dummies

Nätverksadministration: Linux-loggning, logg och systemavstängning - dummies

Alla användare som åtkomst ett Linux-system, lokalt eller över ett nätverk, måste verifieras av ett giltigt användarkonto på systemet. I det följande får du veta hur du loggar in och ut på ett Linux-system och hur du stänger av systemet. Logga in När Linux startar upp visas det ...

Nätverksadministration: Licensserver - Dummies

Nätverksadministration: Licensserver - Dummies

I vissa program kan du köpa nätverkslicenser som gör att du kan installera programvaran på många datorer som du vill, men reglera antalet personer som kan använda programvaran vid en viss tidpunkt. För att styra hur många som använder programvaran, är en särskild licensserver inrättad. När en användare börjar ...