Hem Personliga finanser Skrapning, insamling och hantering av datavetenskapsverktyg - dummies

Skrapning, insamling och hantering av datavetenskapsverktyg - dummies

Innehållsförteckning:

Video: Build Tomorrow's Library by Jeffrey Licht 2025

Video: Build Tomorrow's Library by Jeffrey Licht 2025
Anonim

Om du behöver data för att stödja en företagsanalys eller en kommande journalistik, kan webbskrapning hjälpa dig att spåra intressanta och unika datakällor. I webbskrapning konfigurerar du automatiserade program och låter dem skura webben för de data du behöver. Här är gratis verktyg som du kan använda för att skrapa data eller bilder, inklusive import. io, ImageQuilts och DataWrangler.

Skrapdata med import. io

Har du någonsin försökt att kopiera och klistra in ett bord från webben till ett Microsoft Office-dokument och sedan inte lyckats få kolumnerna att ordna sig rätt? Fräckande, eller hur? Det här är exakt smärtan som importeras. Io var utformad för att ta itu med.

import. io-uttalad "import-eye-oh" - är ett gratis skrivbordsprogram som du kan använda för att smärtfritt kopiera, klistra in, rengöra och formatera vilken del av en webbsida som helst med några få musklick. Du kan även använda importen. för att automatiskt krypa och extrahera data från flersidiga listor.

Använda import. Io kan du skrapa data från en enkel eller komplicerad serie webbsidor:

  • Enkelt: Öppna webbsidorna genom enkla hyperlänkar som visas på sidan 1, sidan 2, s. 3.

  • Komplicerat: > Fyll i ett formulär eller välj från en rullgardinslista och skicka in din skrapförfrågan till verktyget. import. IOs mest imponerande funktion är dess förmåga att observera dina musklick för att lära dig vad du vill, och sedan erbjuda dig sätt att det automatiskt kan slutföra dina uppgifter för dig. Även om importen. jag lär mig och föreslår uppgifter, det handlar inte om åtgärderna förrän du har markerat förslaget som korrekt. Följaktligen minskar dessa humanförhöjda interaktioner risken för att maskinen kommer att dra en felaktig slutsats på grund av över gissning.

Samla bilder med ImageQuilts

ImageQuilts är en Chrome-förlängning som delvis utvecklats av den legendariska Edward Tufte, en av de första stora pionjärerna inom datavisualisering - han populariserade användningen av data-till- bläckförhållande för att bedöma effektiviteten av diagram.

Uppgiften ImageQuilts utför är bedrägligt enkel att beskriva men mycket komplex att implementera. ImageQuilts gör collages av tiotals bilder och delar dem alla tillsammans i ett "quilt" som består av flera rader med samma höjd. Denna uppgift kan vara komplex eftersom källbilderna nästan aldrig är lika stora. ImageQuilts skrapar och ändrar bilderna innan de sätts ihop i en utmatningsbild.

Den visade bildduken härleddes från en Google-sökning med etikett för återanvändning av termen

data science . ImageQuilts tillåter dig även att välja bildordning eller att randomisera dem. Du kan använda verktyget för att dra och släppa någon bild till vilken plats som helst, ta bort en bild, zooma alla bilder samtidigt eller zooma varje bild individuellt.

Du kan även använda verktyget för att dölja mellan bildfärger - från färg till gråskala eller inverterad färg (vilket är praktiskt för att skapa kontaktblad med negativ, om du är en av de sällsynta personer som fortfarande behandlar analog fotografi).

Wrangling data med DataWrangler

DataWrangler är ett onlineverktyg som stöds av University of Washington Interactive Data Lab (då DataWrangler utvecklades, kallades denna grupp för Stanford Visualization Group). Samma grupp utvecklade Lyra, en interaktiv datavisualiseringsmiljö som du kan använda för att skapa komplexa visualiseringar utan programmeringserfarenhet.

Om ditt mål är att

sculpt ditt dataset - eller städa upp saker genom att flytta saker som en skulptör skulle (dela den här delen i två, skära av den och flytta den där borta, tryck ner den här så att allt under det blir skiftat till höger, och så vidare) - DataWrangler är verktyget för dig. Du kan göra manipuleringar med DataWrangler liknande det du kan göra i Excel med Visual Basic. Du kan till exempel använda DataWrangler eller Excel med Visual Basic för att kopiera, klistra in och formatera information från listor på Internet.

DataWrangler föreslår även åtgärder baserade på ditt dataset och kan repetera komplexa åtgärder över hela dataset - åtgärder som att eliminera hoppade rader, dela upp data från en kolumn till två eller ändra en rubrik i kolumndata. DataWrangler kan också visa var din dataset saknar data.

Saknade data kan indikera ett formateringsfel som behöver rengöras.

Skrapning, insamling och hantering av datavetenskapsverktyg - dummies

Redaktörens val

Vad är en Java-karta? - dummies

Vad är en Java-karta? - dummies

Arrays och specialiserade listor gör det möjligt att utföra en fantastisk uppsättning uppgifter med Java. Det finns dock situationer där en Java-applikation behöver något som är mer relaterat till en databas, utan att egentligen ha allt databasbagage (som att behöva köpa en separat applikation). Till exempel kanske du vill kunna ...

Några få saker om Java Math - dummies

Några få saker om Java Math - dummies

Tro det eller inte, datorer - även de mest kraftfulla - Ha vissa begränsningar när det gäller att utföra matematiska beräkningar. Dessa begränsningar är vanligtvis obetydliga, men ibland slår de sig och biter på dig. Här är de saker du behöver se upp för när du gör matte i Java. Helhetsflöde Det grundläggande problemet ...

Vad är recursion i Java Programmering? - dummies

Vad är recursion i Java Programmering? - dummies

Rekursion är en grundläggande programmeringsteknik som du kan använda i Java, där en metod kallar sig för att lösa ett problem. En metod som använder denna teknik är rekursiv. Många programmeringsproblem kan lösas endast genom rekursion, och vissa problem som kan lösas med andra tekniker löses bättre genom rekursion. En av ...

Redaktörens val

4 Måste-inkludera i din blogg sidobardesign - dummies

4 Måste-inkludera i din blogg sidobardesign - dummies

Din bloggens sidofält är viktig fastighet som bör innehålla de element du vill ha mest. När du utformar din blogg sidofält kan du dra från en nästan oändlig lista över sidospårelement. Genom att välja noggrant vad som ska inkluderas (och vad som inte ska inkluderas) kan du ställa in din blogg från andra.

5 Användbara Wordpress Plugins - dummies

5 Användbara Wordpress Plugins - dummies

Om du bloggar på en självhävd plattform med WordPress-programvara, är det dags att anpassa din blogg med plug-ins - programvara som kan "anslutas" till din befintliga WordPress bloggprogramvara. Plug-ins gör det möjligt för dig att göra allt från funktionsbildspel i dina blogginlägg för att ansluta sociala medier till din webbplats. Här är fem användbara ...

7 Sätt att erövra Writer's Block som en Blogger - dummies

7 Sätt att erövra Writer's Block som en Blogger - dummies

Varje bloggare möter författarens block i ett tid eller annan. Om du är den typ av bloggare som sköter innehåll varje dag, kan författarens block vara stäverande. Kan du inte ta en paus för att få ditt skrivande mojo tillbaka? Prova en (eller flera) av dessa sju sätt att slå författarens block för att få dig tillbaka ...

Redaktörens val

10 Stora elektronikkomponentkällor - dummies

10 Stora elektronikkomponentkällor - dummies

Letar du efter några bra källor till dina elektroniska delar? Denna lista ger dig några fleråriga favoriter, både inom och utanför Nordamerika. Denna lista är inte uttömmande. Du hittar bokstavligen tusentals specialutbud för ny och begagnad elektronik. Plus, Amazon och eBay ger virtuella marknadsplatser för alla sorters säljare - ...

Elektronik Basics: Resistance - dummies

Elektronik Basics: Resistance - dummies

I elektronikvärlden är motståndet inte meningslöst. Faktum är att motstånd kan vara mycket användbart. Utan motstånd skulle elektronik inte vara möjligt. Elektronik handlar om att manipulera strömmen av ström, och ett av de mest grundläggande sätten att manipulera strömmen är att minska det genom resistans. Utan motstånd strömmar strömmen oreglerad och där ...

Digital elektronik: Så här installerar du BASIC Stamp Editor och Anslut till Stämpeldummorna

Digital elektronik: Så här installerar du BASIC Stamp Editor och Anslut till Stämpeldummorna

För att berätta för BASIC Stamp vad du vill göra i ditt digitala elektronikprojekt måste du programmera det. BASIC Stamp Windows Editor är den programvara som du använder på din dator för att skapa program som kan laddas ner till en BASIC Stamp-mikrokontroller. Denna programvara är tillgänglig gratis från Parallax webbplats. ...