Apache Sqoop

Apache Sqoop

Information
Entwickelt von Apache Software Foundation
Erste Version 21. September 2014
Letzte Version 1.4.7 (Dezember 2017)
Anzahlung https://gitbox.apache.org/repos/asf?p=sqoop.git
Geschrieben in Java
Umgebung Java virtuelle Maschine
Lizenz Apache-Lizenz Version 2.0
Webseite https://sqoop.apache.org/

Sqoop ist eine Anwendungsbefehlszeilenschnittstelle zum Übertragen von Daten zwischen relationalen Datenbanken und Hadoop . Es unterstützt das differenzielle Laden einer einzelnen Tabelle oder SQL- Abfrage sowie gespeicherte Aufgaben, die mehrmals ausgeführt werden können, um Aktualisierungen zu importieren, die seit dem letzten Import an einer Datenbank vorgenommen wurden. Importe können auch zum Auffüllen von Tabellen in Hive oder HBase verwendet werden . Exporte können verwendet werden, um Daten aus Hadoop in eine relationale Datenbank zu stellen. Der Name Sqoop ist ein Portmanteau- Wort bestehend aus sql und hadoop. März 2012 Sqoop ist zu einem hochrangigen Apache-Projekt geworden .

Informatica bietet einen Connector für Sqoop ab Version 10.1. Informatica unterstützt sowohl Import- als auch Exportaktionen, die häufig für die Datenintegration in Hadoop verwendet werden.

Pentaho hat in seiner ETL seit Version 4.5 der Software auch Open-Source- Konnektoren bereitgestellt, die auf Sqoop ( Sqoop Importat und Sqoop à Export ) basieren . Microsoft verwendet einen Sqoop-basierten Connector, um Daten von Microsoft SQL Server in Hadoop-Datenbanken zu übertragen. Couchbase, Inc. bietet über Sqoop auch einen Couchbase Server-Hadoop-Connector an.

Im Jahr 2015 beschrieb Ralph Kimball Sqoop unter dem Titel The Future of ETL wie folgt  : „  In der ETL-Umgebung müssen mehrere große Änderungen stattfinden. Erstens müssen die Datenfeeds aus Originalquellen große Bandbreiten unterstützen, mindestens Gigabyte pro Sekunde. Erfahren Sie mehr über das Laden von Daten durch Sqoop in Hadoop. Wenn Ihnen diese Wörter nichts bedeuten, müssen Sie etwas lesen! Beginnen Sie mit Wikipedia.  " ( " In der ETL-Umgebung müssen mehrere wichtige Änderungen vorgenommen werden. Erstens muss der Datenfluss aus Originalquellen eine große Bandbreite von mindestens mehreren Gigabyte pro Sekunde unterstützen. Fragen Sie nach den Ladedaten von Sqoop in Hadoop. Wenn diese Wörter nicht zutreffen klingeln Sie, Sie haben etwas zu lesen! Beginnen Sie mit Wikipedia. ” ).

Anmerkungen und Referenzen

  1. "  https://projects.apache.org/json/projects/sqoop.json  " (Zugriff am 8. April 2020 )
  2. "  Hadoop: Apache Sqoop  " (abgerufen am 8. September 2012 )
  3. "  Apache Sqoop - Übersicht  " (abgerufen am 8. September 2012 )
  4. "  Apache Sqoop Absolventen des Inkubators  " (abgerufen am 8. September 2012 )
  5. (en-US) "  Sqoop Import  " [ Archiv von10. Dezember 2015] , Pentaho ,10. Dezember 2015(Zugriff auf den 10. Dezember 2015 )  : „  Mit dem Sqoop-Importjob können Sie mit Apache Sqoop Daten aus einer relationalen Datenbank in das Hadoop Distributed File System (HDFS) importieren.  ""
  6. (en-US) "  Sqoop Export  " [ Archiv von10. Dezember 2015] , Pentaho ,10. Dezember 2015(Zugriff auf den 10. Dezember 2015 )  : „  Mit dem Sqoop-Exportjob können Sie Daten aus Hadoop mit Apache Sqoop in ein RDBMS exportieren.  ""
  7. (en-US) “  Pentaho, Anbieter von Big Data Analytics, kündigt eine engere Integration mit Cloudera an; Erweitert die visuelle Benutzeroberfläche um Hadoop Sqoop und Oozie  “ [ Archiv von8. Dezember 2015] , Datenbanktrends und -anwendungen (dbta.com),27. Juli 2012(abgerufen am 8. Dezember 2015 )  : „  Pentahos Business Analytics 4.5 ist jetzt für die neuesten Versionen von Cloudera, Cloudera Enterprise 4.0 und CDH4, zertifiziert. Pentaho gab außerdem bekannt, dass die Funktionen seines Visual Design Studios auf die Sqoop- und Oozie-Komponenten von Hadoop erweitert wurden.  " .
  8. "  Microsoft SQL Server Connector für Apache Hadoop  " (abgerufen am 8. September 2012 )
  9. "  Couchbase Hadoop Connector  " (abgerufen am 8. September 2012 )
  10. (en-US) Ralph Kimball , "  Designtipp Nr. 180 Die Zukunft ist hell  " [ Archiv von3. Dezember 2015] , Kimball Group ,1 st Dezember 2015(abgerufen am 3. Dezember 2015 ) .

Anhänge

Zum Thema passende Artikel

Externe Links