apache-spark-sql

Réparation de la table hive à l'aide de hiveContext en java

Je veux réparer la table hive pour toutes les partitions nouvellement ajoutées/supprimées.Au lieu d'exécuter manuellement la ... anshu","mytable").getAllPartitions()); Existe-t-il un moyen d'ajouter/supprimer des partitions dans hive en utilisant java?

Problème dans regex remplacer dans Apache Spark Java

Nous sommes actuellement confrontés à quelques problèmes 1. "org.Apache.étincelle.SQL.catalyseur.expression.GeneratedClass G ... col("ManufacturerSource"),str,manufacturerNames.get(str).toString())); } dataFileContent.show();

Java spark accès au magasin d'objets emc via l'API S3

Puis-je obtenir une référence pour les api de Java+ spark sql accédant au magasin d'objets emc via l'api S3. J'ai essayé de n ... sin d'objets sur emc qui autorise les noms de compartiments avec " ". Mais je veux y accéder par spark sql mais via l'api S3.

Obtenir au hasard java.lang.ClassCastException dans snappy job

Le travail accrocheur écrit en Scala abandonne avec une exception: Java.lang.ClassCastException: com.....Class Class1 ne peut ... r.SnappyExecutor an anon 2 2 an anon 3 3.exécuter (SnappyExecutor.scala: 57) à java.lang.Fil.exécuter (Thread.java: 748)

Spark java.lang.NoClassDefFoundError: org/apache/spark/sql/exécution/datasources/v2/FileDataSourceV2

J'essaie actuellement de spark-soumettre un pot de graisse à un cluster local, que j'ai développé en utilisant Spark 2.4.6; S ... =============Successfully wrote to avro consumer on localhost kafka consumer========================" + "\n"+ "\n") } }

Riparazione della tabella hive utilizzando hiveContext in java

Voglio riparare la tabella hive per tutte le partizioni appena aggiunte/eliminate.Invece di eseguire manualmente il comando d ... e().getTable("anshu","mytable").getAllPartitions()); C'è un modo per aggiungere / rimuovere partizioni in hive usando java?

Problema in regex sostituire in Apache Spark Java

Attualmente stiamo affrontando un paio di problemi 1. "org.Apache.scintilla.sql.Catalyst.espressione.GeneratedClass Gener Gen ... col("ManufacturerSource"),str,manufacturerNames.get(str).toString())); } dataFileContent.show();

Java spark accesso all'archivio oggetti emc tramite l'API S3

Posso ottenere un riferimento per le api di Java+ spark sql che accedono all'archivio oggetti emc tramite l'api S3. Ho provat ... archivio di oggetti su emc che consente nomi di bucket con " ". Ma voglio accedere a questo da spark sql ma tramite l'api S3.

Casualmente ottenere java.lang.ClassCastException nel lavoro snappy

Il lavoro Snappy scritto in Scala viene interrotto con eccezione: Java.lang.ClassCastException: com.....$Class1 non può esser ... tore.SnappyExecutor an anon 2 2 an anon 3 3.esegui (SnappyExecutor.scala: 57) a java.lang.Thread.esegui (Thread.java:748)

Spark java.lang.NoClassDefFoundError: org / apache / spark / sql / execution / datasources / v2 / FileDataSourceV2

Attualmente sto cercando di spark-inviare un fat jar a un cluster locale, che ho sviluppato usando Spark 2.4.6; Scala 2.11.12 ... =============Successfully wrote to avro consumer on localhost kafka consumer========================" + "\n"+ "\n") } }