Vilken version av Python använder spark?
Vilken version av Python använder spark?

Video: Vilken version av Python använder spark?

Video: Vilken version av Python använder spark?
Video: How To Install Python, Setup Virtual Environment VENV, Set Default Python System Path & Install Git 2024, December
Anonim

Gnista körs på Java 8+, Pytonorm 2,7+/3,4+ och R 3,1+. För Scala API, Gnista 2.3. 0 använder Scala 2.11. Du kommer behöva använda sig av en kompatibel Scala version (2.11.

På motsvarande sätt, fungerar spark med Python 3?

Apache Gnista är ett ramverk för klusterberäkningar, för närvarande ett av de mest aktivt utvecklade inom Big Data-arenan med öppen källkod. Sedan den senaste versionen 1.4 (juni 2015), Gnista stöder R och Python 3 (för att komplettera det tidigare tillgängliga stödet för Java, Scala och Pytonorm 2).

Förutom ovan, hur ändrar jag sparkversionen av Python? Om du bara vill förändra de python version för aktuell uppgift kan du använda följande pyspark startkommando: PYSPARK_DRIVER_PYTHON=/home/user1/anaconda2/bin/ pytonorm PYSPARK_PYTHON=/usr/local/anaconda2/bin/ pytonorm pyspark --master..

Dessutom, vilken är den senaste sparkversionen?

Apache Spark

Originalförfattare Matei Zaharia
Initial release 26 maj 2014
Stabil frisättning 2.4.5 / 8 februari 2020
Förvar Spark Repository
Skrivet i Scala

Vad är spark Python?

Tämja Big Data med Apache Gnista och Pytonorm Py4J är ett populärt bibliotek integrerat inom PySpark som låter pytonorm gränssnitt dynamiskt med JVM-objekt (RDD:s). Apache Gnista kommer med ett interaktivt skal för pytonorm som det gör för Scala. Skalet för pytonorm är känd som PySpark ”.

Rekommenderad: